ai虚拟数字人软件破解-了望台 | 注意！ “AI换脸”骗局具有政治含义

近期，各地曝光多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”冒充领导干部实施诈骗，值得高度警惕

部分领导干部因工作原因出镜率较高，这为骗子提供了丰富的人脸识别素材； 电视、广播新闻中也能找到一些领导干部相同讲话的大段内容ip形象，这使得“造假成本”更低。

随着人工智能技术的普及应用，犯罪分子实施诈骗行为变得更加精准、迷惑、隐蔽。 公安、检察机关等政法机关将面临侦查破案难、电子证据获取难、识别处理难等现实困难。

文章| 《瞭望》新闻周刊记者 吴帅帅 刘依德兰 天明

近日，北方某地警方公布了一起利用“人工智能换脸”诈骗客户的案件。 诈骗者利用人工智能技术吉祥物设计，通过微信视频通话与受害人沟通十多分钟，为受害人转账数百万元。

引人关注的是，此案不仅是一起新型网络诈骗案，而且还是一起政治诈骗案。

犯罪分子模仿的人是受害人认识的一位领导干部。 在微信视频聊天中，骗子“变脸”后提出，其朋友有项目押金，需要借用受害人公司的公众账号转钱。 视频中，骗子“换脸”后，面部表情自然，声音逼真。 受害人放松警惕，汇款后打电话确认。 这时他才意识到自己被骗了。

“AI换脸”、“AI拟声词”、虚拟场景搭建……随着设备性能的提升和技术软件的优化，利用“AI换脸”技术实施诈骗已成为新型网络诈骗手段。欺诈罪。 近期，各地曝光多起人工智能“辅助”诈骗案件。 一些不法分子利用人工智能“深度伪造”冒充领导干部进行诈骗，值得高度警惕。

由于工作原因，一些领导干部的人脸、声音等生物特征信息更容易获取，人工智能学习和利用带来的潜在危害也更大。 接受《瞭望》新闻周刊采访的业内人士表示，社会各界要提高防诈骗、防诈骗意识，有关部门要依法加大对人工智能“辅助”诈骗案件的执法力度，严肃追究并追究相关人员的法律责任。

朱艾米丽/本刊摄影

眼见不一定为实

最近，华北某地的一位地方干部正在担心一件事。 有人用他的名字给他的一大批亲友添加了微信好友。

“我加亲戚朋友为好友后，骗子还给他们打了视频电话，通话只持续了几秒钟，朋友们都觉得声音和画面有点相似。” 该干部表示，直到很多朋友打电话询问。 他只是了解了具体情况。

“估计下一步就是骗钱了，所以这几天我在微信朋友圈发了好几条消息，提醒大家。” 这位干部说。

接受采访的业内人士表示，只要有足够的图像和音频材料，不法分子就可以利用人工智能“换脸”软件、合成语音软件伪造虚拟图像，实施诈骗。 “你只需要提取至少10个字符，最多32个字符，就可以合成它的声音。” 国家电网信息通信产业集团安全研究专家赵明明告诉记者。

一些领导干部因工作原因出镜率较高，这为骗子提供了丰富的人脸识别素材； 电视、广播新闻中也能找到一些领导干部的大段相同讲话，这使得“造假成本”更低。

有些情况下，不法分子利用“人工智能换脸”合成视频等方式，伪造与领导干部会面、照片等内容实施诈骗，加大了政治诈骗的欺骗性和危害性。

AI诈骗四大趋势

中国信息通信研究院相关负责人表示，当前，人工智能“辅助”诈骗有四大趋势。 随着人工智能技术的普及应用，犯罪分子实施诈骗行为变得更加精准、迷惑、隐蔽。 公安、检察机关等政法机关将面临侦查破案、获取电子证据、鉴定处理困难等现实困难。

——技术成本由高转低。 腾讯安全玄武实验室负责人于洋告诉记者，随着技术的发展，人工智能“深度伪造”、“深度合成”已经成为一种可以低成本实现的技术。

——技术应用由单一向多元转变。 腾讯互联网安全专家杨健表示，实施人工智能“辅助”诈骗一般需要满足多个要素ai虚拟数字人软件破解，包括非法获取信息、建立熟人账号、“换脸变声”、破解手机拍照权限等。 ，涉及多项技术手段。

——虚假身份从模糊到具体。 传统的电信诈骗往往只能通过“某派出所工作人员”、“某网站客服”等模糊、虚假的提法进行。 但在人工智能“辅助”诈骗中，诈骗者可能会以具体人物的形式出现。

——犯罪模式由“广撒网”转变为精准诈骗。 社交媒体平台往往设有视频验证链接，客观上增加了冒充熟人、冒充领导干部等诈骗行为的“可信度”。 受访专家分析，随着技术的发展，精准盗号、关系网络分析等有针对性的网络诈骗案件比例可能会增加。

多级约束规范

奇安信安全专家裴志勇表示，目前，专业级的人工智能“深度伪造”仍然需要在实验室环境下通过强大的硬件来实现。 这意味着近期的“AI换脸”诈骗事件不太可能引发系统性风险，但仍需未雨绸缪，防范攻击。

从源头上，公民个人信息保护有待进一步加强。 杨健等专家建议加强对公民信息特别是生物识别等隐私信息的技术和司法保护。 通过规范领导干部个人社交账户管理、普及账户安全意识，可以避免冒充领导干部等政治诈骗风险。

技术层面，数字水印检测、防伪等技术有待进一步普及和利用。 赵明明表示，数字水印可以将特定信息嵌入到音频、图片或视频等数字信号中，进行版权保护，防止未经授权的复制和复制。 他建议，应加强数字水印、真伪识别等技术治理手段，为数字内容生产者和用户提供广泛的服务，用科技手段限制犯罪分子利用人工智能技术实施犯罪。

瑞莱智能高级产品经理张旭东建议，针对涉及政务、安防、金融、消费等重要应用的人脸识别技术漏洞进行改进升级，防止不法分子通过后台劫持手机拍照权限。

“特别是涉及利益相关者、保密、公共利益的相关平台和技术服务商需要优先考虑技术加固，防范手机模拟器。同时，鼓励和引导更多手机厂商在系统升级时支持3D。”面部识别技术。” 张旭东说道。

从法律体系来看，《反电信网络诈骗法》、《刑法》等法律为打击和管控各类网络诈骗活动提供了法律支撑。 赵明明建议ai虚拟数字人软件破解，应进一步完善人工智能等领域相关法律，通过案例等指导，建立人工智能侵权纠纷的法律框架、诉讼程序和赔偿标准。

此外，还需要通过完善相关制度进一步落实平台责任。 新华三集团安全专家曹亮表示，对于核心领域采用人脸识别技术的产品，监管部门应建立分层、多层次的国家安全标准和行业安全标准； 压实平台和企业主体责任，监管相关应用开发企业要履行源头审核责任； 建立健全用户注册、算法机制审核、数据安全和个人信息保护、反电信网络诈骗、应急处置等管理制度。 ■