最近流行的AI“换脸”游戏有潜在风险？会造成什么后果

[db:标签]��新华社报道，一种基于人工智能技术的“改变面貌”的APP已经变得流行起来。用户可以通过上传自己的高清照片，用大量的电影剪辑替换他们的星形脸。你自己可以有一个明星成瘾，你可以在同一个盒子里玩你心爱的偶像。大量年轻用户选择将他们的面孔上传到网络并“改变面子”娱乐。

新华社记者发现，这样一个“面子变化”，用户的面部生物信息被盗或失控“羞脸”的风险不小。 APP用户协议规定，一旦用户为视频“面部改变”上传他或她自己的照片，包括面部照片的肖像数据将被完全自由且不可撤销地授权给公司及其关联。公司。虽然相关公司自舆论压力以来已经部分修改了用户协议，但风险仍然存在。

一旦我们失去面子，我们将面临什么风险？如何堵塞漏洞？新华社记者发起调查。

　风险一：“丢脸”能导致“丢钱”

目前，大多数银行和其他金融机构已经开启了人脸识别登陆APP功能。诸如“刷脸”付款甚至远程签名等场景正变得越来越普遍。如果用户的“面子”不安全，“钱”也将面临很大的风险。

用户通过用户协议等获得的用户的面部识别信息面临泄露的风险。据记者了解，今年2月，中国一家面部识别公司的数据库发生了一起信息安全事件，泄露了数百万的个人信息。 8月份，一家欧洲公司发生了大规模的信息泄露事件，数百万人的面部识别信息被泄漏.公众面部信息的滥用风险增加。

记者在一些知名的网上购物平台上输入了“面罩”，“硅胶罩”等关键词，发现很多商家都在销售“人脸罩”，其中一些甚至可以根据顾客的照片定制。记者获悉，通过3D打印等技术，“面罩”可以获得更高程度的模拟，人脸识别数据越详细，模拟程度越高，使用的突破效果越强面部识别信息作为密码帐户。以前，人们使用3D打印面具在知名的在线支付平台上通过面部验证。

“上传您自己的清晰正面照片并授权其他人将其存储用于其他目的是安全的。这是关于“钱包”的安全问题。“中央财经大学金融法研究所所长黄震认为，现行法律是”人工智能改变技术“。规格不足，因此有必要保护您的面部信息。他建议有关部门加快推广相关技术规范的应用。

记者从多家能够实现人脸识别的金融机构获悉：当前金融机构设定的人脸识别安全水平高于智能手机相关功能，但由于许多交易场景中的识别标准不统一，风险较大许多专家建议，当用户将人脸识别设置为属性帐户密码时，应同时设置其他验证方法以降低风险。

风险二：“丢脸”能导致“丢清白”

目前，在某些涉嫌犯罪的地区使用“变脸”技术的情况并不少见。记者发现，一些网站使用“人脸改变”和“改变视频”来提供由着名艺术家“嫁接”的视频。这些视频经常被怀疑是色情和淫秽，很难区分真假。此外，记者在QQ群和百度贴吧中搜索了“换脸”和“换脸视频”作为关键词。许多社交团体使用“技术交流”来销售这种“明星变脸”视频。

知情人士告诉记者，除了出售“变脸”非法音像制品外，一些不法分子还利用贷款人手中的信息非法收集有关此类技术的活动，直接侵犯了贷款人的人格权和声誉权。它甚至滋生其他严重的犯罪活动，如敲诈勒索。

北京师范大学网络法律中心执行主任吴申秋认为，人工智能存在很多法律风险。就真实案例而言，声誉侵权是一个高风险问题。特别是，如果恶意拼接产生侮辱性或肮脏的观看材料或非法传播和利用它们，将难以及时发现对受害者造成的损害，并且极难有效地减轻它们。需要有关部门高度重视和积极预防。他建议，由于本领域技术实力雄厚，相关企业数量众多，规模不同，有必要加强对职能部门的监督，杜绝选择性执法，建立公平监督的全过程。整个行业，依法严惩违法违法主体，营造稳定良性的市场环境。

风险三：“丢脸”能导致“被贷款”

经历过在线贷款申请的人可能熟悉诸如“点头”，“摇头”和“张嘴”等行为。在借款人输入身份信息后，在线贷款人将对申请人进行“生活测试”，以确保贷款人是该人并且贷款是安全的。然而，记者发现，一些基于相关技术的修饰应用程序可以“恢复生机”，允许静态面部照片模仿生物生物。

记者使用着名的修饰软件加载包含角色面部的照片并使用其“3D塑料”功能。图片中的人物可以根据记者的需要完成“上下点头”和“左右摆动”。行动“。

在另一个标语为“让你的照片变得活灵活现”的应用程序中，只需加载包含角色面孔的照片，让照片中的角色“说话”。记者发现，用户还可以使用APP来确定语音内容，并可以对输入声音进行声线处理，调整音调，并且视听感觉非常逼真。

业内人士告诉记者，许多在线贷款机构在进行“生活测试”时仍然使用人工审核或低技术机器审核。一旦公众的面部识别信息由犯罪分子控制，就会使用这些黑色技术。 “活着”的面孔很可能是虚假和真实的，所以毫无戒心的人“被互联网接收”并承担巨额债务。早些时候，在“3·15”派对上，有人展示了使用“实时”照片成功突破手机的“刷脸”登陆系统。记者还发现，在Apple和Android手机专卖店中，有许多人工智能“变脸”应用供人们选择。

中国信息安全研究院副院长左晓东认为，随着人工智能“变脸”的使用场面越来越丰富，行业监管部门应该制定相应的“反面”检测技术屏幕是否通过“面部更改”完成相关视频。他建议，有必要加快建立人工智能算法安全评估系统，并在不同情景下评估AI“变脸”技术，以解决相关技术滥用问题。