今日热搜：国家拟规定“ AI 换脸”需进行标识，相关 App 做得如何？

随着 AI 技术的发展，AI 换脸不再有门槛，新事物的新奇刺激着很多人 " 尝鲜 "，一些 AI 换脸 App 背后的法律风险和侵权纠纷，也浮出了水面。4 月 11 日，国家互联网信息办公室发布《关于 < 生成式人工智能服务管理办法（征求意见稿）> 公开征求意见的通知》，这也是国家首次针对于当下爆火的生成式 AI 产业发布规范性政策。

(相关资料图)

征求意见稿中包含了不少亮点，与社会大众关系最密切的，当数提出对于生成式人工智能产品，提供者需要对生成的图片、视频等内容进行标识。相关 App 能够主动做到吗？现代快报记者进行了调查。

国家网信办出手，首个生成式人工智能监管规定即将出台

4 月 11 日，为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室发布了《关于 < 生成式人工智能服务管理办法（征求意见稿）> 公开征求意见的通知》（以下简称《征求意见稿》），这也是国家首次针对于当下爆火的生成式 AI 产业发布规范性政策。

《征求意见稿》共 21 条，其中明确，生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

《征求意见稿》提出，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，要承担该产品生成内容生产者的责任。另外要求，不利用生成内容损害他人形象、名誉以及其他合法权益。

《征求意见稿》中明确，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人 ( 以下称 " 提供者 " ) ，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

《征求意见稿》中与社会大众关系最密切的一条，莫过于对于生成式人工智能产品，提供者应当对生成的图片、视频等内容进行标识。

△ AI 换脸软件进行了标识

AI 换脸 App 五花八门，多数能主动做到换脸标识

人工智能技术本身并没有善恶，但若是被有心之人恶意使用，就会产生一系列负面的 " 蝴蝶效应 "。《征求意见稿》的出现，让 AI 的 " 移花接木 " 有法可依，网友们也是纷纷点赞。" 可以预知的隐患，必须先堵上 "" 希望使用 AI 的人遵纪守法有道德，别用先进技术扰乱互联网 "" 这技术更新太快，生成内容的能力太强，真等到泛滥再去治理那就来不及了 "……

那么，各大换脸 App 是否能够主动做到对生成的内容进行标识？4 月 12 日，现代快报记者下载了应用市场内 15 款涉及到 AI 换脸功能的 App，并对其一一进行了测试。在这些 App 中，有 9 款需要充值费用升级到 VIP 才可使用 AI 换脸功能。在剩余的 6 款 App 中，有的可以三天免费试用，有的则可以直接使用，其中有 2 款可直接输出无任何标识版本的换脸视频、图片。

在测试中，这两款换脸 App 可以提供五花八门的风格模板，用户动一动手指，就可以 " 大变活人 "。无论你想要青春少女，还是知性女强人，只需十几秒，软件就可以帮你实现。

这两款可以输出无标识换脸视频的 App 也有共通点，那就是其软件名称并不涉及 AI 换脸，乍一看上去只是普通的拍照 App。但在用户使用的过程中，却可以使用换脸功能来制作视频和图片。

△未进行标识的 AI 换脸视频截图

视频解封、P 图换脸，AI 技术带来的安全隐患真不少

AI 技术在改善人们生活的同时，也面临着万千用户个人隐私的安全问题。

2023 年 3 月，广州一名女子在网上晒出自己在地铁列车上的照片，被别有用心的网友下载，并用 AI 技术 " 一键脱衣 "。女子 " 除衣 " 后的照片被广泛传播，引发大批网友的关注。而这只是冰山一角，在此之前，很多国外一线女明星也都被迫 " 出镜 "，换脸成不雅影片的女主角。

2023 年 3 月 28 日，江苏首例 " 人脸解封 " 侵犯公民个人信息案，在常州宣判。常州经开区人民法院经过审理查明，2021 年 8 月至 2022 年 2 月间，被告人郑某在被害人不知情的情况下，从他人处购得包含被害人姓名、身份证号码、身份证照片、视频动图等个人信息，随后在 QQ、微信群联系客户接单，为涉嫌通讯网络诈骗、网络赌博等违法犯罪被封的 QQ 号提供解封服务，共从中获利人民币 2 万余元。

最终，法院判决被告人郑某因犯侵犯公民个人信息罪，被判有期徒刑八个月，缓刑一年，并处罚金人民币 4 万元，作案工具予以没收。

律师分析：《征求意见稿》填补了该领域立法的空白，对整治乱象意义重大

如何让 AI 技术 " 向阳发展 "？北京康达（郑州）律师事务所律师姚坤认为，《征求意见稿》的颁布，填补了我国在该领域立法的空白，对于整治行业乱象意义重大。

姚坤表示，" 尤其是提供者利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务，应当对生成的图片、视频等内容进行标识这一点，对违反相关法律法规，生成式人工智能服务的组织和个人进行追责时，有重要作用！"

江苏网警也曾发布提醒，网络时代大家在社交软件中最好坚持 " 四不晒 "。即不晒个人或家人照片，不晒位置信息，不晒行程票据，不晒车牌、门牌。如果受到 AI 换脸照片的敲诈威胁，一定要冷静，保存证据是关键。

现代快报 + 记者 季雨

（编辑 李蔚蔚）

关键词：