AI换脸引众怒,全球多国齐下手

作为普通人,你你自己能接触到的人工智能(AI)产品是什么?是通过语言大模型(LLM)编写文案?还是制作影视解说视频?无论你用AI做什么,AI的确正在影响人类的生活。

不过凡事总会有对有错,AI也不例外。不知道大家听没听说过一种名为“深度伪造”(deepfake)的技术,国内很多人将其俗称为“AI换脸”。

这种技术可以通过使用机器学习和生成对抗网络(GANs)的方式来创建极其逼真的视频和图像,使得人们难以分辨真伪。

然而,现在这项技术愈发的滥用,特别是在制作色情内容方面,已经引起了公众的广泛愤怒,并促使全球多国开始立法禁止这一行为。

泰勒·斯威夫特成了deepfake普遍喜欢换脸的女明星

根据路透社的消息,这天(5月1日)澳大利亚宣布将出台立法,禁止在未经同意的情况下创作和分发深度伪造色情内容,即人们以数字方式将色情图像更改为他人的正常肖像。

如果翻看日历,你会发现最近一个月不止澳大利亚这么做了。

半个月前,英国政府正式宣布,利用生成式AI制作深度伪造(deepfake)色情图像的人将被定罪。并且罪罚十分严厉,任何未经同意创作这些色情图像的人,无论是否分享都将被视为犯罪并处以无上限的罚款。如果这些影像传播广泛,那么就不是罚款的问题了,而是直接判刑。

就在同一时间,欧盟下令全球几大成人网站必须全部下架深度伪造(deepfake)色情内容。如果不遵守将面临网站关闭和巨额罚款。

紧接着4月23日那天,日本知名图片制作和社交平台Pixiv也宣布该网站存在的色情内容将永远不会出现在美国和英国。Pixiv公布的五项禁止条款中,第三条就是禁止在美国、英国展示深度伪造”(deepfake)内容。

笔者查阅的报告

在笔者查阅国外的一份立法建议报告中看到:从2022年至2023年短短两年间,深度伪造(deepfake)色情内容的数量增加了超过400%,造成的欺诈事件增加了3000%。而这些数字还在不断飙升。

截止今天,全球主流国家当中,欧盟、美国(以地方州立法的形式)、英国、韩国、印度、加拿大以及最近的澳大利亚都已立法严禁制作和传播深度伪造(deepfake)色情内容。

今天下午,当我看到澳大利亚立法禁止时,有的国外网友对此很不以为然,觉得是小题大做。

三月份央视法治在线特意提到我国的相关案件

其实不然,且不论如果你的爱人、儿女甚至父母被人利用深度伪造(deepfake)恶意制作虚假色情内容时,你还会不以为然吗?

最关键的是,随着AI技术的发展速度加快,深度伪造(deepfake)很有可能做到人眼无法识别的地步,那时候犯罪分子可以肆无忌惮的利用该技术进行非法犯罪活动。我推荐大家可以看一部这两年新出的英剧,叫《真相捕捉》。

具体我就不剧透了,总之,你看到的不一定是真相,然而最可怕的是,剧中的技术其实并不难实现。

举个例子。

以后你的孩子和你要学费,你打开视频,视频中的人就是你的孩子,无论长相还是声音一模一样。这时候你会不会给孩子转学费?

所以,你觉得这事儿是小题大做吗?

相关阅读

回到顶部