作为普通人，你你自己能接触到的人工智能（AI）产品是什么?是通过语言大模型(LLM）编写文案？还是制作影视解说视频？无论你用AI做什么，AI的确正在影响人类的生活。

不过凡事总会有对有错，AI也不例外。不知道大家听没听说过一种名为“深度伪造”（deepfake）的技术，国内很多人将其俗称为“AI换脸”。

这种技术可以通过使用机器学习和生成对抗网络（GANs）的方式来创建极其逼真的视频和图像，使得人们难以分辨真伪。

然而，现在这项技术愈发的滥用，特别是在制作色情内容方面，已经引起了公众的广泛愤怒，并促使全球多国开始立法禁止这一行为。

泰勒·斯威夫特成了deepfake普遍喜欢换脸的女明星

根据路透社的消息，这天（5月1日）澳大利亚宣布将出台立法，禁止在未经同意的情况下创作和分发深度伪造色情内容，即人们以数字方式将色情图像更改为他人的正常肖像。

如果翻看日历，你会发现最近一个月不止澳大利亚这么做了。

半个月前，英国政府正式宣布，利用生成式AI制作深度伪造（deepfake）色情图像的人将被定罪。并且罪罚十分严厉，任何未经同意创作这些色情图像的人，无论是否分享都将被视为犯罪并处以无上限的罚款。如果这些影像传播广泛，那么就不是罚款的问题了，而是直接判刑。

就在同一时间，欧盟下令全球几大成人网站必须全部下架深度伪造（deepfake）色情内容。如果不遵守将面临网站关闭和巨额罚款。

紧接着4月23日那天，日本知名图片制作和社交平台Pixiv也宣布该网站存在的色情内容将永远不会出现在美国和英国。Pixiv公布的五项禁止条款中，第三条就是禁止在美国、英国展示深度伪造”（deepfake）内容。

笔者查阅的报告

在笔者查阅国外的一份立法建议报告中看到：从2022年至2023年短短两年间，深度伪造（deepfake）色情内容的数量增加了超过400%，造成的欺诈事件增加了3000%。而这些数字还在不断飙升。

截止今天，全球主流国家当中，欧盟、美国（以地方州立法的形式）、英国、韩国、印度、加拿大以及最近的澳大利亚都已立法严禁制作和传播深度伪造（deepfake）色情内容。

今天下午，当我看到澳大利亚立法禁止时，有的国外网友对此很不以为然，觉得是小题大做。

三月份央视法治在线特意提到我国的相关案件

其实不然，且不论如果你的爱人、儿女甚至父母被人利用深度伪造（deepfake）恶意制作虚假色情内容时，你还会不以为然吗？

最关键的是，随着AI技术的发展速度加快，深度伪造（deepfake）很有可能做到人眼无法识别的地步，那时候犯罪分子可以肆无忌惮的利用该技术进行非法犯罪活动。我推荐大家可以看一部这两年新出的英剧，叫《真相捕捉》。

具体我就不剧透了，总之，你看到的不一定是真相，然而最可怕的是，剧中的技术其实并不难实现。

举个例子。

以后你的孩子和你要学费，你打开视频，视频中的人就是你的孩子，无论长相还是声音一模一样。这时候你会不会给孩子转学费？

所以，你觉得这事儿是小题大做吗？