AI换脸引众怒,全球多国齐下手
作为普通人,你你自己能接触到的人工智能(AI)产品是什么?是通过语言大模型(LLM)编写文案?还是制作影视解说视频?无论你用AI做什么,AI的确正在影响人类的生活。
不过凡事总会有对有错,AI也不例外。不知道大家听没听说过一种名为“深度伪造”(deepfake)的技术,国内很多人将其俗称为“AI换脸”。
这种技术可以通过使用机器学习和生成对抗网络(GANs)的方式来创建极其逼真的视频和图像,使得人们难以分辨真伪。
然而,现在这项技术愈发的滥用,特别是在制作色情内容方面,已经引起了公众的广泛愤怒,并促使全球多国开始立法禁止这一行为。
泰勒·斯威夫特成了deepfake普遍喜欢换脸的女明星
根据路透社的消息,这天(5月1日)澳大利亚宣布将出台立法,禁止在未经同意的情况下创作和分发深度伪造色情内容,即人们以数字方式将色情图像更改为他人的正常肖像。
如果翻看日历,你会发现最近一个月不止澳大利亚这么做了。
半个月前,英国政府正式宣布,利用生成式AI制作深度伪造(deepfake)色情图像的人将被定罪。并且罪罚十分严厉,任何未经同意创作这些色情图像的人,无论是否分享都将被视为犯罪并处以无上限的罚款。如果这些影像传播广泛,那么就不是罚款的问题了,而是直接判刑。
就在同一时间,欧盟下令全球几大成人网站必须全部下架深度伪造(deepfake)色情内容。如果不遵守将面临网站关闭和巨额罚款。
紧接着4月23日那天,日本知名图片制作和社交平台Pixiv也宣布该网站存在的色情内容将永远不会出现在美国和英国。Pixiv公布的五项禁止条款中,第三条就是禁止在美国、英国展示深度伪造”(deepfake)内容。
笔者查阅的报告
在笔者查阅国外的一份立法建议报告中看到:从2022年至2023年短短两年间,深度伪造(deepfake)色情内容的数量增加了超过400%,造成的欺诈事件增加了3000%。而这些数字还在不断飙升。
截止今天,全球主流国家当中,欧盟、美国(以地方州立法的形式)、英国、韩国、印度、加拿大以及最近的澳大利亚都已立法严禁制作和传播深度伪造(deepfake)色情内容。
今天下午,当我看到澳大利亚立法禁止时,有的国外网友对此很不以为然,觉得是小题大做。
三月份央视法治在线特意提到我国的相关案件
其实不然,且不论如果你的爱人、儿女甚至父母被人利用深度伪造(deepfake)恶意制作虚假色情内容时,你还会不以为然吗?
最关键的是,随着AI技术的发展速度加快,深度伪造(deepfake)很有可能做到人眼无法识别的地步,那时候犯罪分子可以肆无忌惮的利用该技术进行非法犯罪活动。我推荐大家可以看一部这两年新出的英剧,叫《真相捕捉》。
具体我就不剧透了,总之,你看到的不一定是真相,然而最可怕的是,剧中的技术其实并不难实现。
举个例子。
以后你的孩子和你要学费,你打开视频,视频中的人就是你的孩子,无论长相还是声音一模一样。这时候你会不会给孩子转学费?
所以,你觉得这事儿是小题大做吗?
相关阅读
最新赛程
- 09月19日 08:30 美职业 明尼苏达联 vs辛辛那提
- 09月19日 08:30 美职业 休斯敦迪纳摩 vs温哥华白帽
- 09月19日 09:00 墨西乙 扎卡特卡斯 vs拉巴斯竞技
- 09月19日 09:05 墨西联 瓜达拉哈拉 vs莱昂
- 09月19日 09:30 美职业 皇家盐湖城 vs达拉斯FC
- 09月19日 09:30 秘鲁甲 秘鲁体育大学 vs体育生队
- 09月19日 10:00 墨西联 马萨特兰FC vs内卡萨
- 09月19日 10:00 中北美女冠 圣地亚哥波浪女足 vs波特兰荆棘女足
- 09月19日 10:30 美职业 洛杉矶FC vs奥斯汀FC
- 09月19日 10:40 美职业 波特兰伐木者 vs洛杉矶银河
最新录像/集锦
- 09月19日 欧冠联赛阶段第1轮 凯尔特人vs布拉迪斯拉发 录像集锦
- 09月19日 欧冠联赛阶段第1轮 曼城vs国际米兰 录像集锦
- 09月19日 欧冠联赛阶段第1轮 布鲁日vs多特蒙德 录像集锦
- 09月19日 欧冠联赛阶段第1轮 巴黎圣日耳曼vs赫罗纳 录像集锦
- 09月19日 欧冠联赛阶段 布拉格斯巴达vs萨尔茨堡红牛 录像集锦
- 09月19日 西甲第3轮 贝蒂斯vs赫塔费 录像集锦
- 09月19日 欧冠联赛阶段 博洛尼亚vs顿涅茨克矿工 录像集锦
- 09月18日 亚冠精英联赛 上海海港vs柔佛新山 录像集锦
- 09月18日 亚冠精英联赛东亚区第1轮 蔚山HDvs川崎前锋 录像集锦
- 09月18日WNBA常规赛 拉斯维加斯王牌 - 西雅图风暴 录像集锦