真假难辨:当“深伪”技术被用于亲中宣传

以下是Synthesia的人工智能生成角色用于各类市场营销和相似宣传的案例。

Synthesia的联合创始人兼首席执行官维克多·里帕尔贝利表示,Graphika发现的那些用Synthesia技术创建的虚拟人物违反了其服务条款。这些条款规定,该公司的技术不应用于“政治、色情、私人、犯罪和歧视内容”。里帕尔贝利拒绝透露有关沃尔夫新闻视频幕后人员的信息,但他表示,他们的帐号已经被封停。

里帕尔贝利还表示,Synthesia有一个负责防止深伪技术被用于创造非法内容的四人团队,但他说,虚假信息和不包括直接仇恨言论、诽谤、露骨词汇和影像的内容可能很难被检测。

“非常难以确定这是否属于虚假信息,”他在观看了沃尔夫新闻的一段视频后表示。他说自己愿对“我们平台上出现的任何情况承担全部责任”,并呼吁政策制定者就如何使用人工智能工具出台更明确的法规

里帕尔贝利说,识别虚假信息只会越来越困难。他还表示,到最后,深伪技术的复杂程度可达到“无需其他东西就能在笔记本电脑上制作一部好莱坞电影”的水平。

Graphika通过追踪沃尔夫新闻的两个虚拟人物找到了另外关于这些相同角色内容无害的网络训练视频,因而发现了Synthesia与亲中国虚假信息活动的关联。Synthesia在其网站上将这两个虚拟人物称为“安娜”和“杰森”。

发表回复