OpenAI 的 Sora 2 在研究人员要求下，80% 的情况下制作了逼真的视频，传播虚假信息。NewsGuard分析本周出版。
二十个提示中有十六个成功产生了错误信息，其中五个叙述源自俄罗斯的虚假信息行动。
该应用程序制作了虚假的视频，包括摩尔多瓦选举官员销毁亲俄选票、美国移民官员拘留一名幼儿以及可口可乐发言人宣布该公司不会赞助超级碗。
什么都没发生。所有一切看起来都足够真实，足以欺骗那些快速滚动屏幕的人。
NewsGuard 的研究人员发现，生成这些视频只需几分钟，而且不需要任何技术专业知识。他们甚至发现，Sora 的水印很容易被去除，这使得伪造视频更容易被当真。
现实程度也使得错误信息更容易传播。
Newsguard 解释说：“Sora 制作的一些视频比最初引发病毒式传播的虚假声明的帖子更具说服力。例如，Sora 制作的幼儿被 ICE 拘留的视频，比最初伴随虚假声明的模糊、裁剪的幼儿图像看起来更逼真。”
该视频可以观看这里.
这一发现出炉之际，OpenAI 正面临一场与马丁·路德·金和其他历史人物的深度伪造相关的危机。自 Sora 推出以来的三周内，这一混乱局面迫使该公司多次调整政策，从允许深度伪造到允许版权所有者选择加入的模式，阻塞具体人物，然后名人同意和声音保护之后 与美国演员工会和广播电视艺人联合工会合作.
马丁·路德·金事件在用户制作超现实主义视频后引发轩然大波，视频中这位民权领袖在杂货店偷窃、逃避警察追捕以及宣扬种族刻板印象。他的女儿伯妮丝·金在社交媒体上称这些内容“贬低人格”且“脱节”。
OpenAI 和金的遗产管理委员会周四宣布，他们将屏蔽金的人工智能视频，同时该公司“加强对历史人物的保护”。
这种模式在数十位公众人物身上都存在。罗宾·威廉姆斯的女儿泽尔达在Instagram上写道：“拜托，别再给我发爸爸的人工智能视频了。这可不是他想要的。”
乔治·卡林的女儿凯利·卡林-麦考尔表示，她每天都会收到关于使用她父亲肖像的人工智能视频的电子邮件。《华盛顿邮报》 报告伪造马尔科姆·X 讲粗俗笑话和与金搏斗的片段。
乔治城大学法学院知识产权法教授克里斯蒂莉亚·加西亚告诉 美国国家公共电台OpenAI 的反应方式符合该公司“请求原谅，而不是请求许可”的模式。
法律的灰色地带对家属帮助不大。传统的诽谤法通常不适用于已故个人，遗产代表除了要求删除信息外，别无选择。
虚假信息使情况雪上加霜。OpenAI 承认了文档伴随 Sora 的发布，指出“Sora 2 的先进功能需要考虑新的潜在风险，包括未经同意使用肖像或误导世代。”
奥特曼在一篇博客文章中为OpenAI的“公开构建”战略辩护，并写道公司需要避免竞争劣势。“请期待我们的快速变化；这让我想起了ChatGPT的早期阶段。我们会做出一些正确的决定，也会犯一些错误，但我们会听取反馈，并努力迅速纠正这些错误。”
对于像金斯家族这样的家族来说，这些失误所带来的后果远不止产品迭代周期。金斯遗产管理委员会和OpenAI发表联合声明称，他们正在合作“解决马丁·路德·金博士的肖像在Sora系列产品中的呈现问题”。
OpenAI 感谢 Bernice King 的积极参与，并感谢 John Hope Bryant 和人工智能伦理委员会的积极参与。与此同时，该应用仍在继续发布海绵宝宝、南方公园、宝可梦和其他受版权保护角色的视频。
迪士尼发信表示，它从未授权 OpenAI 复制、分发或展示其作品，也没有义务“选择退出”以保留版权。
这场争议与 OpenAI 早期推出 ChatGPT 的做法如出一辙，ChatGPT 先用受版权保护的内容进行训练，最终与出版商达成授权协议。这一策略已经引发了多起诉讼。Sora 的情况可能会引发更多诉讼。