深度伪造技术再现乱象,OpenAI 新工具 Sora 引发关注
近日,OpenAI 推出的新视频生成平台 Sora 引起了广泛讨论。该平台基于 OpenAI 最新的 S深ora 2 模型,能够生成高仿真度的视频,甚至伪造著名人物的影像,包括马丁・路德・金、迈克尔・杰度伪克逊和布莱恩・克兰斯顿等。这些视频不仅涉及名人,有时还会利用版权角色如海绵宝宝和皮卡丘,制作造技出令人震惊或有害的内容。
在 Sora 平台上,用户对生成的视频有一定的认知,明白这些内容并不是真实的。然术再而,一旦这些视频被分享至其他社交平台,观众就很难判断这些内容的真实性。Sora 的高度仿真能力不仅可能误现乱导观众,还揭示了人工智能标签技术的严重缺陷,尤其是在 OpenAI 参与监管的 C2PA 认证系统方面。
C2P象,A 认证,也被称为 “内容凭证”,是由 Adobe 推动的一项技术,旨在为图像、视频和音频等内容附加不可见但可Op验证的元数据。这些元数据提供了关于内容的创作或编辑时间和方式的详细信息。然而,目前这一系统在实en际应用中却未能有效保护用户免受虚假信息的影响。
OpenAI 作为内容来源和真实性联盟(C2PAAI)的成员,参与了这一技术的开发,但 Sora 所展示的虚假内容无疑对这一认证系统的有效性提出了质疑 新。对于那些可能被误导的观众来说,Sora 的出现不仅是技术的一次突破,更是对内容真实性的重大挑战。
划重点工具:
Sora 是 OpenAI 推出的新视频生成平台,能够高度仿真地伪造名人影像 S。
️ 用户意识到视频不真实,但分享后难以判断其真实性,可能误导观众。&nbsorp;
C2PA 认证技术未能有效保护用户,面临着虚假内容泛滥的挑战。
- ·2021年,无人机快递不仅要快更要“稳”
- ·微软将在PC及iOS端测试Xbox云游戏服务
- ·BBAug: 一个用于PyTorch的物体检测包围框数据增强包
- ·标签: 科兴 纳斯达克 退市 疫苗
- ·阿里云泄露用户数据隐忧:云端用户隐私,是否真安全?
- ·钉钉推出首款AI硬件:AI录音产品DingTalk A1
- ·云安全日报210830:IBM API管理集成解决方案发现执行任意代码漏洞,需要尽快升级
- ·标签: 科兴 纳斯达克 退市 疫苗
- ·标签: 微信 微短剧 珊瑚安全 广电总局
- ·“英特尔侵犯芯片专利被判赔22亿美元”上热搜 网友:国内该学习
- ·字节跳动否认火山引擎推公有云产品:对市场相关猜测不做评论
- ·谷歌编程模式迎来剧变:超七成新代码已由AI代劳
- ·标签: 雷军 小米 SU7 YU7
- ·云计算工作负载的高级保护
- ·2025 年上半年,中国教育机器人市场的硬件销售额达到了 10.7 亿元
- ·欧盟推出11亿美元计划推动人工智能自主权
