Sora引发安全新挑战

文章目录

• 前言
• 一、如何看待Sora
• 二、Sora加剧“深度伪造”忧虑
• 三、Sora无法区分对错
• 四、滥用导致的安全危机
• 五、Sora面临的安全挑战
• 总结

前言

今年2���，美国人工智能巨头企业OpenAI再推行业爆款Sora，将之前ChatGPT以图文为主的生成式内容全面扩大到视频领域，引发了全球热议，这也是OpenAI首次进军人工智能视频生成领域。

Sora使用Transformer架构，可根据文本指令创建近似现实且富有想象力的场景，生成多种风格、不同画幅、最长为一分钟的高清视频。该模型还能够根据静态图像生成视频，或对现有视频进行扩展或填充缺失的帧。

根据官方释出的样例，由Sora生成的视频近乎突破了人类肉眼识别真假事物的极限，除去一些可通过后期算法优化的逻辑性错误，在场景的还原程度上已经高度接近现实中的实拍画面。