允中发自凹非寺
量子位公众号 QbitAI
龙年伊始，Sora 横空出世。
2 月 15 日（美国当地时间），人工智能研究公司 OpenAI 正式对外发布人工智能文生视频大模型：Sora。一年多前该公司发布的革命性产品 ChatGPT 影响还在持续，而 Sora 一经发布便立即轰动全球 AI 领域，再次成为舆论焦点。
根据 OpenAI 的技术报告显示，Sora 这类视频生成模型是世界的模拟器，能够理解和模拟现实世界模型的基础、了解物体在物理世界中的存在方式，可以根据使用者的文本提示创建最长达 60 秒的视频，视频内容能够深度模拟真实物理世界，能生成具有多个角色、包含特定运动的复杂场景。
文生视频大模型并非 OpenAI 独创，Runway、Pika、Stable Video Diffusion 等大量 AI 创业公司在这条赛道上百家争鸣，但 Sora 发布后造成如此大轰动与热议的原因，在于它突破性的进展，满足了 AI 领域新一代生产力工具愿景，从“生成视频的长度”、“镜头切换与画面流畅度”、“使用的基础模型架构”三个方面均远超现有同类产品水平。
目前 OpenAI 官网已更新了数十个视频 DEMO，在这些范例视频中，Sora 不仅精准呈现了细节，还能理解物体在物理世界中的存在，并生成了具有丰富情感的角色。
Sora 的出现，可以预见未来将对影视、游戏、广告等内容行业产生巨大影响，同时还将推动 AI 服务器、AI 芯片与光通信等上游行业的发展，但在畅享正面影响的同时，存在的隐患我们也需要警惕。
在 Sora 问世前已有多起利用 AI 伪造视频进行诈骗的案例，昭示了 AI 生成视频可能被滥用于非法目的的风险。而今后 Sora 的普及将会进一步降低伪造视频的门槛，由深度伪造进行的欺诈行为可能会更加泛滥。
AI 技术再升级，欺诈检测三重难关：识别、检测、追溯
Sora 的出现意味着今后利用 AI 升级技术实施欺诈行为门槛将变低，反欺诈产品服务类科技公司在面对更强大的欺诈攻击时，将面临更加严峻的挑战。其中，可预见最大的变化会来自“深度伪造”。“深度伪造”的危险不仅在于生成虚假视频和图片，还在于其所促成的整个诈骗生态系统：一个由机器人、虚假账户和匿名服务组成的错综复杂的网络运作，所有这些都旨在制作、放大和分发捏造的信息和内容，具有识别难、检测难和追溯难的问题。
除“深度伪造”外，AI 生成视频包含违法或伦理道德风险内容、合成身份、虚假信息传播以及版权隐私侵犯等，也都是 Sora 将来可能带来的棘手问题。要想防御与打击这些问题造成的欺诈行为，一方面需要识别检测伪造的视频、图片和信息（有效甄别出虚假伪造的内容）；另一方面需要实行诸如“深度伪造”欺诈行为的渠道和平台网络进行识别与检测（多方面提升数字账号的安全性）、同时还要防范由类似 AI 生成工具引发的假证滥用情况。
针对 Sora 问世后公众产生的造假焦虑，OpenAI 称在真正面向公众推出产品时，将确保生成视频包含来源元数据，并推出检测视频真伪的工具。OpenAI 还承诺，在产品中使用 Sora 前将采取安全措施，包括由“错误信息、仇恨内容和偏见等领域的专家”对模型进行对抗性测试来评估危害或风险；核查并拒绝包含极端暴力、性内容、仇恨图像、他人 IP 等文本输入提示等。即便如此，OpenAI 也承认，尽管进行了广泛的研究和测试，“我们仍无法预测人们将使用我们技术的所有有益方式和滥用我们技术的所有方式”。
随着技术水平的提升，AI 生成视频的反欺诈审核迎来了新的挑战，ADVANCE.AI 作为全球领先的人工智能科技企业，致力于为全球金融机构和互联网企业提供中立、可靠、合规的数字身份验证和风险管理解决方案。一直以来，ADVANCE.AI 都在密切关注“深度伪造”与“合成身份”欺诈领域技术的进展，并不断提升产品实力。
由 ADVANCE.AI 推出的“星鉴”数字身份验证与风险管理解决方案，产品中包含了全新升级的“3D 活体检测功能”，通过引导用户移开/靠近相机，进行活跃度检测，捕捉用户近景和远景图像，确保用户图像采集的实时性，提高对重拍和深度伪造欺诈的检测准确性，高效防范 Al 换脸、人脸合成等“深度伪造”身份欺诈攻击。而同样防范身份伪造的“假证检测”产品，则通过全自动化的工作流程、智能的机器学习模型，确保能够准确、快速地识别出 6 大证件伪造类型，确保用户提供的身份证件的真实性，预防欺诈行为，保护企业和机构免受身份证件伪造风险的影响。
Sora 发布以来，ADVANCE.AI 一直给予高度关注，面对未来由此带来的欺诈升级，相应的反欺诈解决方案产品已加入升级计划，有能力与信心应对欺诈领域日新月异的变化，持续为企业全球化发展保驾护航。针对此次 Sora 的发布，我们采访了 ADVANCE.AI 技术负责人范怀宇与 ADVANCE.AI 人工智能产品负责人余江波，二人分享了 Sora 在 AI 生成欺诈领域的影响判断与防范应对的看法。
对抗“深度伪造”的黑暗升级，从算法与数据训练上提升反欺诈技术
“在‘AI 视频生成’这件事上，Sora 的发布有点划时代的意思，多年后我们甚至可以用‘Sora 前时代’和‘Sora 后时代’来进行描述，等 Sora 正式面向公众发布且大面积铺开使用后，影视、游戏、广告等行业肯定会有不小的变革，而在 AI 生成视频欺诈领域也会有影响，欺诈者的犯罪成本和门槛进一步降低了。”ADVANCE.AI 技术负责人范怀宇说到，“而该技术对‘深度伪造’这一欺诈行为的加持将是最明显的，以往我们应对“深度伪造”监测识别的常见方法有利用图像的特征，寻找特定篡改证据的[图像特征检测]，以及[图像构成真实性比对]的方法，利用人工智能技术深度伪造的图像或视频，在图像细节上，还是会出现一些与基于实物正常拍摄的图像之间的明显偏差，比对其中的差异后进行反欺诈应对。”
范怀宇还表示“在动态视频的深度伪造监测上，以往我们会通过检测、观察动态人像在一些指定角度扭动时图像特征或构成的异常变化，可以发现是否存在伪造。有了 Sora 的加持后，这类伪造视频细节上的真实程度会大幅提升、漏洞与破绽可能会变得难以察觉，这就要求我们要提升 ADVANCE.AI 现有的‘活体检测功能’产品的欺诈行为识别能力，从算法与数据训练上下功夫。”
Sora 加持后的潜在欺诈行为并非完美无缺，深挖不同点赋能产品是关键
在 Sora 震撼发布后的极短时间内，ADVANCE.AI 内部团队便敏锐的感知到 Sora 未来可能为反欺诈领域造成的影响。虽说成熟产品还未面向大众，但一旦正式投入市场，Sora 作为利器很快便会被欺诈者瞄上作为潜在的犯罪工具，因此反欺诈战线需要提前做出防范。
“这次 OpenAI 发布 Sora 能在各领域产生如此大的轰动，用‘遥遥领先’一词可以比较准确的定义”，ADVANCE.AI 人工智能产品负责人余江波表示，“在其他 AI 生成视频公司的普遍水平还在 4 秒左右时，Sora 直接支持最大生成 60 秒长度视频，直接跨越式升级 15 倍。从官方发布的 DEMO 视频看，Sora 能够在保持主体一致性的前提下实现多角度镜头无缝切换，整个画面干净流畅，实现了真正的视频大片效果。而在基础模型架构的使用上，此前的 AI 生成视频大部分都是基于‘大模型+大数据’架构，因此在 AI 幻觉这个问题上难以突破，但 Sora 则已经具有了世界模型的雏形，因此内容更加符合、逻辑也更加令人信服。”
余江波还表示，“从技术上讲，Sora 的技术基础包括 Transformer、图片字幕、扩散模型、视频 patches 和 Dit 等，这些技术都是之前已经存在的，但 OpenAI 结合了更强大的算力和丰富的训练数据，这些因素共同推动了 Sora 在 AI 生成视频领域的创新。更强的矛势必催生更强的盾，Sora 被应用在金融欺诈领域不可避免，但结合 Sora 背后的这些技术特点，我们可以模拟可能发生的欺诈行为，例如画面更逼真、漏洞更少的深度伪造的 AI 视频发起的欺诈行为，找出与以往既有深度伪造、合成身份欺诈行为的不同之处，进而提升我们 ADVANCE.AI 反欺诈解决方案产品的防御能力，让客户用着安心。除了画面识别之外，通过更多维度的信息能更好的检测潜在欺诈行为。这些信息网可以帮助我们搭建更加安全的反欺诈体系，包括用户行为特征和网络关系。”
