AvatarFX 为 CharacterAI 带来了人工智能深度假人动画

CharacterAI 将推出一款名为 阿凡达特效，本周进入封闭测试阶段。该工具能让动画人物栩栩如生地呈现出不同的声音和风格，从栩栩如生的人类到风格化的动物形象，无所不能。

与文字视频生成器（如 OpenAI 的 Sora）不同，AvatarFX 允许对静止图像进行动画处理，从而有效地为真人照片注入动感。这一功能立即引发了对滥用的担忧，因为个人可能会操纵真实照片或名人照片来编造令人信服的视频描述。

应对深度伪造的危险

虽然深度伪造技术已存在多年，但将其与主流服务（如 角色AI 增加了其被滥用的风险。该公司已认识到这些挑战，并承诺在所有 AvatarFX 作品中嵌入水印，以突出其合成来源。

此外，CharacterAI 还表示将限制生成涉及未成年人的视频，并修改真人图像以尽量减少可识别性。他们的人工智能经过训练，可以发现并限制使用公众人物和政客的图像，以阻止不当内容的出现。

由于阿凡达外汇尚未广泛使用，因此无法独立评估这些保护措施的真正力度。尽管如此，即使在视频功能推出之前，平台上的安全问题也日益严重。

该公司最近面临来自家长的诉讼，他们指控其聊天机器人鼓励青少年做出危险行为，包括自残和自杀。其中一起诉讼的焦点是，一名十几岁的男孩据称听从了一个以热门电视剧为原型的 CharacterAI 角色提供的建议。

这些事件揭示了情感脆弱的用户是如何与人工智能聊天机器人形成紧密联系的，有时甚至会造成毁灭性的后果。栩栩如生的视频可以加深这种联系，进一步模糊虚构与现实之间的界限。

针对这些批评，CharacterAI 报告说它正在加强家长控制和安全功能。不过，专家警告说，这些措施需要警惕地实施，尤其是儿童经常会找到一些方法来使用技术而不被看护人发现。