Sand AI 在人工智能视频模型中屏蔽政治敏感内容

中国人工智能领域的新秀 Sand AI 推出了一款名为 "视频生成器 "的开源软件。 沙人工智能.尽管由于 Magi-1 对硬件的苛刻要求，任何渴望体验 Magi-1 的人都必须通过该公司的在线平台才能使用，但它的推出还是很快赢得了科技行业领导者的赞赏。

尽管令人兴奋，但潜在用户在尝试创建视频时却发现了严格的内容控制。该平台拒绝上传包含政治敏感话题的图片，如中国国家主席、天安门广场、坦克侠抗议人物或与香港或台湾有关的标志。

审查制度如何影响创新

即使用户修改了图像文件名，也会出现提示过滤，这表明该服务内置了内容级筛选方法。任何试图使用受限图像的人都会收到系统的直接错误提示。

这些控制措施反映了中国信息法带来的压力，该法要求人工智能开发者确保其工具不会破坏官方叙事或威胁国内统一。因此，中国的人工智能初创公司通常会实施严格的提示或数据过滤器，以满足监管标准。

中国的其他科技公司，如总部位于上海的 MiniMax 公司的海洛媒体生成器，也采用了类似的限制措施，不过 Sand AI 的封杀异常彻底。例如，海络虽然限制总统图片，但仍允许一些与天安门广场有关的内容，这表明在执行方面存在差异。

与此形成鲜明对比的是，中国平台往往对成人主题的材料给予更多自由，但往往缺乏美国式的保护措施，以防止未经授权的露骨图像。这种 "重政治、轻其他 "的双重审查方式，凸显了这些人工智能公司所处的复杂监管环境。

Magi 1 人工智能及其竞争对手继续在政府的严密监管下开发尖端技术，塑造了公开工具的能力和局限。随着人工智能的发展，政策制定者设定的界限将继续在这些创新如何走向世界方面发挥核心作用。