Sand AI blockiert politisch sensible Inhalte im KI-Videomodell

Sand AI, ein neuer Akteur im Bereich der künstlichen Intelligenz in China, hat einen Open-Source-Videogenerator namens Sand AI. Die Markteinführung erntete schnell Bewunderung von führenden Vertretern der Technologiebranche, obwohl jeder, der Magi-1 ausprobieren möchte, aufgrund der anspruchsvollen Hardwareanforderungen über die Online-Plattform des Unternehmens darauf zugreifen muss.

Trotz der Begeisterung stoßen potenzielle Nutzer auf strenge Inhaltskontrollen, wenn sie versuchen, Videos zu erstellen. Die Plattform lehnt das Hochladen von Bildern ab, die politisch sensible Themen wie den chinesischen Präsidenten, den Platz des Himmlischen Friedens, die Protestfigur des Panzermanns oder Symbole mit Bezug zu Hongkong oder Taiwan enthalten.

Wie die Zensur die Innovation prägt

Die prompte Filterung erfolgt auch dann, wenn die Benutzer die Namen der Bilddateien ändern, was ein in den Dienst integriertes Screening-Konzept auf Inhaltsebene verdeutlicht. Jeder, der versucht, eingeschränkte Bilder zu verwenden, erhält eine direkte Fehlermeldung vom System.

Diese Kontrollen spiegeln den Druck wider, der von den chinesischen Informationsgesetzen ausgeht, die von den Entwicklern künstlicher Intelligenz verlangen, dass sie sicherstellen, dass ihre Tools nicht die offizielle Berichterstattung untergraben oder die innere Einheit gefährden. Infolgedessen implementieren chinesische KI-Startups in der Regel strenge Eingabeaufforderungen oder Datenfilter, um die regulatorischen Standards zu erfüllen.

Andere Technologieunternehmen in China, wie z. B. die Betreiber des Hailuo-Mediengenerators des in Shanghai ansässigen Unternehmens MiniMax, wenden ähnliche Beschränkungen an, obwohl die Sperrung durch Sand AI ungewöhnlich gründlich ist. Während Hailuo beispielsweise Bilder des Präsidenten einschränkt, lässt es immer noch einige Inhalte mit Bezug zum Platz des Himmlischen Friedens zu, was auf Unterschiede bei der Durchsetzung hindeutet.

In aufschlussreichem Kontrast dazu lassen chinesische Plattformen tendenziell mehr Spielraum bei Inhalten für Erwachsene zu, wobei sie oft keinen Schutz gegen nicht autorisierte explizite Bilder im Stil der USA haben. Dieser doppelte Ansatz bei der Zensur - stark auf die Politik ausgerichtet und an anderer Stelle weniger streng - verdeutlicht das komplexe regulatorische Umfeld, in dem diese KI-Firmen agieren.

Magi 1 und seine Konkurrenten entwickeln weiterhin Spitzentechnologien unter strenger staatlicher Aufsicht und prägen sowohl die Fähigkeiten als auch die Grenzen öffentlich verfügbarer Werkzeuge. Bei der Weiterentwicklung der künstlichen Intelligenz werden die von den politischen Entscheidungsträgern gesetzten Grenzen weiterhin eine zentrale Rolle dabei spielen, wie diese Innovationen die Welt erreichen.