Chinesisches KI-Startup blockiert politisch sensible Bilder

PEKING / MÜNCHEN (IT BOLTWISE) – In der Welt der Künstlichen Intelligenz gibt es immer wieder neue Entwicklungen, die sowohl technologische als auch gesellschaftliche Fragen aufwerfen. Ein aktuelles Beispiel dafür ist das chinesische Startup Sand AI, das mit seinem neuen Video-Generierungsmodell Magi-1 für Aufsehen sorgt.

Das in China ansässige Startup Sand AI hat kürzlich ein Video-Generierungsmodell namens Magi-1 vorgestellt, das in der Lage ist, Videos durch die autoregressive Vorhersage von Bildsequenzen zu erzeugen. Diese Technologie hat bereits die Aufmerksamkeit von Branchenexperten wie Kai-Fu Lee, dem Gründungsdirektor von Microsoft Research Asia, auf sich gezogen. Doch trotz der technischen Fortschritte gibt es Bedenken hinsichtlich der Zensur von politisch sensiblen Inhalten durch das Unternehmen.

Sand AI hat das Modell Magi-1 entwickelt, um qualitativ hochwertige und kontrollierbare Videoinhalte zu generieren, die physikalische Gegebenheiten genauer erfassen als vergleichbare offene Modelle. Allerdings ist das Modell mit seinen 24 Milliarden Parametern zu komplex, um auf den meisten Verbrauchergeräten betrieben zu werden. Es benötigt zwischen vier und acht NVIDIA H100 GPUs, um effektiv zu funktionieren, was bedeutet, dass viele Nutzer auf die Plattform von Sand AI angewiesen sind, um Magi-1 zu testen.

Ein bemerkenswerter Aspekt der Plattform ist die Notwendigkeit eines “Prompt”-Bildes, um die Videogenerierung zu starten. Doch nicht alle Bilder sind zulässig. Tests haben gezeigt, dass Sand AI den Upload von Bildern blockiert, die politisch sensibel sind, wie etwa Bilder von Xi Jinping, dem Tiananmen-Platz oder der taiwanesischen Flagge. Diese Filterung erfolgt auf Bildebene, sodass das bloße Umbenennen von Dateien die Blockierung nicht umgeht.

Sand AI ist nicht das einzige chinesische Unternehmen, das solche Maßnahmen ergreift. Auch andere Plattformen wie Hailuo AI, die von MiniMax aus Shanghai betrieben wird, blockieren Bilder von Xi Jinping. Allerdings scheint Sand AI besonders strenge Filter zu verwenden, da Hailuo AI beispielsweise Bilder des Tiananmen-Platzes zulässt.

Diese Zensurmaßnahmen stehen im Einklang mit den strengen Informationskontrollen, die in China für KI-Modelle gelten. Ein Gesetz aus dem Jahr 2023 verbietet es, Inhalte zu generieren, die die Einheit des Landes und die soziale Harmonie gefährden. Um diesen Vorschriften zu entsprechen, passen chinesische Startups ihre Modelle häufig durch Filter oder Feinabstimmungen an.

Interessanterweise blockieren chinesische Modelle zwar häufig politische Inhalte, sind jedoch oft weniger restriktiv bei pornografischen Inhalten. Berichten zufolge fehlen vielen von chinesischen Unternehmen veröffentlichten Videogeneratoren grundlegende Schutzmaßnahmen, die die Erstellung nicht einvernehmlicher Nacktheit verhindern.

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!