LOS ANGELES / MÜNCHEN (IT BOLTWISE) – Mit KI-Produkten des ChatGPT-Betreibers OpenAI sollen Russland und China die öffentliche Meinung manipuliert haben. Man habe alleine in den vergangenen drei Monaten fünf geheime Operationen gestoppt, die auf die KI-Produkte des Unternehmens zugegriffen haben, gab OpenAI am Donnerstag bekannt – darunter Netzwerke aus Russland, China, Iran und Israel.
Der neue Bericht des ChatGPT-Herstellers sorgt für Aufsehen: Viele politische Beobachter sorgen sich, dass die KI bei anstehenden Wahlen die Haltung der Wähler massiv beeinflussen könnte. „Im letzten anderthalb Jahren gab es viele Fragen dazu, was passieren könnte, wenn Propagandisten generative KI nutzen“, sagte Ben Nimmo, leitender Ermittler im „Intelligence and Investigations Team“ von OpenAI. Diese wolle das Unternehmen nun beantworten.
Propagandanetzwerke nutzen die KI vor allem, um damit Bildern, Texte und Social-Media-Biografien zu erstellen. Aber auch der Code von Bots lasse sich damit schneller verbessern. Anders als Desinformationsnetzwerke nutzen diese Gruppen faktisch korrekte Informationen, allerdings um damit zu täuschen, so Nimmo.
Insgesamt hat OpenAI fünf Netzwerke identifiziert, die mit KI Propaganda betrieben haben, darunter das pro-russische Netzwerk „Doppelganger“, das pro-chinesische „Spamouflage“ und eine iranische Operation, bekannt als „International Union of Virtual Media (IUVM)“. Darunter sind aber auch bisher unbekannte Netzwerke aus Russland und Israel.
Eine neue russische Gruppe, die OpenAI „Bad Grammar“ nennt, hatte KI-Modelle des Start-ups genutzt, um im Messaging-App Telegram seine Spam-Inhalte zu verbreiten. Zunächst verwendete die verdeckte Gruppe die Modelle von OpenAI, um Code zu debuggen, der das automatische Posten auf Telegram ermöglicht. Dann generierte sie Kommentare auf Russisch und Englisch, um auf diese Telegram-Posts mit Dutzenden von Accounts zu antworten. Über ein Konto postete das russische Netzwerk Kommentare, in denen argumentiert wurde, dass die Vereinigten Staaten die Ukraine nicht unterstützen sollten.
Oft seien KI-Inhalte durch Anfängerfehler zu identifizieren gewesen, beispielsweise wenn Kommentatoren mit Standardphrasen der KI antworteten („Als KI-Sprachmodell bin ich hier, um zu helfen“). Aber auch die eigenen KI-Tools wurden eingesetzt, um verdeckte Propaganda zu identifizieren und abzuwehren.
Die Botschaften der Spammer hätten keine große Reichweite erzielt oder seien als KI-Botschaften erkannt worden, teilte OpenAI mit. Das sei aber kein Grund zur Entwarnung. „Die Geschichte zeigt, dass Propaganda, die jahrelang scheitert, plötzlich durchbrechen kann, wenn niemand nach ihr sucht.“
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- Service Directory für AI Adult Services erkunden!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
AI & Data Scientist / Data Engineer (m/w/d)
Technical Lead Data & AI (m/w/d)
Artificial Intelligence Engineer / Consultant (m/w/d)
Solution Customer Success Manager (f/m/d) for SAP Business AI
- Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
- Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
- Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
- Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "KI-Chat ChatGPT: OpenAI enttarnt geheime Propaganda aus China und Russland mit Künstlicher Intelligenz" für unsere Leser?
#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "KI-Chat ChatGPT: OpenAI enttarnt geheime Propaganda aus China und Russland mit Künstlicher Intelligenz" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die deutsche Google-Suchmaschine für eine weitere Themenrecherche: »KI-Chat ChatGPT: OpenAI enttarnt geheime Propaganda aus China und Russland mit Künstlicher Intelligenz« bei Google Deutschland suchen und bei Google News recherchieren!