Künstliche Intelligenz im Militär: Chancen und Risiken im Fokus

WASHINGTON / MÜNCHEN (IT BOLTWISE) – Die Integration von Künstlicher Intelligenz in militärische Strukturen der USA schreitet voran, doch die damit verbundenen Risiken werfen Fragen auf.

Die Nutzung von Künstlicher Intelligenz (KI) im militärischen Bereich der USA nimmt rapide zu, wobei der Fokus auf administrativen Aufgaben liegt. Diese Entwicklung birgt jedoch erhebliche Risiken, die von Fehlausgaben bis hin zu Datenvergiftungen reichen, was letztlich zu taktischen Fehlern führen könnte. Trotz der Möglichkeiten, die Effizienz zu steigern, mangelt es an angemessenen Sicherheitsvorkehrungen.

In diesem Jahr haben Unternehmen wie Meta, Anthropic und OpenAI ihre KI-Modelle für die nationale Sicherheit der USA bereitgestellt. Der Einsatz von KI im Kriegswesen ist umstritten und steht in der Kritik. Dennoch hat eine heimtückische Sammlung von Anwendungsfällen bereits ihren Weg in das US-Militär gefunden. Oberflächlich betrachtet mögen die Aufgaben der KI unbedeutend erscheinen, da sie bei Kommunikation, Programmierung, IT-Tickets und Datenverarbeitung unterstützt.

Das Problem liegt jedoch darin, dass selbst banale Anwendungen Risiken bergen können. Die Leichtigkeit, mit der sie eingesetzt werden, könnte die Sicherheit der zivilen und militärischen Infrastruktur gefährden. Ein Beispiel ist das US Africa Command, das offen den Einsatz eines OpenAI-Tools für „einheitliche Analysen zur Datenverarbeitung“ einräumt. Solche administrativen Aufgaben können in entscheidende Entscheidungen einfließen.

Wiederholte Demonstrationen zeigen jedoch, dass KI-Tools Fehlausgaben erzeugen und neue Schwachstellen einführen. Diese Fehler könnten zu zivilen Schäden und taktischen Fehlern führen, da USAfricom eine kriegführende Einheit ist. Die USAfricom ist nicht allein. Die US-Luft- und Raumfahrteinheiten haben einen generativen KI-Chatbot namens NIPRGPT eingeführt, der Fragen beantwortet und bei Aufgaben wie Korrespondenz und Code hilft. Gleichzeitig hat die Marine ein konversationales KI-Technikunterstützungsmodell, Amelia genannt, entwickelt.

Militärorganisationen rechtfertigen den Einsatz von KI-Modellen, indem sie ihre Effizienz, Genauigkeit und Skalierbarkeit hervorheben. In der Praxis offenbart ihre Beschaffung jedoch ein besorgniserregendes Unverständnis der Risiken. Dazu gehören die Gefahren durch mögliche Vergiftung von Datensätzen durch Gegner, die Subversion von Ergebnissen sowie die Bedrohung durch KI-Halluzinationen.

Trotzdem haben US-Militärorganisationen bisher keine konkreten Pläne zur Absicherung kritischer Infrastrukturen vorgestellt. Die fehlende Eignung für den Zweck birgt viele Sicherheitsrisiken, die den möglichen Vorteilen nicht gerecht werden. Diese Tools liefern Ergebnisse auf statistisch-probabilistischen Korrelationen, nicht auf faktischen Beweisen. Obwohl sich KI-Tools stetig verbessern, sind die Fehlerraten bei für Präzision und Sicherheit kritischen Anwendungen noch immer zu hoch.

Dieses Vertrauen in die Tools könnte dazu führen, dass Anwender ihre Fehler übersehen. Warum also dürfen militärische Organisationen KI so einfach beschaffen und Modelle implementieren? Eine Antwort darauf scheint in der Einstufung als IT-Infrastruktur zu liegen. Diese Herangehensweise erlaubt es, angemessene Beschaffungskanäle zu umgehen, die sie auf Missionstauglichkeit prüfen.

Auf der Suche nach zukünftigen Effizienzgewinnen gehen militärische Behörden also echte Risiken ein. Dies ist ein Abwägungsprozess, der durch die schwerwiegenden Gefahren nicht gerechtfertigt werden kann.

Zu den Top-Stories!

Unseren KI-Morning-Newsletter «Der KI News Espresso» mit den besten KI-News des letzten Tages gratis per eMail - ohne Werbung: Hier kostenlos eintragen!

Angebot

1.907 Bewertungen

EIlik - Ein Desktop-Begleitroboter mit emotionaler Intelligenz, Multi-Roboter-Interaktionen, Desktop-Robotik-Partner

• NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.

169,00 EUR

Bei Amazon kaufen