MENLO PARK / MÜNCHEN (IT BOLTWISE) – Meta hat kürzlich angekündigt, dass es die Entwicklung von KI-Systemen einstellen könnte, die als zu riskant eingestuft werden. Diese Entscheidung spiegelt die wachsende Besorgnis über die potenziellen Gefahren wider, die von hochentwickelten KI-Technologien ausgehen können.
Meta, das Unternehmen hinter Facebook, hat in einem neuen Richtliniendokument, dem sogenannten Frontier AI Framework, dargelegt, dass es bestimmte KI-Systeme möglicherweise nicht veröffentlichen wird, wenn diese als zu riskant angesehen werden. Diese Systeme werden in zwei Kategorien unterteilt: „hohes Risiko“ und „kritisches Risiko“.
Systeme, die als „kritisches Risiko“ eingestuft werden, könnten katastrophale Folgen haben, die in ihrem Einsatzkontext nicht gemildert werden können. Im Gegensatz dazu könnten „hohe Risiko“-Systeme zwar Angriffe erleichtern, jedoch nicht mit der gleichen Zuverlässigkeit wie kritische Systeme. Beispiele für solche Risiken umfassen die automatisierte Kompromittierung von Unternehmensnetzwerken und die Verbreitung biologischer Waffen.
Interessanterweise basiert die Risikobewertung bei Meta nicht auf empirischen Tests, sondern auf dem Input von internen und externen Forschern, die von hochrangigen Entscheidungsträgern überprüft werden. Meta argumentiert, dass die Wissenschaft der Evaluierung nicht robust genug sei, um definitive quantitative Metriken für die Risikobewertung eines Systems bereitzustellen.
Falls ein System als hochriskant eingestuft wird, plant Meta, den Zugang intern zu beschränken und es erst freizugeben, wenn Maßnahmen zur Risikominderung umgesetzt wurden. Bei kritischen Risiken hingegen wird die Entwicklung gestoppt, bis das System sicherer gemacht werden kann.
Diese neue Richtlinie könnte als Reaktion auf die Kritik an Metas offener Entwicklungsstrategie gesehen werden. Während Meta seine KI-Technologie offen zugänglich macht, hat dies auch dazu geführt, dass einige Modelle von US-Gegnern für militärische Zwecke genutzt wurden.
Im Vergleich dazu verfolgt das chinesische Unternehmen DeepSeek ebenfalls eine offene Strategie, jedoch mit weniger Sicherheitsvorkehrungen, was zu toxischen und schädlichen Ausgaben führen kann. Meta scheint mit seinem neuen Framework einen Mittelweg zwischen Offenheit und Sicherheit finden zu wollen.
Meta betont, dass durch die Berücksichtigung von Nutzen und Risiken bei der Entwicklung und Bereitstellung fortschrittlicher KI-Technologien die Vorteile für die Gesellschaft erhalten bleiben können, während gleichzeitig ein angemessenes Risikoniveau aufrechterhalten wird.
- NIEDLICHER BEGLEITER: Eilik ist der ideale Begleiter für Kinder und Erwachsene, die Haustiere, Spiele und intelligente Roboter lieben. Mit vielen Emotionen, Bewegungen und interaktiven Funktionen.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- Service Directory für AI Adult Services erkunden!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
Pre-Sales Consultant (m/w/d) – Data Science, AI & BI
(Senior-) Full-Stack-Entwickler (m/w/d) für Produktmodellierung und KI-Services in der Mathematik
Spezialist / Manager (m/w/d) Outsourcing und Third Party Risk Management mit Schwerpunkt IT / Cloud / KI
Bachelorand (m/w/d) im Bereich Innovations - Optimierung kapazitiver Sensorsysteme durch KI
- Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
- Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
- Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
- Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Meta erwägt Stopp der Entwicklung riskanter KI-Systeme" für unsere Leser?
#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Meta erwägt Stopp der Entwicklung riskanter KI-Systeme" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die deutsche Google-Suchmaschine für eine weitere Themenrecherche: »Meta erwägt Stopp der Entwicklung riskanter KI-Systeme« bei Google Deutschland suchen und bei Google News recherchieren!