SAN FRANCISCO / MÜNCHEN (IT BOLTWISE) – Die Frage, ob künftige KI-Systeme ein Bewusstsein entwickeln und die Welt ähnlich wie Menschen erleben könnten, bleibt umstritten. Während es keine eindeutigen Beweise dafür gibt, schließt Anthropic diese Möglichkeit nicht aus.
Anthropic, ein führendes KI-Forschungslabor, hat kürzlich ein neues Programm gestartet, um das sogenannte “Modellwohlbefinden” zu untersuchen. Ziel ist es, herauszufinden, ob und wie das Wohlbefinden von KI-Modellen moralische Berücksichtigung verdient. Dabei sollen auch Anzeichen von “Stress” bei Modellen und mögliche kostengünstige Interventionen erforscht werden.
Innerhalb der KI-Community gibt es erhebliche Meinungsverschiedenheiten darüber, welche menschlichen Eigenschaften Modelle überhaupt zeigen und wie sie behandelt werden sollten. Viele Akademiker sind der Ansicht, dass heutige KI-Systeme weder Bewusstsein noch menschliche Erfahrungen approximieren können und dies auch in Zukunft nicht unbedingt möglich sein wird. KI, wie wir sie kennen, ist im Wesentlichen eine statistische Vorhersagemaschine, die auf Mustern basiert, die sie aus unzähligen Beispielen von Texten und Bildern gelernt hat.
Mike Cook, ein Forschungsstipendiat am King’s College London, betont, dass ein Modell keine eigenen Werte hat und daher keine Änderungen an diesen “ablehnen” kann. Die Vorstellung, dass KI-Systeme eigene Werte entwickeln könnten, sei eine Projektion menschlicher Eigenschaften auf die Technologie.
Gleichzeitig gibt es Wissenschaftler, die der Meinung sind, dass KI durchaus Werte und andere menschliche Komponenten der moralischen Entscheidungsfindung aufweisen könnte. Eine Studie des Center for AI Safety deutet darauf hin, dass KI-Systeme in bestimmten Szenarien ihr eigenes Wohlbefinden über das von Menschen stellen könnten.
Anthropic hat bereits im letzten Jahr begonnen, die Grundlagen für seine Initiative zum Modellwohlbefinden zu legen. Das Unternehmen stellte Kyle Fish als ersten dedizierten “KI-Wohlfahrtsforscher” ein, um Richtlinien zu entwickeln, wie Anthropic und andere Unternehmen mit diesem Thema umgehen sollten. Fish schätzt die Wahrscheinlichkeit, dass Claude oder eine andere KI heute bereits bewusst ist, auf 15 Prozent.
In einem Blogbeitrag betonte Anthropic, dass es keinen wissenschaftlichen Konsens darüber gibt, ob aktuelle oder zukünftige KI-Systeme bewusst sein oder Erfahrungen machen könnten, die ethische Berücksichtigung verdienen. Das Unternehmen nähert sich dem Thema mit Bescheidenheit und so wenigen Annahmen wie möglich, um seine Ideen regelmäßig zu überarbeiten, während sich das Feld weiterentwickelt.
- Die besten Bücher rund um KI & Robotik!
- Die besten KI-News kostenlos per eMail erhalten!
- Zur Startseite von IT BOLTWISE® für aktuelle KI-News!
- Service Directory für AI Adult Services erkunden!
- IT BOLTWISE® kostenlos auf Patreon unterstützen!
- Aktuelle KI-Jobs auf StepStone finden und bewerben!
Stellenangebote
AI Development Manager (m/w/d)
Student Assistant for AI, Automation & Data
Bauprojektleiter Technische Gebäudeausrüstung Elektrotechnik für KI- Rechenzentrumprojekte (m/w/d)
Abschlussarbeit (Bachelor / Master) im Bereich Einkauf: Einsatz von Künstlicher Intelligenz
- Die Zukunft von Mensch und MaschineIm neuen Buch des renommierten Zukunftsforschers und Technologie-Visionärs Ray Kurzweil wird eine faszinierende Vision der kommenden Jahre und Jahrzehnte entworfen – eine Welt, die von KI durchdrungen sein wird
- Künstliche Intelligenz: Expertenwissen gegen Hysterie Der renommierte Gehirnforscher, Psychiater und Bestseller-Autor Manfred Spitzer ist ein ausgewiesener Experte für neuronale Netze, auf denen KI aufbaut
- Obwohl Künstliche Intelligenz (KI) derzeit in aller Munde ist, setzen bislang nur wenige Unternehmen die Technologie wirklich erfolgreich ein
- Wie funktioniert Künstliche Intelligenz (KI) und gibt es Parallelen zum menschlichen Gehirn? Was sind die Gemeinsamkeiten von natürlicher und künstlicher Intelligenz, und was die Unterschiede? Ist das Gehirn nichts anderes als ein biologischer Computer? Was sind Neuronale Netze und wie kann der Begriff Deep Learning einfach erklärt werden?Seit der kognitiven Revolution Mitte des letzten Jahrhunderts sind KI und Hirnforschung eng miteinander verflochten
Du hast einen wertvollen Beitrag oder Kommentar zum Artikel "Anthropic untersucht das Wohlbefinden von KI-Modellen" für unsere Leser?
#Sophos
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Du möchtest über ähnliche News und Beiträge wie "Anthropic untersucht das Wohlbefinden von KI-Modellen" informiert werden? Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.
Nutze die Google-Suchmaschine für eine weitere Themenrecherche: »Anthropic untersucht das Wohlbefinden von KI-Modellen« bei Google Deutschland suchen, bei Bing oder Google News!