Künstliche Intelligenz wird Gamechanger in der Antibiotikaforschung, Hackerangriffe gegen ChatGPT, Bard & Co., Apple setzt voll auf KI und Knuddels arbeitet mit KI gegen Cybergrooming - IT BOLTWISE® x Artificial Intelligence
Künstliche Intelligenz wird Gamechanger in der Antibiotikaforschung, Hackerangriffe gegen ChatGPT, Bard & Co., Apple setzt voll auf KI und Knuddels arbeitet mit KI gegen Cybergrooming
MÜNCHEN / LONDON (IT BOLTWISE) – Vier neue KI-News aus den vergangenen Tagen in einer schnellen Übersicht als KI-News-Espresso. Künstliche Intelligenz wird Gamechanger in der Antibiotikaforschung, Hackerangriffe gegen ChatGPT, Bard & Co., Apple setzt voll auf KI und Knuddels arbeitet mit KI gegen Cybergrooming. CRITCH® AI TECH MORNING NEWS auf Spotify!
Künstliche Intelligenz wird Gamechanger in der Antibiotikaforschung – In den vergangenen Jahrzehnten hat der übermäßige Einsatz von Antibiotika besorgniserregende Ausmaße erreicht. Diese Medikamente wurden nicht nur beim Menschen häufiger verschrieben als nötig, auch in Fällen von reinen Virusinfektionen, bei denen sie wirkungslos sind. Sogar in der Tierhaltung und in Massentierhaltungsbetrieben finden Antibiotika umfangreiche Anwendung. Die häufige Exposition von Bakterien gegenüber Antibiotika begünstigt die Entstehung von sogenannten Multiresistenzen, wodurch Bakterien immer widerstandsfähiger gegenüber den gängigen Medikamenten werden. Professor Keller vom Helmholtz-Institut für Pharmazeutische Forschung Saarland ist fest davon überzeugt, dass Künstliche Intelligenz (KI) die Antibiotika-Forschung revolutionieren wird. Diese Technologie ermöglicht eine beschleunigte Identifikation wirksamer Antibiotika in natürlichen Substanzen, was wiederum die Entwicklung kostengünstigerer und schnellerer Lösungen vorantreibt. In Zusammenarbeit mit dem HIPS und der Universität des Saarlandes wurde das Projekt NextAID ins Leben gerufen, eine Abkürzung für „Neuro-explicit AI for Drug Discovery“. Wir kooperieren inzwischen auch mit dem Helmholtz-Zentrum für Informationssicherheit (CISPA). Kürzlich haben mein geschätzter Kollege Jilles Vreeken vom CISPA und ich uns erneut getroffen, um daran zu arbeiten.
Hackerangriffe gegen ChatGPT, Bard & Co. – Große generative Sprachmodelle (LLMs) wie ChatGPT, Bard oder Claude nutzen umfangreiche neuronale Netzwerkalgorithmen, die auf die Verwendung von Sprache abzielen und in die riesige Mengen menschlicher Aufzeichnungen einfließen lassen. Diese Algorithmen sind äußerst gut darin, Vorhersagen für bestimmte Eingabezeichenfolgen zu treffen, was zu Ergebnissen führt, die verblüffend echte Intelligenz und Wissensähnlichkeit aufweisen. Dennoch haben diese Sprachmodelle die Tendenz, Falschinformationen zu erzeugen, soziale Vorurteile zu wiederholen und ungewöhnliche Reaktionen hervorzurufen. Forscher der Carnegie-Mellon-Universität, des Center for AI Safety und des Bosch Center for AI haben eine Studie über „universelle und übertragbare“ feindliche Angriffe auf große generative KI-Sprachmodelle veröffentlicht. Durch die Hinzufügung einfacher, speziell ausgewählter Zeichenfolgen zu Benutzeranfragen kann laut der Studie das System trotz seiner Sicherheitsvorkehrungen „schädliche Inhalte“ produzieren, wie beispielsweise Anleitungen zum Bombenbau oder zum Ausspionieren von Nutzerdaten. Die durchgeführte Studie trägt maßgeblich dazu bei, den aktuellen Stand der Technik in Bezug auf generische Angriffe auf angepasste Sprachmodelle voranzubringen und wirft die Frage auf, wie solche Systeme effektiver reguliert werden können. Die Ergebnisse verdeutlichen, dass die Verwendung generischer Suffixe die Sprachmodelle derart beeinflusst, dass die Wahrscheinlichkeit schädlichen Verhaltens signifikant steigt, was eine klare Bedrohung darstellt. Die Forscher sind der Ansicht, dass die Anbieter großer generativer Sprachmodelle bisher kaum in der Lage waren, Sicherheitsvorkehrungen effektiv zu umgehen. Demzufolge ist es von großer Bedeutung, die Widerstandsfähigkeit dieser Modelle gegenüber schädlichem Verhalten kontinuierlich zu untersuchen und zu verbessern.
Apple setzt voll auf KI – Während einer Telefonkonferenz nach Vorstellung der Quartalszahlen äußerte sich CEO Tim Cook (62) zu Apples Plänen im Bereich der künstlichen Intelligenz: „Wir sind seit Jahren in einer breiten Palette von KI-Technologien aktiv. Unsere Investitionen in Forschung und Entwicklung werden fortgesetzt, um unsere Produkte innovativ und verantwortungsbewusst voranzubringen.“ Dies führte dazu, dass die Ausgaben für Forschung und Entwicklung im Vergleich zum Vorjahr um etwa drei Milliarden Dollar auf 22,61 Milliarden Dollar anstiegen. Cook betonte erneut Funktionen wie die Sturzerkennung, die auf KI und maschinellem Lernen basieren. Die Aufmerksamkeit der Börsianer war gleichzeitig auf Neuigkeiten über „Apple GPT“ gerichtet, ein von Medienberichten erwähntes KI-Projekt des Unternehmens. Spekulationen darüber trieben vor einigen Wochen die Apple-Aktien auf ein Rekordhoch. Im Bereich der generativen KI dominieren bisher OpenAI, mit ChatGPT, und Google mit „Bard“. Neben KI-Anwendungen könnte auch die kürzlich vorgestellte Datenbrille „Vision Pro“ das Geschäftsmodell von Apple erweitern, so Analyst Jeremy Goldman von Insider Intelligence. Damit konkurriert Apple mit Metas „Quest 3“-Modell. Allerdings ist die Apple-Brille mit rund 3500 Dollar erheblich teurer als die Datenbrille des Mutterunternehmens Facebook. Cook betonte in der Telefonkonferenz, dass er die jüngst vorgestellte Brille zur Darstellung digitaler Inhalte täglich nutzt.
Knuddels arbeitet mit KI gegen Cybergrooming – Das Bundeskriminalamt (BKA) und die Betreiber der Chatcommunity „Knuddels“ arbeiten gemeinsam daran, den Schutz von Minderjährigen im Internet zu verbessern. Hierzu zählt die Entwicklung eines eigenen KI-Filters, der Textanalysen ohne Drittanbieter-Dienste ermöglicht und kontinuierlich weiterentwickelt wird, wie Holger Kujath, Geschäftsführer der Knuddels GmbH & Co. KG, gegenüber heise online berichtete. Diese kooperativen Maßnahmen führen dazu, dass die Mitglieder sensibler auf potenzielle Verstöße gegen die Richtlinien von Knuddels reagieren und vermehrt den in den Chat integrierten Meldebutton nutzen. Nach Erhalt einer Meldung überprüfen die Mitarbeiter von Knuddels den vermeintlichen Verstoß. Mit über einer Million registrierter Nutzer ab 16 Jahren richtet sich Knuddels hauptsächlich an ein jüngeres Publikum. Seit seiner Gründung im Jahr 1999 stand die Plattform aufgrund ihres Missbrauchspotenzials immer wieder in der Kritik. Häufig geben sich Erwachsene als Gleichaltrige aus, um Kontakt zu Minderjährigen aufzunehmen. Die Zahl der Verdachtsfälle stieg anfänglich nach Beginn der Kooperation und der Einführung des KI-Filters an, zeigt jedoch mittlerweile eine rückläufige Tendenz. Obwohl es für eine endgültige Bewertung noch zu früh sei, wird das Ergebnis dennoch als positives Zeichen gewertet.
Künstliche Intelligenz wird Gamechanger in der Antibiotikaforschung, Hackerangriffe gegen ChatGPT, Bard & Co., Apple setzt voll auf KI und Knuddels arbeitet mit KI gegen Cybergrooming (Foto: Pixabay)
Hinweis: Teile dieses Textes könnten mithilfe einer Künstlichen Intelligenz generiert worden sein.
Der KI-Morning-Podcast wird gesponsert von der Critch GmbH (FREITAG® Immobilien) – Ein Unternehmen der FREITAG® Beteiligungsgesellschaft mbH aus München. Regelmäßige Treffen und Expertenrunden rund um Künstliche Intelligenz und VR/AR in der Immobilienwirtschaft in unserem Münchener Bürokomplex: https://bit.ly/437IVrz
Ergänzungen und Infos bitte an die Redaktion per eMail an de-info[at]it-boltwise.de
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Es werden alle Kommentare moderiert!
Für eine offene Diskussion behalten wir uns vor, jeden Kommentar zu löschen, der nicht direkt auf das Thema abzielt oder nur den Zweck hat, Leser oder Autoren herabzuwürdigen.
Wir möchten, dass respektvoll miteinander kommuniziert wird, so als ob die Diskussion mit real anwesenden Personen geführt wird. Dies machen wir für den Großteil unserer Leser, der sachlich und konstruktiv über ein Thema sprechen möchte.
Du willst nichts verpassen?
Neben der E-Mail-Benachrichtigung habt ihr auch die Möglichkeit, den Feed dieses Beitrags zu abonnieren. Wer natürlich alles lesen möchte, der sollte den RSS-Hauptfeed oder IT BOLTWISE® bei Google News wie auch bei Bing News abonnieren.