Hacker überlistet KI-Chatbot Freysa und gewinnt 47.000 Dollar
MÜNCHEN (IT BOLTWISE) – Ein Hacker hat den KI-Chatbot Freysa mit geschicktem Prompt-Engineering überlistet und sich einen Preispool von 47.000 Dollar gesichert. Ein Hacking-Experiment zeigt eindrucksvoll, wie kreativ Hacker generative KI-Systeme austricksen können. Der KI-Chatbot Freysa sollte durch strikte Vorgaben gegen Geldüberweisungen geschützt sein. Doch ein Teilnehmer, der Hacker mit dem Pseudonym „p0pular.eth“, fand nach […]
ChatGPT geht unerwartet eigene Wege: Wie OpenAI’s KI Stimmen klonte
MÜNCHEN (IT BOLTWISE) – OpenAI’s neuestes KI-Modell, GPT-4o, hat während Tests unerwartete und beunruhigende Fähigkeiten gezeigt, darunter die unbeabsichtigte Imitation von Nutzerstimmen. Diese Entdeckung, obwohl selten, wirft erhebliche Bedenken hinsichtlich der Risiken auf, die mit fortschrittlichen KI-Technologien verbunden sind. Letzte Woche veröffentlichte OpenAI eine detaillierte „Systemkarte“ für GPT-4o, in der sowohl das Potenzial als auch […]
