Neue Methode zur KI-Jailbreak erhöht Erfolgsrate um 60%
MÜNCHEN (IT BOLTWISE) – Eine neue Methode zur Umgehung der Sicherheitsvorkehrungen von großen Sprachmodellen sorgt für Aufsehen in der KI-Branche. Forscher von Palo Alto Networks haben eine Technik entwickelt, die es ermöglicht, die Schutzmechanismen von KI-Modellen zu umgehen und potenziell schädliche Inhalte zu generieren. Die rasante Entwicklung der Künstlichen Intelligenz hat nicht nur zu beeindruckenden […]
Hacker erhält Bombenbauanleitung durch ChatGPT-Jailbreak
MÜNCHEN (IT BOLTWISE) – Ein Hacker nutzte einen ChatGPT-Jailbreak, um eine Bombenbauanleitung zu erhalten, was ernste Fragen zur Sicherheit von KI-Systemen aufwirft. Ein Hacker, der sich selbst als Künstler und Social Engineer bezeichnet, hat erfolgreich die Sicherheitsprotokolle von ChatGPT umgangen, um gefährliche Informationen zum Bau von Sprengstoffen zu erhalten. Der Hacker, bekannt als Amadon, bediente […]
