Die unterschätzten Gefahren von Deepfakes und wie man sich schützen kann

MÜNCHEN (IT BOLTWISE) – Deepfakes, die täuschend echt wirkenden digitalen Fälschungen, haben sich als eine andere Bedrohung herausgestellt, als ursprünglich angenommen. Während viele Experten befürchteten, dass sie Wahlen beeinflussen und eine Desinformationsflut auslösen könnten, hat sich gezeigt, dass ihre größte Gefahr in der persönlichen Belästigung und sozialen Manipulation liegt.

Deepfakes, die mithilfe von Künstlicher Intelligenz erstellt werden, haben in den letzten Jahren zunehmend an Bedeutung gewonnen. Ursprünglich wurde befürchtet, dass sie die politische Landschaft durch die Verbreitung von Fehlinformationen erheblich beeinflussen könnten. Doch die Realität hat gezeigt, dass diese Technologie in Wahlzyklen, wie beispielsweise 2024, keine signifikante Rolle gespielt hat. Stattdessen haben sich Deepfakes als Werkzeuge der Belästigung und sozialen Manipulation herauskristallisiert.

Die Technologie hinter Deepfakes hat sich in den letzten Jahren stark weiterentwickelt und ist nun sowohl leistungsfähiger als auch zugänglicher. Dies hat zu einem Anstieg von Fällen geführt, in denen Deepfakes zur Belästigung von Individuen eingesetzt werden. Besonders besorgniserregend ist die Erstellung von nicht einvernehmlicher Pornografie, die oft zur Erpressung oder für Sextortion-Scams genutzt wird. Diese Form der Belästigung hat weitreichende gesellschaftliche Auswirkungen und hat bereits zu neuen Gesetzesvorschlägen geführt, wie dem TAKE IT DOWN Act in den USA.

Ein weiterer Bereich, in dem Deepfakes zunehmend eingesetzt werden, ist die soziale Manipulation. Angreifer nutzen die Technologie, um sowohl Menschen als auch Systeme zu täuschen. Ein bekanntes Beispiel ist der Einsatz von Deepfakes in Telefonbetrügereien, bei denen die Stimme eines Familienmitglieds imitiert wird, um Geld von Verwandten zu ergaunern. Solche Betrugsmaschen nehmen zu und haben bereits die Aufmerksamkeit von Organisationen wie der US Federal Trade Commission auf sich gezogen, die entsprechende Warnungen herausgegeben hat.

Darüber hinaus können Deepfakes auch in Unternehmen für fortgeschrittene soziale Manipulationsangriffe eingesetzt werden. Ein bemerkenswerter Fall ereignete sich im Februar 2024, als ein Finanzmitarbeiter eines multinationalen Unternehmens in Hongkong dazu gebracht wurde, 25 Millionen Dollar zu überweisen, nachdem er in einem Zoom-Meeting mit Deepfake-Teilnehmern, einschließlich des CFOs, getäuscht wurde.

Um sich gegen die Bedrohungen durch Deepfakes zu schützen, sind sowohl individuelle als auch organisatorische Maßnahmen erforderlich. Auf persönlicher Ebene sollten Familien über die Gefahren informiert werden und ein gemeinsames ‘Geheimwort’ einrichten, um die Identität von Anrufern zu verifizieren. Unternehmen sollten ihre Mitarbeiter schulen und auf potenzielle Deepfake-Angriffe vorbereiten. Zudem sollten sie ihre Authentifizierungs- und Verifikationsmethoden stärken, indem sie beispielsweise zusätzliche Sicherheitsmaßnahmen wie Liveness-Checks einführen.

Obwohl Deepfake-Erkennungstechnologien noch in der Entwicklung sind, können bereits jetzt Maßnahmen ergriffen werden, um das Risiko zu senken und die Hürden für Angreifer zu erhöhen. Dazu gehört die Implementierung starker Authentifizierungs- und Autorisierungsverfahren sowie die Identifizierung und Verstärkung von Bereichen mit schwacher Authentifizierung. Letztlich müssen Organisationen bereit sein, ihre Strategien kontinuierlich anzupassen und sich über neue Angreifertechniken auf dem Laufenden zu halten, um ihre Systeme und Mitarbeiter zu schützen.