Sie sind hier > ThemenInternet / Mobil
< Video: Hilfe bei Cybermobbing

Vorsicht vor Deep Fakes

“President Trump is a total and complete dipshit!” – „Präsident Trump ist ein absoluter Vollidiot!” Mit dieser Beleidigung überraschte Barack Obama in einem YouTube-Video, das sich rasend schnell im Netz verbreitete. Im Verlauf des Videos wurde jedoch schnell klar: Bei der Aufnahme handelt es sich um eine Fälschung, ein so genanntes Deep Fake. Das Video stammt von Forschern der University of Washington, die auf das heikle Thema Videofälschungen aufmerksam machen wollten. Der Begriff „Deep Fake“ setzt sich aus den Worten „Deep Learning“, also der Fähigkeit künstlicher Intelligenz zu lernen, und „Fake“ (Fälschung) zusammen. Wie solche Deep Fakes entstehen und woran man sie erkennen kann, erklärt Informatiker Andreas Rössler von der TU München.

Deep Fakes

Genau hinschauen und Quellen prüfen

Deep Fakes können großen Schaden anrichten

© SecondSide/stock.adobe.com

 

“President Trump is a total and complete dipshit!” – „Präsident Trump ist ein absoluter Vollidiot!” Mit dieser Beleidigung überraschte Barack Obama in einem YouTube-Video, das sich rasend schnell im Netz verbreitete. Im Verlauf des Videos wurde jedoch schnell klar: Bei der Aufnahme handelt es sich um eine Fälschung, ein so genanntes Deep Fake. Das Video stammt von Forschern der University of Washington, die auf das heikle Thema Videofälschungen aufmerksam machen wollten. Der Begriff „Deep Fake“ setzt sich aus den Worten „Deep Learning“, also der Fähigkeit künstlicher Intelligenz zu lernen, und „Fake“ (Fälschung) zusammen. Wie solche Deep Fakes entstehen und woran man sie erkennen kann, erklärt Informatiker Andreas Rössler von der TU München.

Manipulationen auch für Laien möglich

Um Deep Fakes herzustellen, braucht es nicht viel: Lediglich eine entsprechende Software, die es inzwischen frei verfügbar im Netz gibt, und möglichst viel Bild- und Videomaterial von der Person, über die man die Fehlinformationen verbreiten will. Auf Grundlage dieser Datenbasis wird die Software trainiert – und ist dann etwa in der Lage, ein Gesicht in ein anderes umzuwandeln. Bei einem Video wird dann das ursprüngliche Gesicht extrahiert und das andere eingefügt. Das alles läuft vollautomatisiert ab und ist so auch für Laien möglich. „Die Hauptarbeit für den Menschen ist, genügend Material zu sammeln“, erklärt Andreas Rössler. Den Rest erledigt die Software – die ist dann allerdings auch gut einen Tag mit der Berechnung des Endergebnisses beschäftigt.

Fälschungen werden immer besser

Wie gut das Ergebnis wird, hängt vor allem davon ab, mit wie viel Bildmaterial die Software gefüttert werden kann. „Es gibt viele Fakes, die man noch als Fälschung erkennen kann und wiederum andere, die überzeugend gemacht sind. Dabei fällt es dem Betrachter dann nicht mehr auf, dass es sich in Wirklichkeit um ein Deep Fake handelt“, erklärt Rössler. Da die Forschung und die technischen Möglichkeiten in diesem Bereich schnell voranschreiten, ist davon auszugehen, dass die Qualität der gefälschten Videos künftig immer besser wird. Rössler: „Im Bereich Virtuelle Realität wird viel geforscht – für Unternehmen ist das ein absolutes Zukunftsthema. Dabei ist es wichtig, Gesichter und Körper so bearbeiten zu können, dass sie möglichst realistisch wirken, um auch wirklich in eine virtuelle Welt eintauchen zu können. Die Ergebnisse dieser Forschung können dann aber eben auch von Betrügern zu illegalen Zwecken genutzt werden.“ Künftig wird es also zunehmend eine Herausforderung sein, echte von gefälschten Bildern und Videos zu unterscheiden. „Wir werden an den Punkt kommen, an dem Bilder und Videos nicht mehr als Beweismaterial angesehen werden können. Im Moment gelten Bilder und Videos größtenteils noch als glaubwürdig. Man nimmt sie als real hin – das wird sich ändern“, so der Experte.

Seite: 12weiter >>

Kurztipps

5 Tipps für...
...den Schutz vor Erpressersoftware (Ransomware)

Darauf sollten Sie achten, um Angriffen auf Ihren Computer mit...

5 Tipps für...
...den Schutz vor Hacker-Angriffen

Darauf sollten Sie achten, wenn Sie Ihren Rechner und Ihre...

5 Tipps für...
...die Immobiliensuche im Internet

Das sollten Sie beachten, um bei der Wohnungssuche im Internet nicht...

5 Tipps für...
...die sichere Cloud-Nutzung

Das sollten Sie beachten, um Ihre Daten sicher in Cloud-Diensten zu...

5 Tipps für...
...sicheres Homeschooling/digitales Lernen

Darauf sollten sie achten, wenn der Unterricht Ihrer Kinder zuhause...

5 Tipps für...
...ein sicheres Internet für Kinder

Darauf sollten Sie achten, wenn Sie Ihre Kinder oder Schüler vor...

5 Tipps für...
...das sichere Surfen im Urlaub

Darauf sollten Sie achten, wenn Sie im Urlaub mobile Geräte nutzen.

5 Tipps für...
...einen erfolgreichen Widerruf

Darauf sollten Sie achten, wenn Sie einen abgeschlossenen Kaufvertrag...

5 Tipps für...
...sicheres Bezahlen im Internet (Online Banking)

Darauf sollten Sie achten, wenn Sie online bezahlen möchten.

5 Tipps für...
...sicheres Arbeiten im Home Office

Darauf sollten Sie achten, wenn Sie von zuhause arbeiten.

5 Tipps für...
...den Umgang mit Spam-Mails

Darauf sollten Sie achten, wenn Sie von Spam-Mails in Ihrem...

5 Tipps für...
...sicheres Online-Dating

Darauf sollten Sie bei der Partnersuche im Netz achten.

5 Tipps für...
...den Umgang mit Sozialen Medien

Diese Tipps helfen Ihnen, Social-Media-Kanäle sicher zu nutzen.

5 Tipps für...
...den sicheren Geschenkekauf

So verhindern Sie, dass der Einkauf nicht mit Frust endet.

5 Tipps für...
...ein sicheres Passwort

Darauf sollten Sie bei der Passworterstellung achten.

5 Tipps für...
...den Medikamentenkauf im Netz

Darauf sollten Sie achten, wenn Sie Arzneimittel online bestellen.

5 Tipps für...
...die App-Nutzung

Das sollten Sie beachten, wenn Sie Apps herunterladen und nutzen.

5 Tipps für...
...einen sicheren Computer

So schützen Sie Ihren PC vor Viren, Trojaner und „Phishing“

5 Tipps für...
...ein sicheres Smartphone

So schützen Sie Ihr Smartphone und Ihre Daten vor Hackern und Betrug.

5 Tipps für...
...sicheres Online-Shopping

Worauf Sie beim Einkauf im Internet achten sollten

Weitere Infos zum Thema Internet und Mobil

Spionagesoftware und sonstige bösartige Programme machen Jagd auf Computernutzer

Merkwürdige Abbuchungen auf dem Bankkonto, plötzliche Sperrungen von Festplatten, Beschwerden von Bekannten, dass man...[mehr erfahren]

Mobile Kommunikationsmittel im Visier von Kriminellen

Smartphones sind nicht nur zum Telefonieren da. Aufgrund ihrer zahlreichen Zusatzfunktionen sind sie eigentlich mehr...[mehr erfahren]

Der europäische AI-Act

Glaubt man Experten, wird Künstliche Intelligenz (KI) unser Leben mindestens ebenso dramatisch verändern wie einst das...[mehr erfahren]

Cyber-Kriminelle haben unvorsichtige Spieler im Visier

30 Millionen Deutsche spielen regelmäßig Computer- und Videospiele, wie eine repräsentative Umfrage im Auftrag des...[mehr erfahren]

Tokelau als Hotspot für Cyberkriminelle

Ein Wirtschaftskrimi hat sein vorläufiges Ende gefunden. Das Geschäftsmodell mit kostenlosen Top-Level-Domains, die vor...[mehr erfahren]

Newsletter

Folgen Sie uns!