Kurs:Ethik und Digitalisierung/Deep Fakes

Demonstration für KI-gestütztes Fakes einer Stimme

Deepfakes können die Persönlichkeitsrechte des Einzelnen auf mehrere Weisen verletzen:

• Recht auf Wahrheit
  • Identitätsverfälschung
  • Verfälschung von Ereignissen oder deren Umdeutung
• Recht auf Privatsphäre

Recht auf Wahrheit

Deepfakes können auch die Wahrheit über eine Person (Identitätsverfälschung) oder einen Ablauf eines Ereignisse falsch darstellen (Ereignisverfälschung) oder durch

• das Weglassen von Informationen oder
• die inkorrekte Kontextualisierung von eigentlich unzusammenhängen Informationen

zu verfälschen. Dies kann zu einer Verletzung des Rechts auf Wahrheit und Transparenz führen, was für die Meinungsbildung und die politische Teilhabe und Entscheidungsprozesse von entscheidender Bedeutung ist.

Identitätsverfälschung - Rufschädigung

Deepfakes ermöglichen es, die Identität einer Person einzunehmen, indem Stimme und Gesicht mit Mimic und sogar zusätzlich die körperlichen Bewegungen in ein Computermodell übertragen wird. Das auditive und visuelle Computermodel kann dazu verwendet werden, mit einem Video- oder einem Audio-Clip Aussagen generieren kann, die die Person nie gesagt hat. Dies kann dazu führen, dass die Person in einer falschen oder schädlichen Situation dargestellt wird, was ihre Reputation und ihr Ansehen beeinträchtigen kann oder auch traumatisierende Angriffe auf die Person (siehe Noelle Martin).

Ereignisverfälschung

Ein Beispiel für die Beeinflussung der Interpretation eines Ereignisses durch Deepfakes ist die Verfälschung eines politischen Redners oder Rednerin.

Angenommen, ein politischer Kandidat hält eine Rede, in der er sich für eine bestimmte politische Position ausspricht. Ein Deepfake-Video kann erstellt werden, das den Kandidaten zeigt, wie er/sie

• eine gegensätzliche Position vertritt oder
• den Redner bzw. die Rednerin in einer Situation zeigt, die nicht zu der zuvor in der Rede genannten Haltung passt. Durch die Verbreitung von Videos in sozialen Medien würde die Reputation einer Person bewusst geschädigt und die Wähler werden bewusst getäuscht en und die Meinung über den Kandidaten zu beeinflussen.

Beispiel

• Ein politischer Kandidat, der sich für den Klimaschutz ausspricht, hält eine Rede, in der er die Bedeutung von erneuerbaren Energien betont.
• Das Deepfake-Video wird gezeigt, dass der politische Kandidat aber in fossile Energieträger investiert.
• Ein Deepfake-Video wird erstellt, das den Kandidaten zeigt, wie er sich gegen den Klimaschutz ausspricht und die Bedeutung von fossilen Brennstoffen betont.
• Das Deepfake-Video wird in sozialen Medien verbreitet, um die Wähler zu täuschen und die Meinung über den Kandidaten zu beeinflussen.
• Die Wähler, die das Deepfake-Video sehen, könnten denken, dass der Kandidat seine Meinung geändert hat oder dass er nicht ehrlich ist, was seine politischen Positionen angeht.

Verzerrung von Diskussion

Dieses Beispiel zeigt, wie Deepfakes die Interpretation eines Ereignisses beeinflussen können, indem sie die Wahrheit über eine Person oder ein Ereignis verfälschen. In diesem Fall kann das Deepfake-Video die Meinung über den politischen Kandidaten beeinflussen und die Wähler täuschen, was zu einer Verzerrung der politischen Diskussion führen kann.

Es ist wichtig zu beachten, dass Deepfakes nicht nur in der Politik, sondern auch in anderen Bereichen wie der Wirtschaft, der Gesundheitsversorgung oder der Bildung verwendet werden können, um die Interpretation von Ereignissen zu beeinflussen. Es ist daher wichtig, dass wir uns mit den Risiken von Deepfakes auseinandersetzen und geeignete Maßnahmen ergreifen, um die Rechte der Betroffenen zu schützen.

Recht auf Schutz vor Rufschädigung

Die oben genannten Aspekte von Deepfakes können auch zu einer Rufschädigung einer Person führen, indem sie falsche oder schädliche Informationen über sie verbreiten (siehe Identitätsverfälschung). Dies kann zu einer Verletzung des Rechts auf Schutz vor Rufschädigung führen.

Recht auf Privatsphäre

Deepfakes können auch die Privatsphäre einer Person verletzen, indem sie persönliche Informationen oder Bilder ohne deren Zustimmung verwenden. Dies kann zu einer Verletzung des Rechts auf Privatsphäre und Autonomie führen. Im Vergleich zu einer Falschaussage (Identitätsverfälschung) können die Aussagen korrekt sein (Aussage über den Gesundheitszustand eines Menschen), aber die Person nie mit diesen Personen an die Öffentlichkeit gegangen wäre und dieses auch nicht wünscht.

Psychologische Auswirkungen

Deepfakes können auch psychologische Auswirkungen auf die betroffene Person haben, wie z.B. Angst, Unsicherheit oder Scham. Dies kann zu einer Verletzung des Rechts auf psychische Gesundheit und Wohlbefinden führen.

Gegenmaßnahmen

Die Herausforderungen bei der Bekämpfung von Deepfakes, wie z.B.:

• Die technische Entwicklung von Deepfakes ist sehr schnell vorangeschritten, was es schwierig macht, effektive Gegenmaßnahmen und Erkennung von Deepfakes zu entwickeln. Diese ist eine Art Wettrennen Deepfakes und deren Gegenmaßnahmen zu Verbreitung und deren Erkennung,
• Die Verbreitung von Deepfakes kann sehr schnell erfolgen. Erkennung und Bekämpfung ist teuer bzgl. des Einsatzes menschlicher Arbeitskraft oder auch maschineller Mustererkennung, um diese zu stoppen oder zu entfernen.

Um diese Herausforderungen zu überwinden, ist es wichtig, dass wir eine Kombination von technischen, rechtlichen und sozialen Maßnahmen ergreifen, um die Rechte der Betroffenen zu schützen und die Auswirkungen von Deepfakes zu minimieren.

Beispiele

• Deep-Fake mit Einstein
• Digital-Analogwelt-Aquivalenz

Siehe auch

• Trauma - Psychologie