hör

Markus Hörath

<p>Es gibt Skandale, die eine Gesellschaft nicht nur empören, sondern ihr zugleich den Spiegel vorhalten. Der Fall Collien Fernandes gehört in diese Kategorie. Die Moderatorin und Schauspielerin wirft ihrem Ex-Mann Christian Ulmen vor, Deepfakes von ihr erstellt und über gefälschte Profile pornografische Videos verbreitet zu haben, in denen vermeintlich sie selbst zu sehen sei.</p>((ContentAd))<p>Was früher technische Kenntnis, Zeit, Geduld und einen eher professionellen Umgang mit Programmen wie Photoshop verlangte, ist heute mit wenigen Klicks erreichbar. Christian Riess, Leiter der Forschungsgruppe Multimedia Security an der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU), beschreibt diesen Umbruch nüchtern und gerade deshalb eindrücklich. Das künstliche Erzeugen von Bildern sei keineswegs neu, sagt er. Das gebe es, seit es Bilder gibt. Aber mit Künstlicher Intelligenz sei die Einstiegshürde „sehr niedrig geworden“. Doch wenn die Hürde sinkt, wächst nicht nur die Zahl der Spielereien, Memes und harmlosen Experimente. Es wächst auch die Zahl der Missbrauchsmöglichkeiten.</p><p>Riess definiert einen Deepfake in einem Gespräch mit diesem Medienhaus als computergeneriertes Bild oder Video, verbunden mit einer Täuschungsabsicht. Diese Täuschungsabsicht kann politisch sein, wenn zum Beispiel die öffentliche Meinung manipuliert werden soll. Sie kann aber auch intim und zerstörerisch sein, wenn Persönlichkeitsrechte verletzt, Menschen entwürdigt und sexualisierte Gewalt digital verlängert wird. Genau deshalb hat der Fall Fernandes eine Debatte ausgelöst, die weit über den Prominentenstatus der Betroffenen hinausweist.</p><h3>Zehn Forderungen an die Bundesregierung</h3><p>So haben zwischenzeitlich mehr als 250 bekannte Frauen aus Politik, Wirtschaft und Kultur zehn Forderungen an die Bundesregierung formuliert. Im Kern geht es darum, die Erstellung und Verbreitung sexualisierter Deepfakes ohne Einwilligung unter Strafe zu stellen, spezielle Apps zu verbieten, Plattformen zur schnellen Löschung zu verpflichten und Betroffenen klare Ansprüche auf und Identifizierung der Täter zu geben.</p><p>Um diese gesetzliche Lücke zu schließen, ist allerdings Eile geboten, denn was das Problem verschärft, ist, dass Fälschungen immer besser werden. Vor zwei Jahren ließ sich KI oft noch bei ihren Schlampereien erwischen. Zu viele Finger, oder andere anatomische Absurditäten, unlogische Schatten. Das berühmt gewordene Bild von Papst Franziskus in einer protzigen Jacke war zwar auf den ersten Blick überzeugend, bei genauerem Hinsehen aber doch verräterisch. Details an Kette und Kreuz wirkten unnatürlich, manches schien zu schweben, anderes verschmolz falsch mit dem Jackenstoff. Solche Fehler, sagt Riess, wurden und werden inzwischen häufig „wegoptimiert“. Für normale Nutzerinnen und Nutzer werde es allein vom Augenschein her immer schwieriger zu erkennen, ob ein Bild oder Video manipuliert sei.</p><p>((Platzhalter))</p><p>Damit verschiebt sich das Problem aus dem Bereich der Medienkompetenz in den Bereich der Forensik. Der sogenannte gesunde Menschenverstand reicht immer seltener aus. Selbst Experten tun sich schwer, Deepfakes zweifelsfrei zu erkennen – vor allem dann, wenn Bilder oder Videos häufig weiterverbreitet, neu abgespeichert, umkodiert und komprimiert wurden. Bei jedem solchen Schritt können forensisch relevante Spuren verloren gehen, berichtet Riess. Der digitale Umlauf radiert also nicht nur Kontext aus, sondern auch Beweise.</p><h3>Büroalltag von morgen mit KI</h3><p>Genau hier beginnt die Arbeit von Christian Riess und seinem Team an der FAU. Gemeinsam mit Sandra Bergmann und einem renommierten IT-Sicherheitshaus entwickelt er ein Tool, das KI-generierte Bilder automatisch und möglichst zuverlässig erkennen soll. Was zunächst wie ein akademisches Spezialprojekt wirkt, hat einen sehr realen Hintergrund. Riess erzählt von einer Kooperation mit der Nürnberger Versicherung: Ein Foto eines vermeintlichen Schadens – etwa ein Riss in einer Wintergartenscheibe – wird vorsorglich daraufhin überprüft, ob es KI-generiert sein könnte. Science-Fiction? Eher Büroalltag von morgen. Oder von heute.</p>((Module))<p>Riess ist Bildforensiker, also ein Detektiv des Digitalen. Er sucht nicht nach dem offensichtlichen Makel, sondern nach den Spuren hinter dem Sichtbaren. Ein echtes Foto, erklärt er, beruht auf einer Sensormessung. Licht trifft auf Optik, Sensor, kamerainterne Verarbeitung. Ein generiertes Bild dagegen entsteht nicht durch eine Linse und keinen Messvorgang, sondern aus einem neuronalen Netzwerk. Es hat daher andere Eigenschaften. Zerlegt man es in Frequenzanteile, zeigen sich typische Muster. Genau solche charakteristischen Signaturen versuchen die Erlanger Forscher sichtbar zu machen.</p><p>Riess betont dabei, wie unerquicklich asymmetrisch dieser Wettlauf ist. Neue Bildgeneratoren kommen beinahe monatlich auf den Markt. Die Forensik läuft hinterher. Gemessen an den milliardenschweren Konzernen, wie Google, OpenAI oder Apple, die generative Modelle entwickeln, sei die Bildforensik ein Nischenthema – auch finanziell. Die FAU-Forschenden versuchen deshalb, möglichst universelle und langlebige Spuren zu identifizieren, statt nur auf das jeweils neueste Modell zu reagieren. Es ist der Versuch, der Täuschung nicht bloß tagesaktuell, sondern generell beizukommen.</p><h3>Künstliche Intelligenz: Missbrauch ja, böse nein</h3><p>Doch auch ein gutes Erkennungstool löst das gesellschaftliche Problem nicht allein. Denn Deepfakes sind kein bloß technisches Ärgernis. Sie berühren eine grundlegende Frage der digitalen Moderne: Was geschieht mit dem Menschenbild in einer Öffentlichkeit, in der das Gesicht eines Menschen jederzeit in jede beliebige Szene montiert, sein Körper in jede Fantasie gezwungen, seine Würde in Sekunden millionenfach beschädigt werden kann?</p><p>((Platzhalter))</p><p>Riess selbst ist vorsichtig, wenn es um große kulturkritische Gesten geht. Das müsse man „Experten in anderen Disziplinen“ fragen, sagt er. Er spricht lieber von Forschungsbedarf, von der Notwendigkeit, die Echtheit digitalen Materials besser einschätzen zu können. Er verweist auch darauf, dass KI im Kern ein Automatisierungswerkzeug sei – missbrauchbar, aber nicht per se böse.</p>

Pornografie im Internet3033.jpg

Alexander Jungkunz

e-arc-tmp-20230822_160340-6-20241017-104154

Fake News im Wahlkampf: Erlanger Experten erklären, wie man Desinformation erkennen kann

Ein Mann sitzt am Rechner und tippt auf einer Tast

Kräftige Finanzspritze für innovative Software: Die FAU im Kampf gegen Deepfakes

https://images.nordbayern.de/image/contentid/policy:1.15070717:1775578122/Pornografie_im_Internet3033jpg.jpg?f=16:9&h=320&m=FIT&w=600&$p$f$h$m$w=6b3f904

/erlangen/ki-generierte-pornos-werden-zur-waffe-universitat-erlangen-forscht-an-schutzmassnahmen-1.15070716

Erlangen - Der Fall Fernandes wird auch in Erlangen aufmerksam beobachtet: Christian Riess und sein Team von der FAU entwickeln ein Tool, das KI-generierte Bildfälschungen automatisch und zuverlässig erkennen soll. 

KI-generierte Pornos werden zur Waffe: Universität Erlangen forscht an Schutzmaßnahmen