Wie gut ist die KI?
Ilse Aigner trinkt Kölsch: So einfach sind Fake-Bilder und Videos zu produzieren
Der Anruf einer vertrauten Stimme, das Video eines bekannten Schauspielers, das reißerische Bild eines Politikers. Die Möglichkeiten der Manipulation durch Künstliche Intelligenz sind scheinbar unbegrenzt. Was mittlerweile möglich ist, wo die Grenzen liegen, und wie man sich trotzdem nicht täuschen lässt.
Rosenheim – Die Bayerische Landtagspräsidentin Ilse Aigner steht neben einem Wolpertinger, lächelt in die Kamera und hebt ein Bierglas in die Höhe. So weit nicht ungewöhnlich, wäre das Glas nicht sehr klein und der Inhalt ein Kölsch. „In diesem Fall natürlich ein offensichtlicher Fake. So ein Bier würde ich nicht trinken”, scherzte Aigner bei ihrem Besuch im Rosenheimer Stellwerk 18, dem Gründernetzwerk in Rosenheim.
Dort beschäftigt sich das Start-up „Neuraforge“ mit dem Erkennen von sogenannten Deepfakes, also Sprachen, Stimmen, Bildern und Videos, die mithilfe von KI generiert werden. Für den Besuch der Landtagspräsidentin hat sich das siebenköpfige Team vorbereitet und Aigner in alle möglichen Situationen versetzt. Nach der Bierwerbung wird in wenigen Sekunden ihr Outfit digital geändert, kurze Zeit später wird sie zur Bergführerin oder liest ein Kochrezept vor.
„30 Euro und eine gezielte Abfrage“
Das Erstaunliche: „Dafür braucht es teilweise nur 30 Euro im Monat für ein gutes Programm und eine gezielte Abfrage“, erklärt Anatol Maier, Gründer der Firma. Er forscht schon seit rund sechs Jahren an dem Thema KI und verdeutlicht, wie rasant die Entwicklung voranschreitet. „Wir reden da mittlerweile von wenigen Monaten, in denen der aktuelle Stand komplett über den Haufen geworfen wird”, meint Maier.
Je schneller und intelligenter, desto gefährlicher wird es allerdings. Speziell Bilder können mittlerweile in Sekundenschnelle manipuliert werden, ohne dass es das menschliche Auge erfasst. Ein Beispiel: Das Rosenheimer Start-up hat ein Quiz entwickelt, in dem Bilder als echt oder bearbeitet eingestuft werden sollen. „Und ich kenne noch keinen, der alle zehn Bilder richtig zugeordnet hat”, sagt der Entwickler. Ilse Aigner schaffte acht.
Die Folge ist Raum für gezielte Manipulation. Ein täuschend echtes Gewinnspiel, das auf eine falsche Webseite lockt. Ein vermeintlich echter Anruf eines Freundes, der „nur mal schnell” Hilfe in Form der eigenen Bankdaten braucht. Laut einer Studie der „Advanced Threat Operations” haben solche und ähnliche Angriffe um 1633 Prozent im Vergleich zum vergangenen Quartal zugenommen.
„Manchmal reicht es schon, ein Wort umzudrehen und damit den Sinn völlig zu verändern. Das ist auch eine Gefahr für die Demokratie“, betont Aigner, die sich daher vom Start-up Lösungen erhofft. Das Rosenheimer Team hat dafür eine Software entwickelt, die Fakes zuverlässig identifizieren soll. „Wir beginnen bald mit einer Version mit unseren Testkunden”, sagt Mitbegründerin Anika Gruber. Danach gehe es darum, den eigenen Algorithmus zu schulen und das Volumen an zu analysierenden Daten zu erhöhen.
So erkennen Sie Fakes
Aber auch für die täglichen Nutzer von sozialen Medien hat das Team ein paar Tipps. „Es gibt einige Indizien wie seltsame Größenverhältnisse, Symmetrie oder verschmelzende Elemente“, sagt Maier. Außerdem hat KI aktuell noch Probleme mit den Augen. „Die Pupillen sind meistens leicht ausgefranst und das spiegelnde Licht auf der Iris wird oft willkürlich und somit unnatürlich gesetzt.” Und eine weitere Erkenntnis von Maier und seinen Mitarbeitern beruhigte die Landtagspräsidentin ein wenig: „Mit Dialekt hat KI definitiv noch ein Problem.”
