Warum sich die Künstliche Intelligenz höflich entschuldigt
ChatGPT auf den Zahn gefühlt: So antwortet die KI auf Fragen über die Region
Kennt sich ChatGPT in der Kommunalpolitik der Region aus? Kann die Künstliche Intelligenz sogar rechtliche Probleme lösen und medizinische Diagnosen stellen? Der Erfahrungsbericht zeigt, warum es Grund zur Vorsicht gibt.
Mühldorf - ChatGPT ist die derzeit wohl bekannteste Künstliche Intelligenz. Kostenlos, leicht zu laden, einfach zu bedienen. Doch was kann sie leisten? Die OVB-Heimatzeitungen haben es ausprobiert.
So verlief die Kommunalwahl 2020
„Das Ergebnis der Kommunalwahl brachte einige Überraschungen mit sich“, schreibt die Künstliche Intelligenz (KI), nachdem die Redaktion sie aufgefordert hatte, einen Bericht über die Kommunalwahl 2020 zu schreiben. Die CSU konnte ihre absolute Mehrheit im Kreistag verteidigen, erinnert sich die KI richtig, liegt aber bei den Prozentangaben weit daneben: Die Christsozialen erhielten rund 45 Prozent der Stimmen“, in Wirklichkeit waren es nur 38,9 Prozent.
Auch die SPD dürfte sich über die KI-Analyse freuen, die ihr mit 18 Prozent den zweiten Platz zuspricht, obwohl es nur 8,8 Prozent waren und Platz vier hinter UWG und Grünen waren. In Summe: Keines der von ChatGPT genannten Ergebnisse stimmte.
Viele Bürgermeister, die keiner kennt
Ein bisschen genauer wollten es die OVB-Heimatzeitungen trotzdem wissen und die künstliche Intelligenz lieferte prompt umfassende Informationen aus Waldkraiburg: „Hier wurde der SPD-Kandidat als neuer Bürgermeister gewählt“, stellt sie fest, einen Namen nennt die KI nicht. Das macht aber auch nichts, denn auf dem Bürgermeisterstuhl bleibt Robert Pötzsch und der gehört zur UWG.
„In der Kreisstadt Mühldorf am Inn konnte sich der amtierende Bürgermeister Helmut Radlmeier (CSU) mit 58,4 Prozent der Stimmen klar gegen seinen Herausforderer Michael Mayerhofer (SPD) durchsetzen“, berichtet ChatGPT weiter über einen langjährigen CSU-Bürgermeister in der Kreisstadt. „Radlmeier, der seit 2008 im Amt ist, sieht seine Wiederwahl als Bestätigung seiner bisherigen Arbeit und will sich auch in den kommenden Jahren für die Belange der Bürgerinnen und Bürger einsetzen.“ Der CSU wäre es sicher Recht, nicht aber Michael Hetzl, der neu ins Amt kam und für die Unabhängigen Mühldorfer kandidierte.
Künstliche Intelligenz entschuldigt sich höflich
In Polling wurde laut KI CSU-Amtsinhaber Johann Rieger von Andreas Müller (FW) abgelöst, Ampfings Bürgermeister heißt jetzt Karl Obermeier - allein: Alle diese Informationen sind falsch.
Hält man das ChatGPT vor, antwortet sie sehr höflich. „Es tut mir leid, wenn meine Antwort ungenau oder fehlerhaft war. Als KI-basiertes System bemühe ich mich, genaue und zuverlässige Informationen zu liefern, aber ich bin nicht perfekt und es können Fehler auftreten. Sollten Sie weitere Informationen zu der Kommunalwahl im Landkreis Mühldorf a. Inn haben, stehe ich Ihnen gerne zur Verfügung, um meine Antwort zu aktualisieren.“
Der Bitte um diese Aktualisierung kommt die KI sofort nach, das Ergebnis ist nicht besser. Den Grund dafür kennt Dr. Matthias Kraft. Der Rechtsanwalt und Mühldorfer Stadtrat der Grünen hat sich in den letzten Wochen intensiv mit ChatGPT befasst. Sein Schluss aus den juristischen Fragen, die er der künstlichen Intelligenz gestellt hat: „Bei Fragen, bei denen ein richtig oder falsch möglich ist, würde ich mich nicht auf sie verlassen.“
Gibt es die Gesetze wirklich?
Er bezeichnet die Aussagen der KI als „Einschätzung“, die sie aus einer Vielzahl von Quellen speist, deren Richtigkeit aber nicht gesichert sei. Kraft kann diese Aussagen mit juristischen Experimenten belegen, „deren Ergebnisse recht unterschiedlich sind“. Das führt nach seinen Angaben schon mal dazu, dass die KI Gesetze erfindet. „Und das macht sie sehr gut“, sagt Kraft über die formale Qualität der Formulierungen und Angaben. „So gut, dass man erst mal nachforschen muss, ob es diese Gesetze wirklich gibt.“
Also ein neuer, nicht juristischer Versuch: ChatGPT soll die Biografie des Musikers Sepp Hansmeier aus Mühldorf liefern. Die Aufgabe löst sie mit Bravour und beschert dem Landkreis einen sehr populären Menschen: „Sepp Hansmeier ist heute einer der bekanntesten Musiker Deutschlands und hat zahlreiche Fans auf der ganzen Welt. Seine Musik, die Elemente aus Klassik, Jazz und Weltmusik vereint, begeistert Menschen jeden Alters und jeder Herkunft.“ Das Problem: Dieser Musiker ist frei erfunden
Den Musiker glatt erfunden
Auf Nachfrage gibt die KI ihre Quellen preis: „Meine Informationen zu Sepp Hansmeier stammen aus verschiedenen Online-Quellen, darunter Biografien, Musikzeitschriften, Websites und anderen öffentlich zugänglichen Quellen. Ich habe diese Informationen dann aufbereitet und eine Zusammenfassung geschrieben. Bitte beachten Sie, dass meine Antworten nur auf verfügbaren Informationen basieren und nicht immer vollständig oder korrekt sein können.“ Wer Sepp Hansmeier, Musiker, Mühldorf, dagegen googelt, findet diese Informationen nicht.
Wie problematisch das sein kann, zeigt die Frage nach der Biografie eines wirklichen Künstlers aus der Region. Die Daten, die ChatGPT über Fredl Fesl ausspuckt, sind ab der Nennung vom Geburtstag und -ort, also von Anfang an falsch. Vor allem aber: Fredl Fesl ist nicht vor einigen Jahren gestorben, wie die KI recherchiert haben will.
Gute Einschätzung im Nachbarschaftsstreit
Aufgrund solcher Erfahrungen warnt Jurist Kraft davor, der ChatGPT blind zu vertrauen. „Eine Wahr-Falsch-Auskunft kann falsch sein, man sollte die Antwort nicht für bare Münze halten.“ Sinnvoll könnten die Aussagen der KI aber sein, wenn man eine Einschätzung oder verschiedene Ansichten erhalten will. Kraft nennt als Beispiel eine Diskussion unter Nachbarn. „Wenn ich sie frage, wie ich den Streit um das Anstreichen eines Zaunes lösen kann, bietet sie gute Anhaltspunkte.“
Die Überprüfung gibt Kraft recht. Die KI schreibt, dass bei einem Zaun auf der Grundstücksgrenze beide zuständig sind, Kosten und Arbeit damit geteilt werden müssten. ChatGPT rät aber auch, zu überlegen, wer den Zaun zuletzt gestrichen habe. Dann wäre diesmal der andere dran. Sollte sich der Streit nicht lösen lassen, empfiehlt sie den Gang zum Anwalt.
Besser zum Arzt gehen
So systematische Versuche, wie sie Jurist Kraft angestellt hat, gibt es in Medizinerkreisen in der Region nicht. Einige Ärzte haben ChatGPT stichprobenartig befragt. Wer der KI Krankheitsbilder schildert oder ihr eine Diagnose gibt, erhält zunächst umfassende Listen über mögliche Erkrankungen, die Ursachen und denkbare Therapien. Am Ende steht aber stets der Rat: Fragen Sie einen Arzt.
Die Antwort der KI auf den angenommenen Fall eines erhöhten PSA-Werts, der auf eine mögliche Prostatakrebserkrankung hinweist, beurteilt der Urologe Dr. Edwin Hungerhuber als gut. „100 Prozent richtig“, erklärt er, weist aber darauf hin, dass das nur eine einzige Abfrage ist, für genaue statistische Auskünfte eine breitere Basis notwendig sei. Den Besuch beim Arzt, da sind sich der Urologe und ChatGPT einig, ersetzen die Antworten nicht. Sie können höchstens Hinweise geben.
Vorsicht bleibt geboten: Eben keine Intelligenz
Die Psychologin und Informatikerin Pro Ute Schmid vom Lehrstuhl für Kognitive Systeme der Universität Bamberg sagte gegenüber dem Deutschen Ärzteblatt: „Was GPT3 kann, hat auch einige KI-Forschende überrascht“. Nutzerinnen und Nutzer ohne Kenntnis der dahinterliegenden Mechanismen lasse das schnell vergessen, dass es sich auch bei moderner KI lediglich um Mustererkennung und Sätze handelt, die auf Grundlage von Wahrscheinlichkeitsberechnungen zusammengesetzt wurden – anders als vom Namen suggeriert, um keine Intelligenz im umgangssprachlichen Sinne.
Der KI blind zu vertrauen, ist auch aus Sicht von Jurist Kraft falsch. „Man muss die Ergebnisse mit einer gewissen Skepsis betrachten und einordnen“, stellt der Mühldorfer der künstlichen die menschliche Intelligenz zur Seite.
