KI macht Fehler. Wir übersehen sie.
Drei Erfahrungen mit künstlicher Intelligenz. Und warum überzeugende Antworten noch lange nicht richtig sein müssen: Ich hatte es tatsächlich nicht bemerkt. Erst ein aufmerksamer Leser (danke, Ingo!) machte mich darauf aufmerksam, dass meine von künstlicher Intelligenz erzeugte Illustration einen ziemlich bemerkenswerten Fehler enthielt.
Die Beine einer Person und die Beine eines Tisches waren in ein anatomisches Durcheinander geraten. Füsse, Tischbeine und menschliche Gliedmassen bildeten eine Konstruktion, die allenfalls M. C. Escher gefallen hätte. Die KI hatte etwas produziert, das auf den ersten Blick überzeugend aussah. Auf den zweiten war es Unsinn.
Mich beschäftigte weniger der Fehler als die Tatsache, dass ich ihn übersehen hatte.
Ich hatte das Bild betrachtet, für brauchbar befunden und veröffentlicht. Die Kontrolle erfolgte erst, als jemand anderes genauer hinsah.
Das Münster, das keines war
Ein anderes Experiment betraf das Basler Münster. Der Bildgenerator wusste offenbar, dass das Bauwerk aus rotem Sandstein besteht. Mit der Architektur nahm er es weniger genau. Vorder- und Rückseite gerieten durcheinander, das Ergebnis sah nach Basel aus, aber nicht nach dem Münster, das dort tatsächlich steht.
Wer das Münster kennt, erkennt den Fehler. Wer es nicht kennt, sieht möglicherweise einfach eine überzeugende Darstellung einer historischen Kirche.
Noch interessanter wurde es bei einem Gespräch mit ChatGPT über die Architektur der Messe Basel. Das System schrieb der Halle 1 ein Erscheinungsbild zu, das eher an das VitraHaus in Weil am Rhein erinnerte. Beide Bauten stammen von Herzog & de Meuron. ChatGPT hatte die Gebäude offenbar durcheinandergebracht.
Ich widersprach. Erst nach zwei Nachfragen korrigierte das System seine Aussage.
Das Bemerkenswerte war die Selbstverständlichkeit, mit der es zunächst bei seiner falschen Darstellung blieb. Die Antwort klang wie eine Auskunft von jemandem, der sich auskennt. Tatsächlich war sie falsch.
Die Technik ist besser geworden. Das Problem bleibt.
Diese Beispiele stammen aus einer früheren Phase meiner Beschäftigung mit generativer KI. Seit damals haben sich die Systeme erheblich weiterentwickelt. Bildgeneratoren beherrschen Anatomie und Architektur inzwischen oft wesentlich besser. Sprachmodelle können recherchieren, Quellen angeben, Dokumente auswerten und ihre Antworten mit Verweisen versehen.
Ich nutze solche Werkzeuge inzwischen täglich und intensiv. Ihr praktischer Wert steht für mich ausser Frage.
Gerade deshalb interessiert mich eine Schwäche, die sich durch die technische Entwicklung nicht einfach erledigt hat: KI kann überzeugende Ergebnisse liefern, deren Fehler schwer zu erkennen sind.
Bei einer offensichtlich missglückten Illustration ist die Sache noch vergleichsweise einfach. Schwieriger wird es bei einer historischen Behauptung, einer wissenschaftlichen Zusammenfassung oder einer wirtschaftlichen Analyse. Dort fehlt häufig der unmittelbare Vergleich mit einer Wirklichkeit, die wir selbst gut kennen.
Wir müssen zusätzliche Informationen heranziehen. Und genau dort beginnt die nächste Schwierigkeit.
Eine Quelle ist noch kein Beweis
Früher war eine typische Schwäche von ChatGPT, dass das System eine falsche Behauptung mit grosser Sicherheit vortrug. Heute können KI-Systeme solche Aussagen zusätzlich mit Quellenangaben versehen.
Das ist grundsätzlich ein Fortschritt. Eine nachprüfbare Quelle ist wertvoller als eine unbelegte Behauptung.
Allerdings sind verschiedene Fehler möglich. Ein System kann eine Quelle erfinden. Es kann eine existierende Quelle falsch wiedergeben. Oder es kann eine seriöse Untersuchung korrekt zitieren und daraus eine Schlussfolgerung ableiten, die von dieser Untersuchung gar nicht gedeckt wird.
Im letzten Fall sind die Quellen echt, die Literaturangaben stimmen, vielleicht führen sogar sämtliche Links zum richtigen Dokument. Trotzdem ist die Aussage falsch.
Die Existenz eines Belegs sagt noch nichts darüber aus, ob er die konkrete Behauptung tatsächlich stützt.
Das gilt selbstverständlich auch ausserhalb der KI. Im Journalismus, in wissenschaftlichen Arbeiten und in der politischen Kommunikation ist die Unterscheidung zwischen einer vorhandenen Quelle und einem tragfähigen Beleg elementar.
Wer kontrolliert die Kontrolle?
Bei meiner Arbeit mit KI habe ich mir deshalb angewöhnt, die Kontrolle vom jeweiligen Risiko abhängig zu machen.
Bei einer Formulierungshilfe oder einer unverbindlichen Ideensammlung kann ich grosszügig sein. Bei Namen, Daten, Zahlen, wissenschaftlichen Aussagen oder Zitaten werde ich genauer. Je grösser die möglichen Folgen eines Fehlers, desto höher sind meine Anforderungen an die Überprüfung.
Bei wissenschaftlichen Aussagen interessiert mich deshalb nicht allein, ob eine Studie existiert. Ich möchte wissen, was tatsächlich untersucht wurde, welche Ergebnisse vorliegen und ob die daraus abgeleitete Behauptung gerechtfertigt ist.
Dazu gehört auch, einer KI zu widersprechen. Eine zweite Antwort kann besser sein als die erste. Sie kann aber ebenso neue Fehler enthalten. Selbst eine überzeugende Selbstkorrektur ist noch kein unabhängiger Beleg.
Die Deutsche Presse-Agentur hat bereits 2023 in ihren KI-Leitlinien festgehalten, dass KI unter menschlicher Aufsicht eingesetzt werden soll und die Verantwortung für die Ergebnisse beim Menschen bleibt. Dieser Grundsatz hat durch die leistungsfähigeren Systeme nichts von seiner Bedeutung verloren.
Ich denke dabei gelegentlich an meine missglückte Illustration zurück. Der Fehler war sichtbar. Ich hatte ihn bloss nicht gesehen.
Heute sind die Fehler oft besser versteckt. Manchmal sogar hinter einer seriös aussehenden Quellenangabe.
Eine Information überprüfen zu können, bedeutet noch lange nicht, dass wir es auch tun.
Zum Weiterlesen
50 Gründe, warum KI nicht perfekt ist
Eine weitere Auseinandersetzung mit den Stärken, Schwächen und Grenzen künstlicher Intelligenz.
Die fünf KI-Guidelines der dpa
Die Grundsätze der Deutschen Presse-Agentur zum verantwortungsvollen Einsatz künstlicher Intelligenz. Veröffentlicht 2023.
Redaktioneller Hinweis: Dieser ältere Beitrag wurde am 5. November 2026 inhaltlich überarbeitet und aktualisiert. Die ursprünglichen Beispiele und Illustrationen sind erhalten geblieben.
Weiterlesen & Entdecken
