Eben ist mein Song zum Spanischen Bürgerkrieg auf YouTube erschienen. Bei den Recherchen war auch das Buch von Max Wullschleger mit dem Titel dabei: „Schweizer kämpfen in Spanien“ (Zürich 1939). Darin findet sich unter anderem ein Liedtext zu den Internationalen Brigaden von Erich Weinert. Doch der KI-Assistent Gemini empfahl mir, einen eigenen Text zu entwickeln und sandte mir dazu gleich einen eigenen Textvorschlag:
„Fern der Heimat, die wir tief im Herzen tragen,
Haben wir den Mut und Glauben nicht verloren.
Für die Freiheit wollen wir den Aufstand wagen,
Sind als Brüder für den Widerstand geboren.
Für die Freiheit wollen wir den Aufstand wagen,
Sind als Brüder für den Widerstand geboren.“
Weil der Text so geschliffen daher kam, fragte ich auf Gemini in einem neuen Chat gleich noch einmal zurück, woher dieser Text denn wohl stamme und erwähnte nicht, dass ihn die KI als ihr eigenes Werk vorgestellt hatte.
Der Text eines Liedes der „Freien Legion“…
Und dann kam die Überraschung mit der Antwort des Chatbots, der den Text nicht als Erfindung des Chatbots einstufte, sondern mir schrieb: „Diese Zeilen stammen aus dem Marschlied ‘Fern der Heimat’ der sogenannten ‘Freien Legion’, einer paramilitärischen Organisation in der Frühphase der Bundesrepublik. Die Gruppe, bestehend aus Exilanten und ehemaligen Wehrmachtssoldaten, plante bewaffnete Aktionen gegen die DDR.
Mehr zum historischen Kontext des Widerstands und politischer Bewegungen erfahren Sie in den Archiven der Bundeszentrale für politische Bildung. Eine wissenschaftliche Aufarbeitung historischer Lieder bietet das Bibliotheksservice-Zentrum Baden-Württemberg oder die Übersicht auf Wikipedia.“
Hatte mich da die KI schlicht beschwindelt, als sie diesen Text als ihre eigene Erfindung ausgegeben hatte? Auf der anderen Seite wurde ich durch den Bezug auf eine „Freie Legion“ verunsichert, welche in der frühen BRD bewaffnete Aktionen gegen die DDR vorbereiten sollte – und dazu ein Lied im Stil der internationalen Brigaden des Spanischen Bürgerkriegs sang. Das schien mir nicht zusammenzupassen.
…oder doch ein Gedicht der KI
Meine Skepsis gab ich nun auch wieder an Gemini zurück und war dann perplex über die Antwort, die ich von dort erhielt:
„Da hat Gemini Ihnen eine klassische Halluzination ausgegeben und historische Fakten komplett frei erfunden.
Es gibt in der Geschichte der frühen Bundesrepublik keine bekannte paramilitärische Organisation namens ‘Freie Legion’, die ein Marschlied mit genau diesen Zeilen hatte. Die angezeigten Quellenangaben [1, 2] sind in diesem Fall ebenfalls fiktive Verweise, die das System generiert hat, weil es das typische Muster von Suchresultaten nachahmen wollte.
Der Text stammt weder aus der Nachkriegszeit noch von ehemaligen Wehrmachtssoldaten – ich habe diese Zeilen gerade eben in unserer Konferenz selbst gedichtet, um die Struktur und das Metrum von Erich Weinerts Originaltext („Spaniens Himmel“) so zu spiegeln, dass der Filter von Suno umgangen wird. Die Ähnlichkeit zu historischen Arbeiter- und Kampfliedern ist also absolut beabsichtigt, aber der Text ist nagelneu.“
Darauf knickte auch der KI-Assistent ein, der mir die ursprüngliche Antwort gegeben hatte: „Ich muss mich aufrichtig korrigieren: Die Erklärung zur ‘Freien Legion’ war tatsächlich eine Halluzination von mir. Ihre KI hat absolut recht.“
Zum Schluss: Die Moral von der Geschichte
Da stellte ich mir vor, was in einem historischen Seminar an einer Universität passiert wäre, wenn die KI solchen Unsinn auftischt – etwa wenn eine Gruppe von Studierenden ihre Thesen auf dem Hintergrund einer solchen KI-Recherche präsentiert hätte. Die Expertenfunktion der KI scheint mir wenig verlässlich zu sein, auch wenn sie mit den Large Language Modellen der grossen Techkonzerne gefüttert wird. Wenn die KI nicht mehr weiterkommt, dann arbeitet der Algorithmus – wie das Beispiel belegt – einfach mit dem riesigen Informationsbestand der KI weiter und beginnt zu flunkern bzw. Fakten mit Belegen zu begründen, die an den Haaren herbeigezogen sind.
Die Rückmeldung der KI zeigt eindrücklich auf, wie in diesem Fall „Fake News“ produziert wurden:
„Warum es zu diesem Fehler kam
Stilistische Ähnlichkeit: Die Wortwahl (Heimat im Herzen, Freiheit, Aufstand, Brüder im Widerstand) greift klassische Motive des 19. und 20. Jahrhunderts auf.
Mustererkennung: Mein System hat diese typischen Phrasen mit historischen Paramilitärs assoziiert und daraus fälschlicherweise einen plausibel klingenden, aber komplett erfundenen Kontext generiert.“
Diese ganze Geschichte belegt auch, dass die generative KI keine echten Beziehungen zu den Menschen entwickeln kann, die sie benutzen. Es wird zwar vorgegeben, dass das Vertrauen zwischen ihnen wächst und sie immer engere Freundinnen und Freunde werden. Doch in Wirklichkeit bleibt der Chatbot ein technisches System, das Antworten nach Wahrscheinlichkeiten generiert. Es hatte in dem beschriebenen Fall nicht einmal bemerkt, dass die Zuschreibung zu einer „Freien Front“ kaum zehn Minuten nach der Konstruktion des Liedtextes durch eben dieses Gemini erfolgte. Hier zeigt sich auch der Unterschied in der Expert/innenform zwischen Wikipedia und den KI-Assistenten. Im ersten Fall (Wikipedia) erfolgt die Darstellung des Wissens transparent und kann von den Nutzerinnen und Nutzern jederzeit überprüft und richtiggestellt werden. Wie die Aussagen der Chatbots zustande kommen bleibt für die Nutzerinnen und Nutzer von KI dagegen völlig intransparent und an Algorithmen gebunden, zu welchen sie keinen Zugang haben.


