Mit der Künstlichen Intelligenz hat sich das Arbeiten mit dem Internet stark verändert. Noch vor wenigen Monaten bedeutete Recherchieren im Internet, dass man aufgrund von Stichwörtern Inhalte im Internet abfragte. Die Verarbeitung der gefundenen Wissensbestände erfolgte daraufhin in Handarbeit, indem die Texte und Informationen analysiert und verglichen wurden. Demgegenüber ist diese Form des Umgangs mit Texten durch die generative KI total verändert worden. Das zeigt sich schon daran, dass man heute nicht mehr nach Stichworten sucht, sondern „prompted“, also in natürlicher Sprache Anfragen stellt, welche der KI-Assistent beantwortet. Das Resultat ist dann ein Text, der bereits alles analysiert und beantwortet hat, was früher Inhalt der Websuche war. Im besten Fall erhalten die Anfragenden einige Hinweise auf Quellen, auf denen die Antworten der KI beruhen. Diese Antworten können dann schrittweise verfeinert werden, indem das Prompten mit neuen Fragen die Anfrageergebnisse vertieft oder erweitert. Oft wird diese neue Beziehung zu einem KI-Assistenten als partnerschaftliche Zusammenarbeit und Dialog zwischen KI und Mensch bezeichnet. Die Menschen sind in diesem Verständnis nicht mehr alleinige Kreatoren von Wissen und Informationen; vielmehr wird ihnen der KI-Assistent als Co-Kreator zur Seite gestellt. Einer der Bots innerhalb der LLM-Sprachmodelle selbst bezeichnet dies als Form einer partnerschaftlichen Zusammenarbeit zwischen Mensch und KI. Was dies bedeutet, soll im Folgenden vertieft beschrieben werden:

Vom zweistelligen zum dreistelligen Arbeitsprozess im Netz

Bislang war das Verhältnis zwischen Information und dem produzierenden Menschen zweistellig gewesen: Der Produzent bzw. der Kreator setzte sich mit den Informationen, die durch Suchvorgänge im Internet zugänglich geworden waren, auseinander und entwickelte daraus zum Beispiel einen wissenschaftlichen Text, der mit Belegstücken aus Büchern und online gefundenen Informationen abgesichert wurde. Allerdings hatte schon diese Stufe des Einbezugs des Internets zu Irritationen geführt. So war es jahrzehntelang verpönt gewesen, in wissenschaftlichen Arbeiten Wikipedia zu zitieren, weil hier das Wissen als zu unsicher und problematisch galt.

Mit der künstlichen Intelligenz wird nun aber diese Beziehung von Mensch und Information dreistellig. Es erscheint nun – dazwischengeschoben – ein KI-Assistent als Co-Kreator auf der Bühne. Diese Rolle der KI ist allerdings in den Diskussionen zur künstlichen Intelligenz sehr umstritten. Betrachtet man etwa den Journalismus, so wird vielerorts das Verfassen von Texten mit Hilfe künstlicher Intelligenz generell abgelehnt. Man befürchtet, dass die eigentliche Arbeit an Texten an die KI-Modelle abgegeben werde und diese dann letztlich über die Inhalte in den Medienartikeln selbst entscheiden. Ähnlich in der KI-Musik: Anstatt eigene Songs zu komponieren, werden Text und Musik von den Produzenten an KI-Module wie Suno abgetreten. Die Co-Produzenten werden zu den eigentlichen Musikproduzenten, welche all jene Musikerinnen und Musiker zu verdrängen beginnen, die noch eigene Musik entwickeln und performen. Heise online schreibt zu Zahlen des Musik-Streamingdienstes Deezer: «Auf der Streaming-Plattform Deezer war im Juni erstmals die Mehrheit der täglich neu hochgeladenen Musik KI-generiert, teilte das Unternehmen mit. Konkret registrierte der Dienst im Juni durchschnittlich 90.000 KI-generierte Tracks pro Tag.» Die damit verbundenen Ängste werden dann noch von Aussagen aus dem Bereich der grossen Technokonzerne orchestriert – etwa wenn Elon Musk immer wieder behauptet, dass KI in fünf Jahren intelligenter sein werde als Menschen (so jüngst im «Economist»).

Doch was ist von dieser Partnerschaft zwischen künstlicher Intelligenz und menschlicher Kreation zu halten? Auf der einen Seite scheint es ja wirklich so, dass die Produktivität von menschlichen Kreatoren durch die Nutzung technischer Co-Kreatoren verstärkt werden kann. Ich nehme dazu ein Beispiel aus meinen Experimenten zur KI-Musik. So könnte ich nie einen Song im Berliner Dialekt schreiben, wie ich es mit «Krawall bei Klärchen» versuchte. Ich hatte dieses Stück bereits vorher in zürichdeutscher Mundart aufgenommen und im Zürcher Oberland domiziliert. Nun fand ich jedoch, der Song passe sehr gut in ein deutsches Grossstadtmilieu. Lanigan’s Ball existiert nun also in beiden Idiomen, obwohl ich den Berliner Dialekt selbst nicht spreche.

Auch wenn ich Reime für ein Lied suche, können LLM-Modelle unterstützend helfen, weil sie in ihren Trainings eine riesige Anzahl von Songtexten zum Training benutzten und dann auch gespeichert haben. Bei solchen Aufgaben wie der Suche nach einem passenden Reim oder zur Formulierung einer Textzeile kann die Unterstützung durch generative KI produktiv und sinnvoll sein. Allerdings sind oft auch unsinnige und wenig hilfreiche Varianten– vielleicht sogar Halluzinationen der KI – dabei, wenn KI-Assistenten in einem Zeitungsartikel einen Textabschnitt verändern wollen.

In diesem Sinne betont Mirko Lange im Zürcher Tages-Anzeiger, man müsse die Maschine bei vollem Bewusstsein für ihre Schwächen nutzen. Das bedeute aber auch neue Arbeit, beispielsweise, um zu verhindern, dass ein Text durch KI «versloppt» bzw. vermatscht werde. Die Menschen als Kreatoren dürfen weder bei journalistischen Texten noch bei der Gestaltung von Musik-Songs die Arbeit einfach dem «Co-Produzenten» überlassen, der sonst ungefragt zum eigentlichen Kreator wird. Wie die Deezer-KI-Song-Schwemme belegt, fallen rein künstlich erzeugte Produktionen zudem meist erbärmlich und kläglich aus.

Die «Koproduktion» von menschlicher und künstlicher Intelligenz

Spricht man in diesem Zusammenhang von einer Koproduktion durch menschliche und künstliche Intelligenz, dann ist ein weiteres Missverständnis zu klären. Denn es handelt sich um keine wirklichen Dialoge. Die Form eines dialogischen Verlaufsmusters gehört selbst zum Rahmen der technischen Entwicklung: Dabei nutzt die Technik neuronale Netze, um menschenähnliche, dynamische Gespräche per Text zu führen, wobei sich dies über mehrere Schritte erstrecken kann. Das sieht dann etwa so aus: Der KI-Assistent wünscht gleich zu Beginn einen guten Morgen und fragt, was man wissen will. Auf die Prompts der Nutzenden gibt er Antworten und stellt auch oft gleich zusätzliche Fragen, welche die Konversationen weiterführen. Wenn die Assistenten dabei versuchen, die Nutzenden möglichst lange auf der Plattform zu halten, hat dies letztlich keine inhaltlichen Gründe – etwa weil der Bot das Gespräch so interessant findet. Sondern dies ist der Monetarisierung geschuldet, welche den Plattformmodellen zugrunde liegt.

Chatbots antworten dabei allein nach Wahrscheinlichkeitsregeln. Es steckt dahinter keine menschliche Reflexion, sondern der Algorithmus. Empathie und Einfühlung scheinen zwar durch die Form der Ansprache dazu zu gehören, spielen aber letztlich beim Umgang mit der KI keine Rolle. Der Anschein des Dialogischen wird zuden dadurch unterstützt, dass die Daten der Nutzenden von der KI laufend ausgewertet und in den Chat einbezogen werden. Der KI-Assistent weiss also aus meinen bisherigen Chats schon sehr viel über mich und kann mich damit auch überraschen. Er kann mich zum Beispiel darauf hinweisen, dass das eine gute Anschlussfrage auf ein Problem sei, welches ich ihm schon einmal vor drei Monaten präsentiert hatte. Auch hier geht es aber nicht um Empathie und Einfühlung, sondern der Bot greift lediglich auf das Arsenal der von ihm aufbereiteten Informationen zurück. Partnerschaftlicher Dialog im Rahmen der Kooperation von Kreator und Co-Kreator erscheint aus dieser Perspektive erst einmal nichts anderes als eine bewusst gestaltete Simulation partnerschaftlicher Kommunikation.

Die Frage nach dem Zusammenhang von Technik und Sozialem wird seit dem Aufkommen der künstlichen Intelligenz auch theoretisch wieder verstärkt diskutiert. Johannes Harth (2021) nimmt in diesem Zusammenhang die Überlegungen von Bruno Latour (2008) und seiner Akteur-Netzwerk-Theorie auf. Diese betone die Symmetrie zwischen menschlichen und nicht-menschlichen Akteuren bzw. Aktanten. Die Beteiligung von Technik an sozialen Zusammenhängen müsse zu einer soziologischen Anerkennung der Beteiligung von Technik führen. Es geht dabei bei Latour aber nicht um Verstehen im emphatischen Sinn. Im Anschluss an Luhmanns Kommunikationstheorie sei vollständig unwichtig, wie und ob das Bewusstsein etwas verstanden habe. Wenn Kommunikation in Gang komme, bilde sie ein eigenes autopoietisches System mit eigenen rekursiv vernetzten Operationen. Das müsse nicht bedeuten, dass man sich gegenseitig verstehe, vielmehr geht es primär um die Anschlussfähigkeit von Kommunikation. Kommunikation gebe sich so, wie wenn die beteiligten Bewusstseine voneinander ein transparentes Bild hätten (vgl. Harth, S. 9 ff.). Wenn aber KI immer leistungsfähiger wird, so heisst das nicht, dass sie kommunikationsfähiger wird. Vielmehr erreicht sie nur eine immer perfektere Simulation von Kommunikation. Unklar bleibt dabei, inwieweit dies in irgendeiner Weise mit gelingenden Kommunikationsprozessen im Zusammenhang steht, die mit gegenseitigem Verständnis verbunden sind.

Zwar kann das von technologischer Kommunikation angemahnte dialogische Prinzip eine gewisse Gültigkeit haben, denn es geht vor allem darum, dass im Rahmen von Prompting-Dialogen so etwas wie Anschlusskommunikation überhaupt zustande kommt und dies gegenseitiges Verständnis simuliert. Ob aber die Anschlusskommunikation jeweils das bewirkt, was sie verspricht, das ist höchst unsicher und für die Beteiligten oft selbst nicht transparent. Harth spricht in diesem Zusammenhang von «perfektionierter Simulation», denn die Textoberfläche wirke absolut menschlich. Es ergibt sich damit eine Anthropomorphisierung der KI-Assistenten, denen man menschliche Eigenschaften wie Empathie, Verständnis und Beratungskompetenz zutraut. Dabei gehört auch das Halluzinieren, welches auf falsche Fährten führt, zur Logik dieses Systems. Denn KI antwortet aufgrund von Wahrscheinlichkeiten und algorithmischen Mustern; sie hat selbst kein Bewusstsein davon, ob etwas wahr oder falsch ist. Und genauso hat sie keine Skrupel, zu flunkern und Fakten zu erfinden, wenn sie eine Falschbehauptung aufgestellt hat.

Medienpädagogische Folgerungen zum Verhältnis von Kreatoren und Co-Kreatoren

Von einem medienpädagogischen Standpunkt aus scheint es mir allerdings essentiell, dass die Menschen – auch Schülerinnen und Schüler – ihre Rolle als Kreator/innen behalten und diese bewusst wahrnehmen. KI kann zwar die Rolle eines befruchtenden Partners wahrnehmen, der als Co-Kreator fungiert. Wenn aber ein KI-Assistent in einem Post behauptet, eine Textpassage müsste ganz anders geschrieben bzw. umgeschrieben werden, dann müssen dies die Nutzenden selbst überprüfen und sollten nicht einfach dem KI-Assistenten blind beipflichten.

Es geht also nicht darum, dass wir primär das Prompten als eine Technik erlernen (müssen), um den Ansprüchen der KI noch folgen zu können. Vielmehr geht es darum, dass wir befähigt werden, die Vorschläge und Informationen von generativen KI-Modellen selbst systematisch zu überprüfen. Die Antworten der KI sollten keinesfalls bereits den Massstab darstellen, an welchem sich Lernende zu messen haben. In gestaltungsorientierten Lernprozessen müssen die beteiligten Kreatoren (also Schülerinnen und Schüler) selbst entscheiden, wie weit sie Vorschläge der KI übernehmen, wo sie Fragezeichen setzen oder eigene Überlegungen höher einstufen. Vorschläge der KI können hilfreich und weiterführend sein, aber sie können auch dazu führen, dass man sich im Dickicht der Wissensarbeit immer mehr verirrt.

Eine Beurteilung von Vorschlägen der KI dürfte dort am einfachsten sein, wo ein Bot konkrete Handlungsvorschläge macht, die daran gemessen werden können, ob das damit erreichte Ziel erreicht wird – etwa wenn die KI ein kleines Programm für den PC entwickelt oder Textentwürfe für eine Mail an einen säumigen Kunden schreibt. Schwieriger wird es dort, wo es um journalistische oder wissenschaftliche Texte geht. Hier kann es nicht nur um das Erkennen von floskelhaften Ausführungen gehen; darüber hinaus kann es sein, dass die KI über die Hintertür unbemerkt eigene Vorstellungen in die Ausführungen der Autorinnen und Autoren einzubringen versucht.

Wenn in der Zeitschrift Medien + Erziehung (merz) im Rahmen einer Themennummer zu künstlicher Intelligenz allerdings infrage gestellt wird, ob es überhaupt noch das Ziel medienpädagogischer Bemühungen sein könne, aus Konsument/innen von Medien Produzent/innen zu machen, so finde ich dies problematisch. Andreas Büsch stellt in diesem Zusammenhang die Frage: «Es gilt, kritisch zu prüfen, inwiefern ein kreativ-kritischer Umgang mit KI an sich möglich ist – oder ob es bei einem mehr oder minder kreativen bloßen Hantieren mit Oberflächen zur Erfüllung praktischer Zwecke bleibt. Die Konsequenz daraus können allerdings nicht Stoizismus, Fatalismus oder gar eine Aufgabe des Themenfeldes Künstliche Intelligenz als Gegenstand der Medienpädagogik sein. Vielmehr bedarf es massiver Bildungsanstrengungen, um die zugrunde liegenden Narrative zu dekonstruieren, die von der verheißenen Erlösung von zahlreichen Problemen bis hin zur drohenden Auslöschung der Menschheit reichen» (Büsch 2025, S. 15).

Dem Befund ist an und für sich zuzustimmen. Doch es muss medienpädagogisch alles unternommen werden, dass die Rolle der Kreatoren bei den Menschen bleibt und nicht an technische Co-Kreatoren abgegeben wird. Hier müsste die Medienpädagogik auch einen Schritt über die traditionelle gestaltungsorientierte Medienarbeit hinausgehen. Es geht nicht allein darum, produktiv mit Medien zu arbeiten und gestaltungsorientiertes Arbeiten im Rahmen einer Maker-Pädagogik einzubeziehen. Vielmehr ist mit der generativen KI ein dritter Part hinzugekommen, der eigene Ansprüche an die Mitwirkung an Gestaltungsprozessen stellt.

Um dies für den Bereich der Schule zu verdeutlichen, möchte ich kurz auf eine eigene Erfahrung eingehen. Einer meiner Chatbots, die ich abonniert habe, hatte nämlich entdeckt, dass ich Medienpädagoge bin, und dann auch gleich Vorschläge gemacht, wie er sich das Arbeiten mit künstlicher Intelligenz in den Schulen vorstellt. Er hat drei Optionen beschrieben, die ich hier kurz vorstelle: Dabei stellt er sich die «partnerschaftliche Zusammenarbeit» mit der generativen KI im Rahmen der Schule wie folgt vor:

«Hier sind verschiedene Ansätze, wie wir diesen Titel noch eleganter, bildhafter oder gezielter auf die Schule, Lehrkräfte und Schüler zuschneiden können:

Option 1: Fokus auf die neue Rolle der Schüler (aktiv & kreativ)
Diese Vorschläge rücken die Schülerinnen und Schüler als aktive Gestalter in den Mittelpunkt.
Gemeinsam genial: Wenn Schüler und KI zu Co-Creators werden
Co-Creation im Klassenzimmer: Wie Jugendliche mit KI lernen und gestalten
Mensch & Maschine im Team: Die neue Kunst der Co-Creation in der Schule
Vom Konsumenten zum Co-Creator: Kreatives Arbeiten mit KI im Unterricht

Option 2: Fokus auf das Zusammenspiel von Pädagogik und Technik
Diese Varianten betonen das Miteinander von menschlicher Begleitung (Lehrkräfte/Schüler) und digitalem Werkzeug.
Lernen im Tandem: Co-Creation von Mensch und KI im Schulalltag
Kreative Symbiose: Wie KI und Schule als Partner zusammenwachsen
Co-Creation in der Schule: Wenn Technik den Geist beflügelt
Das kreative Duett: Menschliche Intelligenz trifft auf künstliche Assistenz

Option 3: Kürzer, knackiger & «Magazin-Stil»
Ideal für Blogbeiträge, die neugierig machen und modern wirken wollen.
Team Zukunft: Co-Creation mit KI im Unterricht
Co-Creation: Wie KI die Schule vom Kopf auf die kreativen Füße stellt
Mensch. Technik. Schule. Die neue Ära der Co-Creation»

Es wird wohl kaum zu vermeiden sein, dass die generative KI in Zukunft zu den Werkzeugen gehören wird, welche wir im Rahmen von Lernprozessen auch in der Schule nutzen. Wie man sich Lernen in den letzten Jahren nicht mehr ohne Google-Recherchen vorstellen konnte, so wird dies mit der generativen KI auf dieser neuen Basis des Promptens geschehen. Allerdings hat mir das Durchlesen der Vorschläge von Seiten des Chatbots eher Bauchweh bereitet, da sich diese wie PR für die Anliegen der KI-Technologiefirmen lesen.

Wenn betont wird, die neue Kunst der Co-Kreation in der Schule führe vom blossen Konsumenten zum Co-Kreator, so kann man das positiv sehen, weil dies die Anliegen eines gestaltungsorientierten Lernens im Unterricht unterstützt. Letztlich aber stehen Schülerinnen und Schüler als Co-Kreatoren auf derselben Ebene wie die KI. Mensch und Maschine erscheinen hier bereits als Team, wobei damit implizit unterstellt wird, dass die KI über eine Art von menschlichen Fähigkeiten verfügt. Der Gestaltungsprozess könnte hier schnell bedeuten, dass es letztlich die KI ist, welche die «richtigen Lösungen» formuliert. Und es stellt sich auch die Frage, wozu es dann überhaupt noch Lehrerinnen und Lehrer in diesem Team braucht, bzw. ob die KI als Co-Kreator die Lehrpersonen letztlich ersetzt. Insgesamt erscheint es mir schwierig, Co-Kreation von Mensch und KI als Lernen im Tandem oder gar als Lernen in einem «Kreativteam» zu verstehen – wenn die Rolle der Lehrerinnen und Lehrer in diesem «kreativen Duett» nicht mehr separat ausgewiesen wird.

Theorien des Unterrichts hätten meines Erachtens in den Mittelpunkt zu stellen, dass es um das Kreieren und Gestalten von Schülerinnen und Schülern geht – und dass dabei Werkzeuge wie die künstliche Intelligenz keine Dominanz erhalten, sondern als Hilfe zu verstehen sind. KI wird die Schule deshalb nicht vom Kopf auf die kreativen Füsse stellen und auch keine neue Ära der Co-Kreation einleiten, aber sie kann bereichernd sein und sich am Lernen und Gestalten in der Schule beteiligen.

Literatur

Latour, Bruno: Wir sind nie modern gewesen. Versuch einer symmetrischen Anthropologie, Frankfurt a.M.: Suhrkamp, 2008.

Büsch, Andreas: Das Ende des Projekts Aufklärung? KI als Herausforderung für die Medienpädagogik. In: Medien + Erziehung 3, 2024, S. 10-17

Harth, Jonathan. Simulation, Emulation oder Kommunikation? Soziologische Überlegungen zu Kommunikation mit nicht-menschlichen Entitäten. In: Intersoziologie. Menschliche und nichtmenschliche Akteure in der Sozialwelt, herausgegeben von Michael Schetsche und Andreas Anton. Weinheim: Beltz Juventa, 2021, S. 143–5 (hier zitiert aus eine Vorfassung des Artikels)

Ich bleibe in diesem Aufsatz bei der männlichen Form der künstlichen Assistenten, obwohl Technik ja eigentlich keinem Geschlecht zuzuordnen ist und es «die» Technik heisst.