KI-Fehler in Schulbüchern: Verlag nach Bericht in der Kritik

Ein Schulbuchverlag aus Kerpen sieht sich nach Recherchen des Nachrichtenmagazins „Der Spiegel“ mit dem Vorwurf konfrontiert, dass mithilfe von Künstlicher Intelligenz erstellte Grafiken und Texte als Werke von Menschen ausgegeben hat. In von dem Verlag herausgegebenen Arbeitsheften für den inklusiven Unterricht weisen Illustrationen laut „Spiegel“ typische Fehler auf, die Bild-KI-Modelle erzeugen. Auch in Texten seien Ungereimtheiten aufgefallen. Die angegebene Autorin der Bücher habe sich indessen als Pseudonym erwiesen, hinter dem verschiedene Freiberufler stecken sollen.

Der Kohl-Verlag ist vor allem bekannt für Kopiervorlagen für den Schulunterricht. Unter dem Autorennamen „Anni Kolvenbach“ hat der Verlag auch diverse Arbeitshefte herausgebracht. Das Foto der angeblichen Sonderpädagogin habe sich im Zuge der Recherchen aber als frei käufliches Stockfoto erwiesen, berichtet der „Spiegel“. Die Namen der Illustratoren seien bei Netzrecherchen außerhalb der Verlagsseiten nicht aufzufinden gewesen.

Typische KI-Bildfehler in Illustrationen

Auf Konfrontation hin räumte der Verlag laut Spiegel ein, dass hinter dem Pseudonym mehrere freiberufliche Autoren stecken. Einer von ihnen meldete sich anonym beim Spiegel und gab an, Lehrer an einer Regelschule zu sein. Er habe gemeinsam mit einer Sonderpädagogin Erfahrungen im inklusiven Unterricht gesammelt und diese weitergeben wollen. Zuvor hatte er im Namen von „Anni Kolvenbach“ zunächst Interviewfragen des Nachrichtenmagazins beantwortet, gab sich dann aber zu erkennen.

Die Bildfehler, die typische KI-Merkmale aufzeigen, umfassen Wimmelbilder, auf denen Kinder keinen Körper haben oder deren Kopf in einem Regal steht. In einer Zoo-Szene fehlt einem Elefant der Rüssel, andere Tiere sind merkwürdig deformiert. Ein bekannter KI-Fehler sind auch Hände mit mehr als fünf Fingern – in einer Bildillustration zu sehen bei einer Lehrerin.

In Rechenaufgaben weisen die dazugehörigen Illustrationen Fehler auf, etwa wenn die Anzahl der abgebildeten Symbole nicht mit der zu lösenden Aufgabe übereinstimmt. Pädagogen kritisieren auch Texte im Fach Geschichte für die höheren Jahrgänge, die unzureichend eingeordnet seien.

Verlag hat erste Korrekturen vorgenommen

Nach den Spiegel-Recherchen soll der Verlag inzwischen in den Digitalversionen der Hefte Korrekturen vorgenommen haben. Weitere Fragen zur Qualitätskontrolle blieben bislang unbeantwortet. Auch heise online hat den Verlag um eine Stellungnahme gebeten.

Der Deutsche Lehrerverband warnt derweil grundsätzlich davor, dass KI-generierte Inhalte den Schulunterricht und Hausaufgaben gefährden – und dass Lehrkräfte kaum kontrollieren können, was von KI erstellt wurde. In Illustrationen seien Länder wie die Sowjetunion in Südfrankreich eingezeichnet und Polen doppelt dargestellt worden.

Dabei ist der Einsatz von KI in der Buchbranche generell umstritten: Der Börsenverein des Deutschen Buchhandels sieht klare Risiken beim KI-Einsatz in der Textproduktion, etwa bei Urheberrechten und der Qualitätssicherung.

Dass der undeklarierte Einsatz von KI-generierten Inhalten Vertrauen kostet, zeigte sich auch bei der EU-Cybersicherheitsagentur ENISA: Sie musste einräumen, dass zwei ihrer Berichte halluzinierte Quellen enthielten, die von einer KI erfunden worden waren. Der Mann, der sich als Autor zu erkennen gegeben hat, erklärte, dass er den Auftrag erhalten habe, alle Hefte zu überarbeiten. Den Einsatz von KI bei den Texten bestreitet er.

(mki)