Künstliche Intelligenz revolutioniert die Erstellung von Lerninhalten, ihr Versprechen: Zeitersparnis und bessere Personalisierung. Zwar mag die KI dieses Versprechen halten, man muss jedoch wachsam sein, um nicht in die Halluzinationsfalle zu tappen.
Wie können Experten für Weiterbildung und Bildungsorganisationen KI nutzen und gleichzeitig die Richtigkeit von Lerninhalten gewährleisten?
Im Bildungsbereich ist die Erstellung von Lerninhalten mittels KI mit dem Risiko der so genannten „Halluzinationsfalle“ behaftet. Dieses Phänomen beschreibt die Erstellung falscher Informationen durch die KI, die sie jedoch als richtig und wahr darstellt.
So könnte beispielsweise ein Generator von KI-Inhalten ein E-Learning-Modul über die Geschichte der künstlichen Intelligenz erstellen und behaupten, dass der erste Chatbot aus dem Jahre 1985 stammt, obwohl ELIZA bereits in den 1960er Jahren im Einsatz war. Wenn solch ein Fehler nicht erkannt wird, kann er die Kursteilnehmer in die Irre führen.
Gefahren von Halluzinationsfallen im Bildungsbereich
Im Bildungsbereich können KI-Halluzinationen zu Folgendem führen:
- Weitergabe falscher Konzepte an die Lernenden;
- Glaubwürdigkeitsverlust der Bildungseinrichtung;
- schlechte Verinnerlichung von Wissen seitens der Teilnehmer.
So entstehen KI-Halluzinationen
Generative KI-Modelle wie ChatGPT, Claude.ai, Mistral oder Perplexity fassen die Welt nicht aus menschlicher Sicht auf. Sie arbeiten nach dem Wahrscheinlichkeits- und Plausibilitätsprinzip und setzen einen Text basierend auf den Daten fort, mit denen sie trainiert wurden.
Im Folgenden werden die Faktoren genannt, die KI-Halluzinationen hervorrufen können.
- Verzerrte oder unvollständige Daten: Wenn die KI mit fehlerhaften Quellen trainiert wird, führt dies zu Verzerrungen bei den Antworten der KI. Tay, ein von Microsoft entwickelter Bot, brauchte nur einen Tag, um sich auf Twitter rassistisch und frauenfeindlich zu äußern und historische Ereignisse in Frage zu stellen.
- Überanpassung: Es werden zu spezifische Daten wiederverwendet, ohne deren Richtigkeit zu überprüfen – dies ist etwa der Fall, wenn der Analysekorpus viel zu klein ist.
- Fehlende Überprüfung von Fakten: Die KI ist nicht in der Lage, von sich aus Informationen auf ihren Wahrheitsgehalt zu überprüfen. So kann die KI bei bestimmten Fragen auf „Neuromythen“ zurückgreifen, die gerade im Bildungssektor nur deshalb präsent sind, weil sie oft aufgegriffen, aber nicht überprüft werden.
- Eingeschränktes Kontextverständnis: Komplexe und mehrdeutige Fragen können zu falschen Extrapolationen führen. Manchmal möchte die KI einfach „gefallen“, sie erstellt daher falsche Informationen oder erfindet Quellenangaben.
Strategien zum Schutz vor KI-Halluzinationen
Angesichts der beschriebenen Gefahren müssen bei der Erstellung von Lerninhalten konsequent geeignete Methodenzur Sicherung der Qualität angewendet werden.
-
1. Abgleich von Informationsquellen
Die KI kann eine Arbeitsgrundlage bieten, aber alle kritischen Informationen müssen mittels anerkannter akademischer oder institutioneller Quellen oder von Experten überprüft werden. Tools wie Google Scholar und Crossref oder professionelle Datenbanken können bei der Überprüfung von Informationen helfen.
-
2. Validierung durch Experten
KI sollte nicht den Status einer einzigen und unfehlbaren Quelle erhalten. Von der KI erstellte Lerninhalte sollten vor ihrer Verwendung unbedingt durch einen qualifizierten (Bildungs-)Experten überprüft werden.
-
3. Verwendung spezieller KI-Tools
Einige KI-Modelle sind darauf ausgelegt, Fakten zu überprüfen, um Desinformation zu verhindern. Hierzu zählen automatisierte Faktenchecker, die in einigen Bildungstools wie Vera.AI3 integriert sind – sie sind jedoch nicht fehlerfrei.
-
4. Hybrider Ansatz: die bessere Variante
Anstatt den gesamten Inhalt nur mithilfe einer generativen KI zu erstellen, ist ein hybrider Ansatz vorzuziehen, bei dem die KI zwar die Erstellung von Inhalten unterstützt, aber nicht vollständig übernimmt.
Dies könnte wie folgt aussehen:
- Mit KI werden Entwürfe oder erste Versionen des Lerninhalts erstellt.
- Diese Entwürfe werden dann mit von Bildungsexperten verfassten Inhalten ergänzt.
- Daraufhin werden geprüfte pädagogische Quellen und bibliografische Hinweise hinzugefügt.
- Außerdem können verschiedene KI-Tools (KI-basierte Texterstellung, Datenanalyse und Synthese) kombiniert werden, anstatt sich auf ein einziges Tool zu verlassen.
Hierbei wird einerseits die Effizienz der KI genutzt, andererseits behält der Mensch die Kontrolle über die Richtigkeit und pädagogische Qualität der Lerninhalte.
-
5. Tests und Feedback
Bevor Sie KI-generierte Lerninhalte verwenden, sollten sie von einer Gruppe von Lernenden und Lehrenden getestet werden, um potenzielle Unstimmigkeiten oder Fehler zu erkennen.
Gleichgewicht zwischen Innovation und Zuverlässigkeit
Die KI bietet zwar viele Möglichkeiten zur innovativen Erstellung von Lerninhalten, sie muss aber mit Bedacht eingesetzt werden. Vor allem ist die KI-Halluzinationsfalle zu vermeiden, wenn die Qualität hochwertiger Lerninhalte gewährleistet werden soll.
Durch ein kritisches, konsequentes Vorgehen können Bildungsexperten und Entwickler von Bildungskonzepten das Beste aus der KI herausholen und gleichzeitig die damit verbundenen Fallstricke vermeiden. Die KI bleibt ein Assistent, sie kann die menschliche Erfahrung nicht ersetzen.
Gerade in der Bildung, aber auch in anderen Bereichen, sind Umsicht und kritisches Denken im Sinne einer effizienten und zuverlässigen Pädagogik gefordert. Die Zukunft gehört wahrscheinlich einer intelligenten Zusammenarbeit, bei der sich Mensch und KI gegenseitig ergänzen.
In der digitalen Bildung reicht reine Innovation nicht aus, vielmehr geht es um einen bewussten Transformationsprozess.
