Von Wissen, Lernen und KIs

Zur Zeit ist die Dialog-KI ChatGPT in aller Munde, sorgt für Erstaunen und für Entsetzen gleichermaßen und jedenfalls für reichlich Gesprächstoff.

Was ist ChatGPT?

ChatGPT (Generative Pre-trained Transformer) ist der Prototyp eines Chatbots, also eines textbasierten Dialogsystems als Benutzerschnittstelle, der auf maschinellem Lernen beruht. Den Chatbot entwickelte das US-amerikanische Unternehmen OpenAI, das ihn im November 2022 veröffentlichte.

Quelle: Wikipedia

Was benötigt ein dialogorientiertes Sprachsystem, um zu funktionieren?

• Ein oder mehrere Modelle bestätigenden Lernens
• Ein überzeugendes Sprachmodell zur Ein- und Ausgabe
• Ein möglichst großes Corpus an Trainingsmaterial (Text)

ChatGPT verfügt über diese Voraussetzungen in so fortgeschrittenem Maß, dass die Texte, die es auf Fragestellungen ausgibt, kaum von menschlichen Antworten unterschieden werden können. Die Variationsbreite in stilistischer Hinsicht ist dabei wohl so groß, dass das System sogar literarische Texte formulieren kann.

Ist die Wissensbasis, auf die ChatGPT zurückgreifen kann, groß genug, kann das System nahezu erschöpfend Sachfragen beantworten, die die Auslegung vieler Denk- oder Argumentationsmöglichkeiten voraussetzt.

Ich selbst habe das System nicht ausprobiert, bei Claudias Digital Diary aber und auch beim Horst kann sich der geneigte Leser durchaus ein Bild machen. Es gibt wohl viele weitere Beispiele, wo Blogger und andere ChatGPT ausprobiert haben und überwiegend höchst erstaunliche Kostproben der Leistungsfähigkeit dieser »KI« erhalten haben.

Wo lassen Sie schreiben?

Es scheint, dass die Geschwindigkeit, mit der die Möglichkeiten schon dieser im Grunde noch recht frühen Form eines solchen »Chatbots«, im Netz und drumherum die Kunde machten, atemberaubend ist. Der zum Testen bislang offene Zugang wurde zigmillionenfach genutzt, um Texte und Dialoge aller Art erzeugen zu lassen.

Also dauerte es nicht lange, und erste Bedenken wurden laut. Inzwischen herrscht ein gewisser zeittypischer Alarmismus, es wird gewarnt, gemahnt, befürchtrt und es wird schwer an Bedenken getragen. Warum?

Jeder, der beauftragt wird, zu einem halbwegs fest umrissenen Thema einen sachbezogenen informierenden Text zu schreiben, wird ab sofort in der Lage sein, sich einen solchen Text von ChatGPT (oder bald weiteren Systemen dieser Art) schreiben zu lassen. Schüler lassen Hausaufgaben erledigen, Studenden Seminararbeiten, andere zu Prüfende entsprechend andere Prüfungsaufgaben. Texte beliebiger Art der Sorte »Trivialliteratur« zu erdichten nach entsprechender Themen- und Stilvorgabe sollte für ChatGPT ebenfalls kein größeres Problem darstellen.

Stop. Hier bleibe ich kurz: Trivialliteratur, im schlimmsten Fall Romane, wie sie serienweise von vielen Verlagen seit Jahrzehnten von bestellten Autorenkollektiven verfasst werden, dürften eigentlich kein Problem darstellen. Zumindest nicht, was die Produktseite angeht. Denn wenn das, was auf solche Weise am Fließband produziert wird, genauso gut von einer Text-KI verfasst werden kann, dann kann man sie das auch tun lassen. Ok, dann muss sich eine größere Schar von minderbezahlten Auftragsschreiberlingen neue Jobs suchen.

Das Problem ist allerdings klar:

Wenn Schüler und andere Lernende in die Lage versetzt werden, Lernnachweise von einer derart leistungsfähigen KI schreiben zu lassen, wie kann der Prüfende sicher sein, dass der Aufsatz zum Thema, der ihm vorgelegt wird, vom menschlichen Probanden verfasst wurde und nicht von einem Computersystem? (Die Entwickler des ChatGPT arbeiten gerade intensiv an Lösungen dieses Problems)

Das eigentliche Problem ist allerdings klar – ein ganz anderes:

Wenn eine KI wie ChatGPT locker und vorderhand glaubwürdig in der Lage ist, qualifizierte Text-Prüfungsaufgaben zu bewältigen, was bedeutet das in Wahrheit hinsichtlich der Qualität und Aussagekraft solcher Prüfungsaufgaben?

(Ich hätte nicht gedacht, dass ich mich knapp über 40 Jahre nach meiner eigenen Schulzeit wieder einmal mit der Problematik rein repetitiver Wissensreproduktion beschäftigen würde)

Welche Lernerfolge prüfe ich eigentlich bei jungen Menschen, wenn ich Leistungen bewerte, die ChatGPT gleichermaßen gut abliefern kann?

Natürlich ist es richtig, dass solcherart Lernerfolgsprüfungen nicht die alleinigen Kriterien für schulischen Erfolg sind – zumindest sollte das so sein. (Denke ich. Ist das falsch?)

Aber um diesen Ausschnitt geht es im Moment bei dem in diesem Sinne verständlichen Hype um ChatGPT. Wäre das schon alles, wäre es dann nicht an der Zeit, ChatGPT ein Abiturzeugnis zu überreichen – mit guten Noten selbstverständlich?

Und wo lassen Sie lügen?

Ein anderer Aspekt, der intensiv Alarm auslöst, ist die zu Recht erkannte Gefahr, dass sich Spinner aller Art, Verschwörungsesoteriker, notorische Lügner mit erhöhtem Mittelungsbedürfnis, verlogene Propagandisten, Quer- und Schrägdenker diverser Couleur über eine solche Chatbot-KI »hermachen« und Fake-News aller Art und ihren anderen Text- und Propagandemüll in Massen schreiben lassen. Es gibt wohl in den einschlägigen Kanälen nach wie vor genug – selbstverschuldet – dumme Hühner, die sich gerne immer wieder mit verlogenen Körnern füttern lassen. Das Biotop der intellektuell Entmächtigten lässt sich weder mit noch ohne ChatGPT so einfach trockenlegen. Ich schweife ab.

Vorläufig…

Es bleibt mir, bis auf Weiteres bloß erstaunt, aber nicht entsetzt angesichts der Möglichkeiten eines solchen KI-Dialogsystems, lediglich, in meinem eigenen Wissensfundus zu kramen und eine alte, gar weise Erkenntnis und darauf folgende Aufforderung eines großen Vergangenen zu Tage zu fördern:

Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Muthes liegt, sich seiner ohne Leitung eines anderen zu bedienen. Sapere aude! Habe Muth, dich deines eigenen Verstandes zu bedienen! ist also der Wahlspruch der Aufklärung.

Immanuel Kant, Beantwortung der Frage: Was ist Aufklärung? (1784)

Und darüber hinaus der dringende Rat, der heute, wo wir Aufrechten immer massiver aus allen Netz-Rohren schier inflationär mit (scheinbarer und echter) Information überschwemmt werden – wo wirklich jeder Depp unaufgefordert aus seinem Instagram- oder Telegram- oder Twitter- oder Youtube-Fensterchen heraus in die Welt röhren kann:

Wann immer du etwas liest, worin irgendetwas behauptet wird, worin vorgeblich Fakten dargelegt werden: Prüfe die Fakten, prüfe die Quellen!

(Und jetzt behaupte mal jemand, diesen noch überschaubar kurzen, aber möglicherweise etwas eigentümlichen Blogartikel hätte ChatGPT schreiben können…)