Zur Zeit ist die Dialog-KI ChatGPT in aller Munde, sorgt für Erstaunen und für Entsetzen gleichermaßen und jedenfalls für reichlich Gesprächstoff.
Was ist ChatGPT?
ChatGPT (Generative Pre-trained Transformer) ist der Prototyp eines Chatbots, also eines textbasierten Dialogsystems als Benutzerschnittstelle, der auf maschinellem Lernen beruht. Den Chatbot entwickelte das US-amerikanische Unternehmen OpenAI, das ihn im November 2022 veröffentlichte.
Quelle: Wikipedia
Was benötigt ein dialogorientiertes Sprachsystem, um zu funktionieren?
- Ein oder mehrere Modelle bestätigenden Lernens
- Ein überzeugendes Sprachmodell zur Ein- und Ausgabe
- Ein möglichst großes Corpus an Trainingsmaterial (Text)
ChatGPT verfügt über diese Voraussetzungen in so fortgeschrittenem Maß, dass die Texte, die es auf Fragestellungen ausgibt, kaum von menschlichen Antworten unterschieden werden können. Die Variationsbreite in stilistischer Hinsicht ist dabei wohl so groß, dass das System sogar literarische Texte formulieren kann.
Ist die Wissensbasis, auf die ChatGPT zurückgreifen kann, groß genug, kann das System nahezu erschöpfend Sachfragen beantworten, die die Auslegung vieler Denk- oder Argumentationsmöglichkeiten voraussetzt.
Ich selbst habe das System nicht ausprobiert, bei Claudias Digital Diary aber und auch beim Horst kann sich der geneigte Leser durchaus ein Bild machen. Es gibt wohl viele weitere Beispiele, wo Blogger und andere ChatGPT ausprobiert haben und überwiegend höchst erstaunliche Kostproben der Leistungsfähigkeit dieser »KI« erhalten haben.
Wo lassen Sie schreiben?
Es scheint, dass die Geschwindigkeit, mit der die Möglichkeiten schon dieser im Grunde noch recht frühen Form eines solchen »Chatbots«, im Netz und drumherum die Kunde machten, atemberaubend ist. Der zum Testen bislang offene Zugang wurde zigmillionenfach genutzt, um Texte und Dialoge aller Art erzeugen zu lassen.
Also dauerte es nicht lange, und erste Bedenken wurden laut. Inzwischen herrscht ein gewisser zeittypischer Alarmismus, es wird gewarnt, gemahnt, befürchtrt und es wird schwer an Bedenken getragen. Warum?
Jeder, der beauftragt wird, zu einem halbwegs fest umrissenen Thema einen sachbezogenen informierenden Text zu schreiben, wird ab sofort in der Lage sein, sich einen solchen Text von ChatGPT (oder bald weiteren Systemen dieser Art) schreiben zu lassen. Schüler lassen Hausaufgaben erledigen, Studenden Seminararbeiten, andere zu Prüfende entsprechend andere Prüfungsaufgaben. Texte beliebiger Art der Sorte »Trivialliteratur« zu erdichten nach entsprechender Themen- und Stilvorgabe sollte für ChatGPT ebenfalls kein größeres Problem darstellen.
Stop. Hier bleibe ich kurz: Trivialliteratur, im schlimmsten Fall Romane, wie sie serienweise von vielen Verlagen seit Jahrzehnten von bestellten Autorenkollektiven verfasst werden, dürften eigentlich kein Problem darstellen. Zumindest nicht, was die Produktseite angeht. Denn wenn das, was auf solche Weise am Fließband produziert wird, genauso gut von einer Text-KI verfasst werden kann, dann kann man sie das auch tun lassen. Ok, dann muss sich eine größere Schar von minderbezahlten Auftragsschreiberlingen neue Jobs suchen.
Das Problem ist allerdings klar:
Wenn Schüler und andere Lernende in die Lage versetzt werden, Lernnachweise von einer derart leistungsfähigen KI schreiben zu lassen, wie kann der Prüfende sicher sein, dass der Aufsatz zum Thema, der ihm vorgelegt wird, vom menschlichen Probanden verfasst wurde und nicht von einem Computersystem? (Die Entwickler des ChatGPT arbeiten gerade intensiv an Lösungen dieses Problems)
Das eigentliche Problem ist allerdings klar – ein ganz anderes:
Wenn eine KI wie ChatGPT locker und vorderhand glaubwürdig in der Lage ist, qualifizierte Text-Prüfungsaufgaben zu bewältigen, was bedeutet das in Wahrheit hinsichtlich der Qualität und Aussagekraft solcher Prüfungsaufgaben?
(Ich hätte nicht gedacht, dass ich mich knapp über 40 Jahre nach meiner eigenen Schulzeit wieder einmal mit der Problematik rein repetitiver Wissensreproduktion beschäftigen würde)
Welche Lernerfolge prüfe ich eigentlich bei jungen Menschen, wenn ich Leistungen bewerte, die ChatGPT gleichermaßen gut abliefern kann?
Natürlich ist es richtig, dass solcherart Lernerfolgsprüfungen nicht die alleinigen Kriterien für schulischen Erfolg sind – zumindest sollte das so sein. (Denke ich. Ist das falsch?)
Aber um diesen Ausschnitt geht es im Moment bei dem in diesem Sinne verständlichen Hype um ChatGPT. Wäre das schon alles, wäre es dann nicht an der Zeit, ChatGPT ein Abiturzeugnis zu überreichen – mit guten Noten selbstverständlich?
Und wo lassen Sie lügen?
Ein anderer Aspekt, der intensiv Alarm auslöst, ist die zu Recht erkannte Gefahr, dass sich Spinner aller Art, Verschwörungsesoteriker, notorische Lügner mit erhöhtem Mittelungsbedürfnis, verlogene Propagandisten, Quer- und Schrägdenker diverser Couleur über eine solche Chatbot-KI »hermachen« und Fake-News aller Art und ihren anderen Text- und Propagandemüll in Massen schreiben lassen. Es gibt wohl in den einschlägigen Kanälen nach wie vor genug – selbstverschuldet – dumme Hühner, die sich gerne immer wieder mit verlogenen Körnern füttern lassen. Das Biotop der intellektuell Entmächtigten lässt sich weder mit noch ohne ChatGPT so einfach trockenlegen. Ich schweife ab.
Vorläufig…
Es bleibt mir, bis auf Weiteres bloß erstaunt, aber nicht entsetzt angesichts der Möglichkeiten eines solchen KI-Dialogsystems, lediglich, in meinem eigenen Wissensfundus zu kramen und eine alte, gar weise Erkenntnis und darauf folgende Aufforderung eines großen Vergangenen zu Tage zu fördern:
Aufklärung ist der Ausgang des Menschen aus seiner selbstverschuldeten Unmündigkeit. Unmündigkeit ist das Unvermögen, sich seines Verstandes ohne Leitung eines anderen zu bedienen. Selbstverschuldet ist diese Unmündigkeit, wenn die Ursache derselben nicht am Mangel des Verstandes, sondern der Entschließung und des Muthes liegt, sich seiner ohne Leitung eines anderen zu bedienen. Sapere aude! Habe Muth, dich deines eigenen Verstandes zu bedienen! ist also der Wahlspruch der Aufklärung.
Immanuel Kant, Beantwortung der Frage: Was ist Aufklärung? (1784)
Und darüber hinaus der dringende Rat, der heute, wo wir Aufrechten immer massiver aus allen Netz-Rohren schier inflationär mit (scheinbarer und echter) Information überschwemmt werden – wo wirklich jeder Depp unaufgefordert aus seinem Instagram- oder Telegram- oder Twitter- oder Youtube-Fensterchen heraus in die Welt röhren kann:
Wann immer du etwas liest, worin irgendetwas behauptet wird, worin vorgeblich Fakten dargelegt werden: Prüfe die Fakten, prüfe die Quellen!
(Und jetzt behaupte mal jemand, diesen noch überschaubar kurzen, aber möglicherweise etwas eigentümlichen Blogartikel hätte ChatGPT schreiben können…)
Kommentare
5 Antworten zu „Von Wissen, Lernen und KIs“
„Jeder, der beauftragt wird, zu einem halbwegs fest umrissenen Thema einen sachbezogenen informierenden Text zu schreiben, wird ab sofort in der Lage sein, sich einen solchen Text von ChatGPT (oder bald weiteren Systemen dieser Art) schreiben zu lassen.“
Das habe ich getestet, weil ich vom Auftragsschreiben lebe. Ergebnis: Es reicht grade mal für einen oberflächlichen Einstieg ins Thema! Mit Nachfragen kann man das dann noch ein wenig vertiefen, jedoch sind die Formulierungen zwar korrekt, aber sprachlich eher öde wegen vieler Wiederholungen. Die Verwendung von Synonymen zwecks Abwechslung hat es – zumindest auf Deutsch – nicht so drauf. Und es macht Fehler, man muss jede einzelne Behauptung nachrecherchieren. Grade wenn es in die Details geht, ist das Wissen von ChatGPT begrenzt. In letzter Zeit habe ich z.B. etliche Sachartikel über tropische Pflanzen aus dem Regenwald verfasst. Die sind alle ähnlich, aber es kommt eben auf die kleinen Unterschiede an, wenn man sinnvolle Pflegetipps geben will.
Dennoch stimmt: Überall da, wo die Auftraggeber „nur ein bisschen Text“ haben wollen und auf Qualität pfeiffen, tut es ChatGPT ausreichend gut!
Sehr unterhaltsam finde ich übrigens die Fähigkeit der KI, im Stil berühmter Autoren zu schreiben.
Hier z.B. als Adorno und Thomas Bernhard:
https://www.claudia-klinger.de/digidiary/2023/02/01/warten-auf-den-fruehling-chatgpt-im-stil-von-adorno-und-thomas-bernhard/
Und hier zieht „Nietzsche“ vom Leder und sagt, was (manche) Veganer denken, aber nicht zu sagen wagen:
https://www.unverbissen-vegetarisch.de/2023/02/chatgpt-vegane-ernaehrung-akt-der-ueberlegenheit-gegenueber-dem-unwissenden-massenpack/
Ich glaube übrigens nicht, dass die Entwickler eine Lösung für die Problematik in der Lehre finden. Schüler und Studierende werden ja wohl binnen Kurzem in der Lage sein, die Texte ein wenig „anzureichern“ – und damit geht jede derartige Methode ins Leere. Immerhin: Indem sie das tun, lernen sie für das Leben, denn Text-Kis werden ja nicht wieder verschwinden.
Also müssen die Lehrenden den Umgang damit lehren – sie könnten bei einer Aufgabe ja gleich eine ChatGPT-Version mitgeben! Die Aufgabe wäre dann, die Fakten zu überprüfen, die Struktur zu verbessern, Fehlendes zu ergänzen und die Sprache zu verbessern (Wiederholungen vermeiden, Sätze umstellen, Synonyme verwendet etc.).
Ich fürchte, viele, nicht nur unter den Lesern, sondern auch in den Redaktionsstuben der Zukunft, werden zufrieden sein mit dem etwas verarmten Output solcher Sprachsysteme. Wenn ich heute in den Zeitungen sehe und verärgert lese, wie wenig Wert auf stilistische Qualität und syntaktische Fehlerfreiheit gelegt wird, dann kann ich nur auf mangelndes Qualitätsbewusstsein schließen. Auf Desinteresse.
Was du im letzten Abschnitt schreibt, trifft eine wichtigen Punkt. Wissen bloß zu repetieren ist billig, aber nutzlos. Geistige Eigenleistung, konstruktiv genutztes Wissen ist das, worauf es ankommt.
Was bedeutet ein Fakt, wie ordne ich ihn in einen Zusammenhang ein, wie bewerte ich ihn? Das führt zu einem Standpunkt, von dem aus man diskutieren kann. So etwas kann man nicht aus Wissens-Datenbanken systematisch extrahieren und sprachlich geschliffen aufbereiten.
Um es anders auszudrücken: ChatGPTs u.ä. haben kein Wissen, sie haben nur ein Lexikon. Sie sind nur „K“, aber nicht „I“.
Wow, was für ein toller Umgang dieses Blog mit Links! Da wird der Titel gezogen und verlinkt, nicht die URL abgebildet! Wie kriegst du das hin?
Das ist WordPress: Beim Schreiben im Editor die gewünschte Passage (Wort, Satzausschnitt) schreiben, dann markieren und auf den Verlinkungs-Button drücken. Am Ort erscheint eine kleine Box, in der man den zugehörigen URL einfügen kann, den man sich zuvor von der Quelle kopiert hat. OK und der Link ist fertig im Text.
Wie lange gibt es das Tool? Ich erwarte, dass an den bemängelten Eigenschaften gearbeitet wird. Außerdem haben wir es inzwischen mit einigen solcher Tools zu tun. Es entsteht auch dort Wettbewerb, so dass zu erwarten ist, dass die Qualität sich schnell verbessert.