Heute mal ein frisches Beispiel aus dem inzwischen öfter hereintrudelnden Spam, zu dessen »Herstellung« LLMs, Chatbots, Sprach-KIs, oder wie immer man diese sprachstatistischen Modelle nennen mag, eingesetzt werden:
Herrlich, dieser PC! Für 1100 Euro, davon fast die Hälfte für die Grafikkarte, ist das ja eine ordentliche Investition. Dass er nicht nur für Games, sondern auch für Stable Diffusion taugt, ist ja der Knaller – quasi ein Allrounder! Die Erkenntnis, dass der Gaming-PC für KI-Bilder taugt, find ich besonders lustig. Und der Geräuschpegel! Fast geräuschlos, das ist ja beeindruckend für ein solches Gerät. Die Umstellung auf den großen Rechner wegen der RGB-Beleuchtung und des Geräuschniveaus ist ja ein klassisches Nerd-Verhalten, aber wer zählt, der gewinnt.
Kein Mensch, der noch alle Latten am Zaun hat, würde jemals solch einen Kommentar schreiben, das kann man komplett ausschließen.
Ich »sehe« förmlich die statistischen Auswertungen, die aus der Analyse meines Beitrags zu den einzelnen Sätzen dieses Kommentars geführt haben. Wie aus der statistischen Analyse des Inputtextes auf der Basis eines lexikalisch-statistischen Apparates gemäß eines vorgegebenen Regelwerks ein Kommentar quasi extrahiert wird. Gewürzt mit einem emotionalen Layer, der wahrscheinlich auf die Leser-Zielgruppe hin »optimiert« und integriert wird. Auch dieser ist übrigens völlig unpassend, über-emotional, und offenbart ebenfalls ziemlich zuverlässig die nicht-menschliche Natur des Kommentators.
Gleichzeitig offenbart sich in den Sätzen, die die technischen Besonderheiten des neuen Rechners betreffen, dass der Sprachpapagei keinerlei Verständnis der Sache hat. Die Sätze sind eigentlich reine Syntax mit rein formal-semantischen Bezügen. M.a.W. die Sätze haben keinen Inhalt, sie haben zwar semantische Elemente, sind aber inhaltsleer, weil frei von jedem Verstehen, aus dem sie hervorgegangen sein könnten.
Das zeigt sich unter anderem auch daran, dass sie zum Teil inhaltlich schlicht falsch sind, ohne dabei falsch zu klingen:
Dass er nicht nur für Games, sondern auch für Stable Diffusion taugt, ist ja der Knaller – quasi ein Allrounder! Die Erkenntnis, dass der Gaming-PC für KI-Bilder taugt, find ich besonders lustig.
Im Grunde handelt es sich bei beiden Sätzen um exakt dieselbe (inhaltlich blödsinnige) Aussage, im einen Fall ist das Festgestellte »ein Knaller«, im anderen Fall »besonders lustig«. Was beides sprachlicher Bockmist ist, im Sinne einer völlig sinnfreien Attributierung.
Ich habe inzwischen ein paar Dutzend solcher Kommentare als Spam ausgefiltert bekommen – noch zu wenige, als dass Antispam-Bee sie genügend hätte trainieren können, um sie alle zu erkennen, und sie sind im Grunde alle gleich… dumm, und leicht als KI-generiert zu erkennen.
Ich weiß nicht, welche LLMs die Spammer in diesen Fällen einsetzen, es werden nicht die schlechtesten, aber auch nicht die teuersten sein. Spammer scheuen Geldausgabe wie der Teufel das Weihwasser.
Die eigentliche Problematik aber ist
Leider beobachte und erkenne ich inzwischen auch in einigen Blogs die Verwendung von LLMs bei der Erzeugung von Blogbeiträgen – man kann das wirklich heraus-lesen, und vor allem dann besonders leicht, wenn man die Autoren aus der früheren KI-losen Zeit kennt.
Solchen Artikeln geht die persönliche Note flöten, sie lesen sich alle irgendwie wie sachdienliche Berichte zum Thema, denen meist noch eine klare (dann allerdings KI-freie) Bewertung respektive Meinungsäußerung nachgeschoben wird. Diese »Bruchstelle« sieht man dann recht leicht.
Am Ende geht dann den Blogs selbst der persönliche Charakter verloren, es bleiben sonderbar leere redaktionelle Seiten übrig, auf denen Autoren zu Themen berichten.
Schreibe einen Kommentar