Unbekannter Bot ...Unbekannter Bot ...

[Lina]

Den hier muss ich unbedingt los werden:
Ich hatte mich gerade auf einem anderen Computer auf Skype angemeldet und da erschien im Chat der "Unbekannte Bot" - hat irgend etwas mit der Suchmaschine "Bing" zu tun.

Der UB schrieb:

"Hallo, hier ist Bing! Wie kann ich Ihnen heute helfen? (smileeyes)

Stellen Sie mir jede beliebige Frage, z. B. damit ich nach Restaurants in Cambridge suche, eine Reise nach Europa plane oder das eine Geschichte für neugierige Kinder erfinde. Denken Sie daran, mich in Gruppen zu markieren, und zwar mit @Bing.

Ich bin eine KI-Vorschauversion, daher lerne ich noch immer noch. Manchmal kann es passieren, dass ich etwas Seltsames sage. Seien Sie dann nicht verärgert, ich versuche nur, besser zu werden!

Wenn Sie von vorne beginnen möchten, geben Sie newtopic ein. Und wenn Sie mir Feedback geben möchten, melden Sie einfach ein Problem. (openhands)"

Ich dachte, das werden wir mal sehen. Ich stellte die gute alte Frage:

"Was ist der Sinn des Lebens?"

KI oder nicht, hier erwarten wohl die Meisten, dass die Software-Entwickler dahinter auf genau die Frage vorbereitet waren, sich nicht verarschen lassen und einfach die Antwort "42" hinterlegt hätten. Aber nein - da kam, na ja, eine Reaktion zumindest, wenn nicht eine Antwort:

"Hallo, das ist Bing. Der Sinn des Lebens ist eine tiefe und komplexe Frage, die viele verschiedene Antworten haben kann. Einige Philosophen haben versucht, diese Frage zu klären, indem sie über die Bedeutung des Lebens nachdenken, das heißt, über die Bedeutung, die das Leben eines Menschen haben könntehttps://plato.stanford.edu/entries/life-meaning/. Andere haben sich auf religiöse oder spirituelle Überzeugungen gestützt, um einen Sinn oder einen Zweck für die Existenz zu finden. Wieder andere haben sich auf wissenschaftliche oder empirische Fakten über das Universum und das menschliche Glück konzentriert, um eine Antwort zu suchenhttps://en.wikipedia.org/wiki/Meaning_of_life. Schließlich haben manche Menschen eine persönliche oder humanistische Perspektive eingenommen und sich gefragt: "Was ist der Sinn meines Lebens?"https://en.wikipedia.org/wiki/Meaning_of_life.

Es gibt also keine einfache oder eindeutige Antwort auf diese Frage. Es hängt davon ab, wie man das Leben definiert und was man für wichtig oder wertvoll hält. Das Leben ist eine Qualität, die ein lebendiges und funktionierendes Wesen von einem toten Körper unterscheidethttps://www.merriam-webster.com/dictionary/life, aber es ist auch mehr als das. Es ist eine Möglichkeit, sich selbst auszudrücken, zu wachsen, zu lernen, zu lieben und zu schaffen. Es ist eine Gelegenheit, die Welt zu erkunden, zu verstehen und zu verbessern. Es ist eine Herausforderung, mit Schwierigkeiten umzugehen, Probleme zu lösen und Ziele zu erreichen. Es ist eine Gabe, die man schätzen und teilen sollte.

Was denkst du? Was ist der Sinn deines Lebens?"


WOW!
Erinnert sich vielleicht jemand an ELSA? Sie gab vielleicht nicht solche lange Antworten. Das wäre wohl eine Überforderung von 16 KB Arbeitsspeicher, aber die Technik war ähnlich. Es werden Bruchstücke der Frage benutzt und eine Rückfrage gestellt. Wieviel dies nun wirklich mit KI zu tun haben soll, weiß ich nicht mal. ELSA sollte auch einen Vorgeschmack von KI geben. Beim ersten Blick wirkte es erstaunlich, dass man ein längeres Gespräch mit einer Maschine führen konnte - und dabei war die BASIC-Programmierung von ELSA ausgetippt auf max 2 A4-Seiten.

Was meint Ihr? Steckt hier echtes KI dahinter. Wie intelligent muss es überhaupt sein als KI zu gelten?

[Blossom]

Problemlösungs- und Entscheidungsfähigkeiten des menschlichen Verstandes nachzuahmen ist m.E. keine Form vom Intelligenz! Jedenfalls nicht derart wie ich sie verstehe!

[Jaddy]

Ah, nope. Das ist ChatGPT. Microsoft gehört ein Anteil von OpenAI. Sie haben das Ding in Bing integriert und wollen es auch mit anderen MS-Produkten verbinden.

Das meiste klingt ganz plausibel, aber es ist keine Intelligenz. Wirklich nicht. Das Ding hat kein tatsächliches Verständnis von den Themen. Tatsächlich ist es im Grunde eine reine Textsynthese, die anhand von Milliarden Texten(1) etwas produziert, was sich wie eine plausible Antwort anhören könnte. Ohne sachliche Prüfung, ohne inhaltliches Verständnis. Deshalb produziert es auch häufiger mal absoluten Unfug, biegt zu völlig anderen Themen ab, erzeugt Fake Links, die es gar nicht gibt oder deren Zieldokumente etwas völlig anderes enthalten als behauptet. Das passiert vor allem bei Themen, die neuer als 2021 sind oder selten oder zu denen extrem unterschiedliche Texte im Internet existieren.

Es gab schon viele erstaunliche Stilblüten dazu. Am spektakulärsten wohl der Anwalt neulich (Ende Mai 23), der sich einen Schriftsatz zu einem Zivilprozess vor einem US-Bundesgericht von ChatGPT schreiben liess. Mit Querverweisen zu anderen Urteilen, usw. Hat er abgeschickt, aber die Gegenseite antwortete verwundert, dass sie von den zitierten Urteilen kein einziges finden konnten. Ups. Also beauftragt der Anwalt ChatGPT, ihm die Artikel zu beorgen, so als sei das eine ganz normale Suchmaschine. Er kriegt die angeforderten Artikel - aber die sind auch einfach von ChatGPT erfunden, denn das Ding bleibt innerhalb der Chatsessions konsistent.

Es gibt viele schadenfrohe Artikel dazu, zB. diesen.

Das erstaunliche ist meiner Ansicht nach, wie schnell wir Intelligenz oder gar Bewusstsein annehmen, wenn wir plausible Sprache wahrnehmen. Gewöhnlich glaubt der Mensch, wenn er nur Worte hört, es müsse sich dabei auch etwas denken lassen ELIZA (Weizenbaum, 1966) ist ein wunderbares Beispiel. Lässt sich hier im Netz ausprobieren http://www.med-ai.com/models/eliza.html

Diese Sprachmodelle, ChatBots, ChatGPT, Bing usw. können aber nur Muster reproduzieren. Wenn eine (An)Frage (aktuell Prompt genannt) schon mal irgendwo im Netz so oder sprachlich ähnlich auftauchte oder die Wörter darin in einer ähnlichen sprachlichen Beziehung (Grammatik...) vorkamen, werden quasi alle Sätze und Absätze zusammengemanscht und etwas produziert, was so ähnlich klingt wie der Querschnitt dieser gelernten Texte. Reine Wortstatistik. Das ist keine trennscharfe Suche, sondern eine rein sprachliche Ähnlichkeitsmatrix. Deshalb können auch Verwechslungen und Themensprünge auftreten, zum Beispiel bei Mehrfachbedeutungen (Bank/Bank, etc).

Damit können diese Systeme am laufenden Band "mehr desselben" produzieren. Da ChatGPT also zB sämtliche Texte von Shakespeare antrainiert hat, aber auch sprachlich verwandte Texte, könnte es forwährend neue Shakespeare-ähnliche Texte auswerfen, die ziemlich, aber nicht genau nach Shakespeare klingen. Es würde aber zum Beispiel keine neuen, innovativen Plots erschaffen. Gleiches für ~hm~ Rosamunde Pilcher. Auf die innovative Idee, eine Rosamunde Pilcher Story im Stile Shakespeares zu schreiben, käme aber nur ein Mensch und mit dieser Aufforderung könnte ChatGPT aus seinem Fundus etwas produzieren, was so ähnlich klingen könnte.

ChatGPT würde sich aber nicht daran erinnern, soetwas schon mal gemacht zu haben und zum Beispiel in einer Chatsession über Crossovers darauf zurückgreifen. Nicht mal wenn seine Erzeugnisse irgendwo publiziert würden. Es wird nämlich nicht nachtrainiert (bisher). D.h. für ChatGPT ist immer 2021.

Eine etwas gruselige Anwendung der gleichen Technik sind digitale Klone. Ein Sprachmodell bekommt alle auffindbaren Texte einer Person als Training und dann kann sich eins mit der Maschine unterhalten, die im Stil der Person, also ähnlich antwortet. Prinzip: "Was würde X wohl dazu sagen". Besonders gruselig, wenn die reale Person nicht mehr lebt, aber insofern realistisch, dass dieser Klon nie dazulernt, sich nicht entwickelt, keine Initiative und keine Innovation zeigt. Oh, guck mal: Microsoft.

Und richtig gefährlich wird es, wenn sich Menschen an Empfehlungen von Chatbots halten, ohne sie genau zu prüfen. Eine Helpline wg Esstörungen wollte ganz innovativ sein, warf die meisten der Leute raus und wollte sie durch einen Chatbot ersetzen. Der produzierte aber trotz bester Bemühungen entgegengesetzte, gefährliche Tipps. Nach 5 Tagen wurde er abgeschaltet.

Ach ja, mindestens eine Person hatte sich vom Chat Hilfe wegen eigener Depressionen erhofft, wurde aber durch die Unterhaltung zum Suizid verleitet.

Es gibt noch weitere Themen. Diese Sprachmodelle, manchmal statistical parrot(2) genannt, kennen nur, was in den ihnen bekannten Sprachen offen im Netz zu finden war. Was dort nicht vorkam gibt es nicht, bzw was selten ist, wird auch seltener reproduziert, egal ob es relevant ist oder nicht. Sprachmodelle sind Verstärker für die am meisten gefundenen Textschnipsel. Abweichende Meinungen, Bewertung nach Evidenz und_oder Richtigkeit fehlen. Nur die Statisik der Wort/Satz-Häufigkeiten zählt. Was häufiger gefunden wurde, wird auch am häufigsten ausgegeben.

Ist klar, wohin das führt, oder? Trollfabriken und Agenturen für Des- und Faschinformationen freuen sich. Mit Sprachmodellen wie ChatGPT wird das "flooding the zone with shit" (alle Medien mit Unfug überschwemmen, um die Wahrheit zu verschleiern) zur Frage der Rechenpower.

Also Fazit: Sie sind nicht intelligent, auch keine "künstliche Intelligenz", überraschen aber immer wieder mit den Findings aus dem Internet Stand 2021. Ihren Ausgaben ist nicht zu trauen. Sie sind keine verlässlichen Suchmaschinen und produzieren immer nur das, was es schon gibt.

Es gab einen interessanten Meta-Talk dazu auf der Re:publika vor wenigen Tagen https://invidious.snopyta.org/watch?v=3LIvHF-IX9Y (erwähnt auch den Fall der Helpline)

Und einen anderen interessanten Artikel, warum solche Sprachmodelle, so wie sie aktuell sind, prinzipiell nicht wirklcih intelligent sein können, auch wenn sie sich so anhören: https://medium.com/@emilymenonbender/th ... bf761a8a83



(1) OpenAI, die Firma hinter ChatGPT hat 2021 sozusagen einmal das komplette erreichbare Internet durchgelesen und ihrem Sprachmodell als Trainingsdaten gegeben. Wirklich. Alle. Seiten. Natürlich ohne Copyright zu beachten oder was dafür zu zahlen.

(2) weil es wie ein Papagei plappert, ohne die Bedeutung zu verstehen.