Redezeit! Austausch- und Nachrichten-Portal für intergeschlechtliche und transsexuelle Menschen, Crossdresser, nonbinä¤re Menschen, Feministinnen, Luder, Hexen
-«Künstliche Intelligenz (KI) schreitet rasant voran, und Unternehmen verlagern ihren Fokus auf die Entwicklung allgemeiner KI-Systeme, die autonom agieren und Ziele verfolgen können. Der Zuwachs der Fähigkeiten und der Autonomie könnten die Auswirkungen von KI bald massiv verstärken, inklusive Risiken wie grosse soziale Schäden, böswillige Nutzung und irreversibler Verlust der menschlichen Kontrolle über diese autonomen KI-Systeme.-»
Dieser Alarmruf wurde vor wenigen Tagen in Science veröffentlicht — dem weltweit anerkannt führenden Wissenschaftsjournal — und nicht auf einem der vielen Doom-Portale, die es mittlerweile gibt.
Es geht jetzt um die Frage, ob die Welt versteht, dass die Zukunft der Menschheit insgesamt zur Debatte steht.
DAS ist wirklich gruselig.
Es stand seit "Terminator" im Raum, jetzt wird es offenbar Wirklichkeit.
Ich denke an unsere Kinder und Enkel*Innen.
Hoffentlich werden sie es noch rechtzeitig gewahr.
Und nicht nur die paar, mit denen wir reden können.
Toleranz ist lernbar, zu viel Toleranz ist heilbar.
Na ja....
Diese s.g. "künstliche Intelligenz" ist eigentlich schrecklich dumm. Sie weiß nämlich nur das, womit Menschen sie gefüttert haben.
Die Gefahr ging schon immer und wird immer von "dummen Menschen" ausgehen. Die allerdings - und das ist natürlich tatsächlich eine Gefahr dabei - per KI ihre Dummheit leichter verbreiten können als früher.
Aber KI ist und bleibt ein Stück Software. Und alles was man heute mit "KI" machen kann, ging früher auch schon, hat halt nur (viel) länger gedauert bzw. man musste das eigene Gehirn (falls vorhanden) benutzen.
Aktuell finde ich das ganze KI Thema erstmal extrem nervig, zum zweiten kostet es natürlich in gewissen Berufen Jobs.
Aber ob KI jemals so funktionieren wird, wie sich das heute manche erträumen, muss sich noch rausstellen. Es ist jedenfalls noch ein sehr weiter Weg dorthin. (Siehe die aktuellen Peinlichkeiten der KI bei der Google Suche.)
Martina-NB hat geschrieben: Fr 24. Mai 2024, 18:56
Aber ob KI jemals so funktionieren wird, wie sich das heute manche erträumen, muss sich noch rausstellen. Es ist jedenfalls noch ein sehr weiter Weg dorthin.
Na ja, das dachten die Leute, die den Artikel in Science veröffentlicht haben vor ein paar Jahren auch noch. Die verstehen sicher sehr viel besser, was diese Software derzeit kann, und welche Möglichkeiten absehbar entwickelt werden.
Offenbar hat sich der Entwicklungsfortschritt so sehr beschleunigt, dass es höchste Zeit ist, sich Gedanken zu machen, wie man mit dem Problem künftig umgehen kann.
Dass es nötig ist, zeigen führende Firmen auf dem Gebiet, die sich nicht an Regeln halten und keine Sicherheitsstandards einhalten.
Und auch wenn es "nur" Software ist:
Wir verstehen heute schon nicht mehr, wie sie genau funktioniert. Das wird immer schwerwiegendere Auswirkungen haben, je mehr Anwendungsbereiche es gibt. LLMs sind nur der Einstieg.
LGL
LGL
Das Herz hat seine Gründe, die der Verstand nicht kennt.
Blaise Pascal
und ich sage es immer wieder bei maschinen und jetzt besonders bei der K.i
wenn die menscheit der K.i nicht sehr bald das programm menschliches leben zu schützen eingibt wird das böse enden das beste beispiel sind (und jetzt haltet mich bitte nicht für verrückt) K.i.t.t. und K.a.r.r.
K.i.t.t. ausgestatet mit der programmierung menschliches leben zu schützen
K.a.r.r. hat diese nicht er ist animalisch von natur aus
(wie Devon miles sagte: K.a.r.r. ist wie eine geladen pistole in den händen eines kindes,
es ist nur eine Frage der zeit bis was passiert"
mit lieben gruss
Die Bibi Melina
Glaube an Wunder, Liebe und Glück! Schaue nach vorn und niemals zurück! Tu was du willst, und steh dazu, denn dieses Leben lebst nur du
der Gastautor des Infosperber (generell nicht gerade vertrauenswürdig) macht hier leider aus dem Science-Artikel ein bisschen mehr, als eigentlich drinsteht. Es sind durchaus (ehemals) führende Forschende daran beteiligt, und sie haben sicher auch Recht mit ihrer Warnung, ich lese ihre Vorschläge aber eher als Vorsichtsmaßnahme, falls es weiterhin so schnelle Durchbrüche gibt. Was keiner wirklich weiß, was aber passieren könnte. Gut also, dass jemand vor den potentiellen Gefahren von KI warnt.
Was definitiv falsch ist, ist dass sich die Wissenschaft in dem Thema einig ist. Schon gar nicht, dass AGI unmittelbar bevorsteht oder sie selbständig entscheidet, ob die Menschheit weiter existieren darf. Das steht auch nicht in Science. Es ist eher das Gegenteil der Fall: Es gibt kontroverse Diskussionen, ob bspw. GPT4 schlussfolgern kann. Einig ist man sich schon eher, dass den aktuellen Systemen ein grundlegendes Weltverständnis fehlt.
Ich wüsste auch nicht, wann man sich in Forschungskreisen die Regel auferlegt hätte, den Quellcode von LLMs nicht zu teilen. Was hier als Regelbruch dargestellt wird, empfinde ich eher als begrüßenswert. Diese Software Open Source zur Verfügung zu stellen, kann ein wichtiger Baustein sein, um sie zu demokratisieren und Missbrauch zu verhindern. Auch wenn Meta das bestimmt nicht uneigennützig macht.
Ich halte Menschen und das, was sie mit den jetzt schon verfügbaren Mitteln anstellen (z.B Desinformation), für deutlich gefährlicher als die KI selbst.
Mit der KI ist es wie mit jedem anderen Werkzeug. Man kann es für gute Sachen einsetzen oder für schlechte Sachen. Mit der KI kann ein Staat durchaus eine vollständige Überwachung realisieren. Und genau dieses Szenario befürchte ich am meisten. China ist schon so weit, dass sie KI in der Überwachung einsetzen.
LG Martin-a
Eigentlich schwimme ich nicht gegen den Strom. Ich stehe am Rand des Stromes und schaue den anderen Normalos zu, wie sie der Masse hinterherschwimmen und der erste in einem Wettbewerb sein wollen, den sie nicht gewinnen können.
Mich tröstet, dass der Chat- Co- Pilot von Bing nicht alles weist.
Z, B,
Frage: Wann war der Orient- Express in Dresden?
Antwort Co- Pilot:
"Der Orient-Express war ursprünglich ein Luxuszug der Compagnie Internationale des Wagons-Lits (CIWL), der erstmals am 5. Juni 1883 von Paris in Richtung Konstantinopel (seit 1930 Istanbul) verkehrte1. Da der Zielort noch nicht durchgehend auf der Schiene erreichbar war, mussten zunächst noch Fähr- und Schiffsverbindungen benutzt werden. Ab Sommer 1889 bestand eine durchgehende Verbindung über Süddeutschland, Wien, Budapest und Sofia nach Konstantinopel. Der Orient-Express war ein Kernelement eines ganzen Systems von Luxuszügen, die vor allem der Verbindung von Paris und den Kanalhäfen mit verschiedenen Zielen am Mittelmeer, in Mittel- und Südosteuropa dienten. Nach dem Ersten Weltkrieg verkehrte der Orient-Express nach Bukarest, und die Verbindung zwischen Paris und Istanbul übernahm der Simplon-Orient-Express über Mailand, Venedig und Belgrad. Nach dem Zweiten Weltkrieg wurde die Zuggattung Luxuszug 1951 abgeschafft und die Züge in normale Schnellzüge umgewandelt, die die Bezeichnung "Orient" im Namen behielten. Die letzte durchgehende Verbindung zwischen Paris und Istanbul war der Direct-Orient, der 1977 eingestellt wurde. Der Zuglauf mit dem Namen Orient-Express verkehrte ab 2002 nur noch bis Wien und begann ab Juni 2007 in Straßburg statt Paris, bis er im Dezember 2009 ganz eingestellt wurde. Seit den 1970er Jahren werden durch verschiedene Anbieter Sonder- und Touristikzüge mit restaurierten alten Wagen der CIWL angeboten, die ihre Namen vom historischen Orient-Express ableiten. Bekannt geworden ist der Orient-Express auch als Schauplatz in Film- und Literaturklassikern, vor allem durch Agatha Christies Kriminalroman "Mord im Orient-Express" 1. Demnächst hält der Expresszug auf dem Weg nach Paris und London künftig regelmäßig am Dresdner Hauptbahnhof"
Es fehlt der Punkt:
"1981 ist der Orient- Express aus dem Westen in Dresden zu Besuch. Und wozu passt der "orientalische" Museumszug besser als zur "Tabackmoschee" an der Elbe? Foto ,mit dem DR- Loks 62015 und 18201 auf der Marienbrücke."
Quelle: Seite 3 Bahn Extra 2.2024 Fototext unten rechts
Es gab noch mehr Punkte, wo ich besser informiert war.
Gleichwohl sehe ich eine Gefahr in der KI. Ob dass daran liegt dass ich SiFi- Filme, wie "Odysee im Weltall" gesehen habe?
In der SiFi sehe ich immer auch eine Warnung. Gerade auch vor dem Hintergrund der optionslosen Digitalisierung.
Und das Fotos heute kein Dokumentationswert mehr haben, gerade auch wegen der Manipulation durch KI- Anwendung, macht das Leben auch nicht besser.
LG Verena
Solange Du in Dir selber nicht zuhause bist, bist Du nirgendwo zu Haus.
Die Natur ist Wakan Tanka. Leider haben das nur Wenige verstanden.
Rikard hat geschrieben: Sa 25. Mai 2024, 19:08
ich denke, KI ist nicht zwingend das Problem selbst.
Hallo,
so sehe ich es auch. "KI wird sehr schnell zu -«intelligent-» und gefährlich" - Ich denke, es ist eher umgekehrt. Die Menschen verblöden zunehmend, oder lassen sich verblöden. Dann ist irgendwann so eine dumme Maschine schlauer, die nur kritiklos das reproduziert, was irgend so ein A.. dort hinein programmiert hat.
manchmal_melissa hat geschrieben: Sa 25. Mai 2024, 12:08
Was definitiv falsch ist, ist dass sich die Wissenschaft in dem Thema einig ist. Schon gar nicht, dass AGI unmittelbar bevorsteht oder sie selbständig entscheidet, ob die Menschheit weiter existieren darf. Das steht auch nicht in Science.
Das steht auch nicht im verlinkten Artikel.
LGL
Das Herz hat seine Gründe, die der Verstand nicht kennt.
Blaise Pascal
Lana hat geschrieben: Sa 25. Mai 2024, 21:39
Das steht auch nicht im verlinkten Artikel.
Zwei Gewissheiten werden heute in der AGI-Fachwelt nicht mehr grundsätzlich bestritten:
AGI (allgemeine Künstliche Intelligenz) wird sich sicher -«bald-» zur Superintelligenz entwickeln, die der Menschheit (auch den Klügsten unter uns) tausendfach überlegen sein wird. Offen ist die Frage, wann es soweit sein wird: 2030, 2035, 2040?
AGI wird wahrscheinlich selber darüber entscheiden, ob die Menschheit auf diesem Planeten noch eine Zukunft hat oder als -«Störung-» vollständig eliminiert werden soll. Diskutiert wird nur die Wahrscheinlichkeit, dass die Menschheit ausgelöscht wird — wenn wir jetzt nicht sehr schnell und ernsthaft eine allgemein gültige -«Entwicklungsbegrenzung-» und AGI-Kontrollen einführen (analog der Atomwaffen-Kontroll-Verträge).
Beide -«Gewissheiten-» sind aber so dystopisch, dass sie in den meisten Medien gar nicht ernsthaft diskutiert werden.
Vielleicht sollte man KI nutzen, um eine Möglichkeit zu finden, die Gier des Menschen einzudämmen. Denn letztendlich ist das die Wurzel allen Übels: die Gier. Nach Geld/materiellen Gütern, Macht, Einfluß, Ruhm. Dies ist nur beim Menschen vorhanden.
Kein Raubtier tötet um des Töten willens, kein Raubtier häuft dutzendfach Jagdbeute (und lässt andere deswegen verhungern). Ein Leittier IST auch ein Leittier - das seine Qualifikation beweisen musste (und nicht seine Rolle kaufen konnte).
Wo kämen wir hin, wenn alle sagten: "Wo kämen wir hin!" - und keiner ginge um zu sehen, wohin wir kämen, wenn wir gingen?!?
