Fabulierende Large Language Models (LLMs) und KI mit Bewusstsein (Straßencafé)
LLMs (KI-Sprachmodelle) erstellen ihre Ausgaben aufgrund der Wahrscheinlichkeiten für das nächste Wort, nicht unter Berücksichtigung des Wahrheitsgehalts. Dies führt zu Halluzinationen, also Ausgaben, die nicht wahr sind.
Das ist sehr wichtig, imho. Wir werden durch die Bezeichnung "Künstliche Intelligenz" dazu verführt, zu glauben, daß die KI wirklich "denkt"; tut sie aber nicht. Simpel ausgedrückt ordnet sie um, ordnet zu, verschiebt, fügt zusammen, nach Wahrscheinlichkeiten der Abfolge und anderen Regeln etc.
KI hat keine Absichten, denkt nicht nach, überlegt nicht, wägt nicht ab, reflektiert nicht, was sie tut, etc.
Unzureichende Nutzung von Faktenwissen, wobei die Modelle sich auf Korrelationen [!] statt auf kausale Effekte stützen, führen zu oberflächlichen Analysen die wiederum irreführende Ergebnisse erzeugen.
als wäre dieser Prozess des Lernens der KI (...) Bewusstseinsbildung einer Intelligenz.
Nee, glaube ich nicht. s.o. Da habe ich (noch?) keine Sorge.
Nun gehöre ich zu den Menschen, die mit ihrem Drucker und anderen technischen Geräten schimpfen (wenn es mit gutem Zureden nicht klappt
)
Ich spreche auch mit "Dingen". Ich habe vor ein paar Tagen meinem alten Fernseher gesagt, daß ich sehr dankbar bin, über die guten Dienste, die er mir schon so lange geleistet hat; und daß meine Überlegungen, mir einen neuen zu kaufen, nicht gegen ihn und seine treuen Dienste gerichtet sind.
Ich nenne das GUTE Esoterik, im Gegensatz zu schlechter, die in Verengung und/oder Verdummung führt, oder sogar in an sich völlig unnötiges Leid. Ich weiß, was ich tue, daher kann ich es in klarem Bewußtsein tun, und ich kann es hilfreich und wohltuend wirken lassen.
Interessante Beiträge zum Thema Bewusstsein https://www.zdf.de/nachrichten/wissen/kuenstliche-intelligenz-ki-bewusstsein-terrax-ing...
Das Thema Bewußtsein ist komplex und vielschichtig, weshalb ich es hier umgehe. Die Frage nach dem "Ich" oder dem "Selbst" ebenfalls.
Gruß
Boggy
--
Um unserer persönlichen und gesellschaftlichen Freiheit willen müssen wir immer wieder die Saat des kritischen Verstandes und des begründeten Zweifels säen.