Wenn KI geisteskrank wird ... (Straßencafé)
Künstliche Inelligenz (KI) / (artificial intelligence /AI) kann geisteskrank werden. Sie halluziniert dann. Sie erzeugt Wahn-Sinn!!
"Letzten Sommer verhängte ein Bundesrichter gegen eine New Yorker Anwaltskanzlei eine Geldstrafe in Höhe von 5.000 Dollar, nachdem ein Anwalt das Tool ChatGPT für künstliche Intelligenz verwendet hatte, um einen Schriftsatz für einen Personenschadensfall zu verfassen.
Der Text war voller Unwahrheiten - darunter mehr als sechs komplett erfundene frühere Fälle, die einen Präzedenzfall für die Klage wegen Körperverletzung schaffen sollten. Ähnliche Fehler sind in allen von künstlicher Intelligenz erstellten juristischen Texten weit verbreitet, (...)
Es gibt einen Begriff dafür, wenn generative KI-Modelle Antworten produzieren, die nicht der Realität entsprechen: „Halluzination“. (...)
Chatbots haben Nutzern falsche und potenziell schädliche medizinische Ratschläge gegeben, Medien haben KI-generierte Artikel mit ungenauen Finanztipps veröffentlicht, und Suchmaschinen mit KI-Schnittstellen haben gefälschte Zitate erfunden. Je mehr Menschen und Unternehmen sich bei sachlichen Informationen auf Chatbots verlassen, desto offensichtlicher und schädigender wird ihre Neigung, Dinge zu erfinden."
Quelle:
"AI Chatbots Will Never Stop Hallucinating"
https://www.scientificamerican.com/article/chatbot-hallucinations-inevitable/
Gruß
Boggy
--
Um unserer persönlichen und gesellschaftlichen Freiheit willen müssen wir immer wieder die Saat des kritischen Verstandes und des begründeten Zweifels säen.