Gefahren der KI bei Gesundheitsfragen - nicht nur dort (Allgemeines)

Boggy, (vor 9 Tagen) @ MO

Die Selbstverantwortung bleibt immer bestehen.
Man muss halt gucken, womit der Blumenkohl gedüngt, das Rind gefüttert oder die KI trainiert worden ist.

Ja, da hast Du im Prinzip ja recht. Im Prinzip.
Aber wir können für viele Menschen nicht voraussetzen, daß sie ausreichend - ich nenne das mal - innere, geistige Ressourcen und Fähigkeiten, inklusive Kraft haben, um so etwas wie umfangreiche Recherchen und Prüfrungen jeweils leisten zu können.

Hier noch eine Beispiel, wie KI Falsch- bzw. Desinformation bereitstellt:

"Neueste ChatGPT-Modell nutzt Elon Musks Grokipedia als Quelle, wie Tests zeigen.
(...)
Grokipedia, im Oktober gestartet, ist eine KI-generierte Online-Enzyklopädie, die mit Wikipedia konkurrieren will und dafür kritisiert wurde, dass sie rechte Narrative zu Themen wie der Homo-Ehe und dem Aufstand vom 6. Januar in den USA verbreitet. Im Gegensatz zu Wikipedia erlaubt sie keine direkte Bearbeitung durch Menschen, stattdessen schreibt ein KI-Modell Inhalte und reagiert auf Änderungswünsche.
(...)
Nina Jankowicz, eine Forscherin im Bereich Desinformation, die sich mit LLM-Grooming [LLM = großes Sprachmodell; grooming = hier vielleicht "Einflußnahme"; Boggy] beschäftigt hat, sagte, dass die Zitierung von Grokipedia durch ChatGPT ähnliche Bedenken aufwerfe. Auch wenn Musk möglicherweise nicht die Absicht hatte, LLMs zu beeinflussen, basierten die von ihr und ihren Kollegen überprüften Grokipedia-Einträge „im besten Fall auf unzuverlässigen Quellen, im schlimmsten Fall auf schlecht recherchierten und absichtlich verbreiteten Falschinformationen“, sagte sie."

https://www.theguardian.com/technology/2026/jan/24/latest-chatgpt-model-uses-elon-musks...

Gruß
Boggy

P.S. Immer wenn das Konzept "Selbstverantwortung" auftaucht, bin ich im erhöhten Wachsamkeitsmodus, weil das oft und gern dazu benutzt wird, einsame Wanderer im Gesellschaftsdschungel den kapitalistischen und/oder antidemokratischen Raubtieren auszuliefern - ohne Wehr und Waffen.
Ich bestehe auf sozial-politischen Bodyguards und Wehrvereinigungen. ;-)

--
Um unserer persönlichen und gesellschaftlichen Freiheit willen müssen wir immer wieder die Saat des kritischen Verstandes und des begründeten Zweifels säen.


gesamter Thread:

 RSS-Feed dieser Diskussion