Zum Thema: Gefahren der Künstlichen Intelligenz / KI, speziell bei Gesundheitsfragen, hier ein neuer Artikel aus dem "Guardian":

"Google AI Overviews put people at risk of harm with misleading health advice
Exclusive: Inaccurate information presented in summaries, Guardian investigation finds"

"Google-KI-Übersicht gefährden Menschen durch irreführende Gesundheitsratschläge
Exklusiv: Guardian-Untersuchung deckt fehlerhafte Informationen in Zusammenfassungen auf

Eine Untersuchung des Guardian hat ergeben, dass Menschen durch falsche und irreführende Gesundheitsinformationen in den Zusammenfassungen der künstlichen Intelligenz von Google gefährdet werden.

Das Unternehmen hat erklärt, dass seine KI-Übersichten, die generative KI verwenden, um einen Überblick über wichtige Informationen zu einem Thema oder einer Frage zu geben, „hilfreich” und „zuverlässig” sind.

Einige der Zusammenfassungen, die oben in den Suchergebnissen erscheinen, enthielten jedoch fehlerhafte Gesundheitsinformationen und gefährdeten Menschen.

In einem Fall, den Experten als „wirklich gefährlich“ bezeichneten, riet Google Menschen mit Bauchspeicheldrüsenkrebs fälschlicherweise, fettreiche Lebensmittel zu vermeiden. Experten sagten, dies sei genau das Gegenteil von dem, was empfohlen werden sollte, und könne das Risiko erhöhen, dass Patienten an der Krankheit sterben."

https://www.theguardian.com/technology/2026/jan/02/google-ai-overviews-risk-harm-mislea...

Vor ein paar Tagen habe ich selbst diese Erfahrung gemacht. Ich habe die Stichworte "Gastritis Blähbauch" gegoogelt und das als FALSCHES Ergebnis bekommen:

"Ein Blähbauch ist ein häufiges Symptom einer Magenschleimhautentzündung (Gastritis), oft begleitet von Völlegefühl, Aufstoßen, Schmerzen und Sodbrennen, besonders nach dem Essen oder bei chronischer Verlaufsform, da die entzündete Magenschleimhaut die Verdauung beeinträchtigt. Stress, Ernährung (fettige, scharfe Speisen, Alkohol, Kaffee) und das Meiden bestimmter Lebensmittel (Zwieback, Haferschleim) sowie kleine, schonende Mahlzeiten helfen."

"Stress, Ernährung (fettige, scharfe Speisen, Alkohol, Kaffee)" helfen nicht!
"das Meiden bestimmter Lebensmittel (Zwieback, Haferschleim)" helfen nicht! Das Gegenteil ist der Fall!

Genau das schreibt auch eine der angegebenen Quellen:
"Essen Sie danach Schon­kost in kleinen Portionen. Geeignet sind Hafer­schleim, Zwieback, Reis, Weiß­brot, mageres gekochtes Fleisch, fettarmer Fisch und leicht verdau­liches Gemüse."
https://www.gothaer.de/ratgeber/gesundheit-und-pflege/gesundheit/magenschleimhautentzue...

In diesem Sinne erstmal allen hier ein Frohes Neues Jahr!

Gruß
Boggy

P.S.: Nicht vergessen! Die KI versteht nicht, was sie liest. Und die KI versteht nicht, was sie schreibt.

.

Nicht vergessen! Die KI versteht nicht, was sie liest. Und die KI versteht nicht, was sie schreibt.

Ach was können wir froh sein, in einer Zeit aufgewachsen zu sein als natürliche Intelligenz noch einen Wert darstellte. 😉

PS: Dem Himmel sei Dank, daß es in der heutigen Zeit auch noch Vorkommen von natürlicher Intelligenz gibt, ich erfreu mich immer wieder an neuen Erkenntnissen von Ylva (mittlerweile 2 1/2)

nichts geht über die weise Frau/der weise Mann mit dem passenden Rat zur richtigen Zeit

... was mir noch so in den Sinn kam:
vielleicht entstehen Mißverständnisse über den Charakter von "Künstlicher Intelligenz" auch dadurch, daß im englischen Ausdruck "Artificial Intelligence" das Wort "intelligence" nicht ganz deckungsgleich mit dem deutschen Wort "Intelligenz" ist.
Da habe ich nun mal zunächst im Concise Oxford English Dictionary nachgeschlagen
und fand folgende Definitionen für "intelligence"
"1. ability to acquire and apply knowledge and skills
/ 1. Fähigkeit, Wissen und Fertigkeiten zu erwerben und anzuwenden

2. a person with this ability
/2. eine Person mit dieser Fähigkeit

3. the gathering of information of military or political value.
/3. das Sammeln von Informationen von militärischem oder politischem Wert."

Der gute, alte Brockhaus definiert so:
"Intelligenz
1. Verständnis, Erkenntnis, Klugheit
2. Schicht der Intellektuellen"

Nun grübele ich darüber, ob man "Artificial Intelligence", also die "künstliche Fähigkeit, Wissen und Fertigkeiten zu erwerben und anzuwenden", schon als "Verständnis, Erkenntnis, Klugheit" verstehen kann, und komme zum erstaunlichen Ergebnis: nein, kann man nicht.

Oder sollte ich mich irren ...
wer weiß ...
Man sollte vielleicht nicht an Worten haften ... oder doch? ... manchmal schon?

Oder: "Träumt die KI von elektrischen Schafen?"

Ich schweife eindeutig ab ... und versinke in schneetagsvertäumter Vorstellungskraft, einer eindeutig menschlichen, natürlichen Fähigkeit.

Gruß
Boggy

Google KI-Übersicht und Fehlerhaftigkeit, wieder: Gesundheitsthemen und Gefahren ...
Die Probleme mit der "Künstlichen 'Intelligenz'" =>

The Guardian:
"Google KI Übersicht zitiert häufiger YouTube als andere medizinische Websites bei Gesundheitsanfragen, wie eine Studie nahelegt,
Exklusiv: Deutsche Forschung zu Antworten auf Gesundheitsanfragen wirft neue Fragen zu Zusammenfassungen auf, die monatlich von 2 Milliarden Menschen gesehen werden.
(...)
Forscher von SE Ranking, einer Plattform für Suchmaschinenoptimierung, fanden heraus, dass YouTube 4,43 % aller Zitate zum Thema KI-Übersicht ausmachte. Kein Krankenhausnetzwerk, kein Gesundheitsportal der Regierung, keine Ärztekammer und keine akademische Einrichtung kam auch nur annähernd an diese Zahl heran, sagten sie.
„Das ist wichtig, weil YouTube kein medizinischer Verlag ist“, schrieben die Forscher. „Es ist eine allgemeine Videoplattform. Jeder kann dort Inhalte hochladen (z. B. staatlich geprüfte Ärzte, Krankenhauskanäle, aber auch Wellness-Influencer, Lebensberater und Creator ohne jegliche medizinische Ausbildung).“

Die SE Ranking-Studie analysierte 50.807 gesundheitsbezogene Eingaben und Schlüsselwörter, um herauszufinden, auf welche Quellen sich KI-Übersichten bei der Generierung von Antworten stützten.

Sie wählten Deutschland, weil dessen Gesundheitssystem durch eine Mischung aus deutschen und EU-Richtlinien, Standards und Sicherheitsvorschriften streng reguliert ist. „Wenn KI-Systeme selbst in einem solchen Umfeld stark auf nicht-medizinische oder nicht-autoritative Quellen zurückgreifen, deutet dies darauf hin, dass das Problem über ein einzelnes Land hinausgehen könnte“, schrieben sie.

Quelle:
https://www.theguardian.com/technology/2026/jan/24/google-ai-overviews-youtube-medical-...

Schönen Sonntag
wünscht Boggy

Die Selbstverantwortung bleibt immer bestehen.

Man muss halt gucken, womit der Blumenkohl gedüngt, das Rind gefüttert oder die KI trainiert worden ist.

Die Selbstverantwortung bleibt immer bestehen.
Man muss halt gucken, womit der Blumenkohl gedüngt, das Rind gefüttert oder die KI trainiert worden ist.

Ja, da hast Du im Prinzip ja recht. Im Prinzip.
Aber wir können für viele Menschen nicht voraussetzen, daß sie ausreichend - ich nenne das mal - innere, geistige Ressourcen und Fähigkeiten, inklusive Kraft haben, um so etwas wie umfangreiche Recherchen und Prüfrungen jeweils leisten zu können.

Hier noch eine Beispiel, wie KI Falsch- bzw. Desinformation bereitstellt:

"Neueste ChatGPT-Modell nutzt Elon Musks Grokipedia als Quelle, wie Tests zeigen.
(...)
Grokipedia, im Oktober gestartet, ist eine KI-generierte Online-Enzyklopädie, die mit Wikipedia konkurrieren will und dafür kritisiert wurde, dass sie rechte Narrative zu Themen wie der Homo-Ehe und dem Aufstand vom 6. Januar in den USA verbreitet. Im Gegensatz zu Wikipedia erlaubt sie keine direkte Bearbeitung durch Menschen, stattdessen schreibt ein KI-Modell Inhalte und reagiert auf Änderungswünsche.
(...)
Nina Jankowicz, eine Forscherin im Bereich Desinformation, die sich mit LLM-Grooming [LLM = großes Sprachmodell; grooming = hier vielleicht "Einflußnahme"; Boggy] beschäftigt hat, sagte, dass die Zitierung von Grokipedia durch ChatGPT ähnliche Bedenken aufwerfe. Auch wenn Musk möglicherweise nicht die Absicht hatte, LLMs zu beeinflussen, basierten die von ihr und ihren Kollegen überprüften Grokipedia-Einträge „im besten Fall auf unzuverlässigen Quellen, im schlimmsten Fall auf schlecht recherchierten und absichtlich verbreiteten Falschinformationen“, sagte sie."

https://www.theguardian.com/technology/2026/jan/24/latest-chatgpt-model-uses-elon-musks...

Gruß
Boggy

P.S. Immer wenn das Konzept "Selbstverantwortung" auftaucht, bin ich im erhöhten Wachsamkeitsmodus, weil das oft und gern dazu benutzt wird, einsame Wanderer im Gesellschaftsdschungel den kapitalistischen und/oder antidemokratischen Raubtieren auszuliefern - ohne Wehr und Waffen.
Ich bestehe auf sozial-politischen Bodyguards und Wehrvereinigungen.

Die Selbstverantwortung bleibt immer bestehen.

Man muss halt gucken, womit der Blumenkohl gedüngt, das Rind gefüttert oder die KI trainiert worden ist.

Ja, genau so!
Bei der KI besteht das Risiko,dass der Blumenkohl trainiert, die Ki gefüttert und das Rind gedüngt wird

Aber wir können für viele Menschen nicht voraussetzen, daß sie ausreichend - ich nenne das mal - innere, geistige Ressourcen und Fähigkeiten, inklusive Kraft haben, um so etwas wie umfangreiche Recherchen und Prüfrungen jeweils leisten zu können.

Lieber Boggy, du hast natürlich komplett Recht, das ist auch meine Meinung. Ohne Arbeitsteilung wird das nicht gehen. Da war ich zu vorlaut.

Ich bestehe auf sozial-politischen Bodyguards und Wehrvereinigungen.

Wir bräuchten, analog dem "grossen Brockhaus" für die deutsche Sprache, eine angesehene Instanz zur Bewertung der LLMs und ihres Outputs.

Ich glaubs ja nicht ...!
(oder eher doch!)

"KI-Mönch erreicht mit seinen Weisheiten Millionen auf Instagram
Der Mönch Yang Mun erfährt online grosse Aufmerksamkeit. Millionen folgen dem spirituellen Ratgeber im buddhistischen Stil. Das Problem: Er wurde mit Künstlicher Intelligenz erschaffen.
(...)
Yang Mun ist vor allem auf Instagram beliebt, wo zwei Profile 2.5 Millionen beziehungsweise 1 Million Follower haben. Auf Facebook hat eine Seite von Yang Mun 1.4 Millionen Follower.

Soweit scheint alles in Ordnung zu sein. Nur: Yang Mun ist nicht real. All seine Videos sind vollständig mit Künstlicher Intelligenz generiert und wurden mit Google-Software erstellt, wie Googles eigener KI-Detektor SynthID bestätigt.
Es gibt keine Hinweise darauf, dass Personen mit medizinischer oder spiritueller Qualifikation etwas mit dem Projekt zu tun haben.
(...)
Aber diese irreführenden Inhalte stellen eine bedeutende Einnahmequelle für den Urheber dar: (...)"

Ey Leute, da sammelt ihr euch unter Umständen jede Menge echt schlechtes Karma an ...!
Und ihr werdet auf ewig im Kreislauf des Leidens wandeln, wenn ihr dem künstlichen Beleuchtungs-Guru folgt. Laßt euch das mal gesagt sein,
von einem echten Kenner der Materie. Sehr intelligent, absolut nicht künstlich - reine Boggy-Natur!

Quelle:
https://www.srf.ch/news/srf-faktenchecks/yang-mun-im-faktencheck-ki-moench-erreicht-mit...

.
Heinrich mich graut vor dir

WER hats erfunden?
https://youtu.be/1dB6IFKLkSM?si=rrDjGPLXTlfwpyyR

In der Schweiz nimmt ein KI-Jesus die Beichte ab

https://www.derstandard.de/story/3000000245797/in-der-schweiz-nimmt-ein-ki-jesus-die-be...