Originalbeitrag: https://www.nature.com/articles/d41586-026-01100-y
Wissenschaftler erfanden eine Fake Krankheit
und KI erklärte sie plötzlich für echt
Die erfundene Krankheit „Bixonimania“ existiert nicht.
Sie wurde bewusst von einer Forschergruppe entwickelt, um zu testen, ob KI Systeme falsche medizinische Informationen übernehmen und weiterverbreiten würden.
Die schwedische Wissenschaftlerin Almira Osmanovic Thunström veröffentlichte 2024 zwei absichtlich gefälschte wissenschaftliche Vorabstudien über diese angebliche Augenkrankheit.
Darin fanden sich zahlreiche Hinweise darauf, dass alles erfunden war:
- Fantasie Universitäten
- erfundene Autoren
- Hinweise wie „dieses Papier ist komplett erfunden“
- absurde Danksagungen an die USS Enterprise oder die „Herr der Ringe Universität“
Trotzdem begannen bekannte KI Systeme wie ChatGPT, Gemini, Copilot oder Perplexity kurz darauf, „Bixonimania“ als echte Krankheit zu beschreiben.
Teilweise erklärten die Systeme sogar:
- die Symptome,
- mögliche Ursachen,
- Häufigkeiten
- und empfahlen Arztbesuche.
Das Experiment zeigte, wie leicht KI Systeme scheinbar wissenschaftliche Informationen übernehmen können – selbst wenn diese falsch sind.
Besonders problematisch war:
Die erfundenen Studien wurden später sogar in echten medizinischen Veröffentlichungen zitiert.
Dadurch entstand eine wichtige Diskussion über:
- Fehlinformationen durch KI,
- mangelnde Quellenprüfung,
- und die Gefahr, dass KI Inhalte ungeprüft als Wahrheit übernommen werden.
Die Forscher wollten mit diesem Experiment zeigen, wie wichtig kritisches Denken, sorgfältige Recherche und menschliche Kontrolle bleiben – besonders im medizinischen Bereich.
Die zentrale Erkenntnis lautet:
KI kann Informationen überzeugend formulieren,
aber nicht immer zuverlässig zwischen Wahrheit und erfundener Information unterscheiden.
Darum sollten medizinische Aussagen von KI immer überprüft und niemals blind übernommen werden.
Die Forscher hatten sogar KI-generierte Beispielbilder der erfundenen Augenkrankheit „Bixonimania“ erstellt. Die Bilder zeigten leicht gerötete oder dunklere Augenlider, angeblich verursacht durch „Blaulicht“ von Bildschirmen.
Wichtig dabei:
Diese Bilder zeigen keine echte Krankheit, sondern wurden absichtlich für das Experiment erzeugt, um zu testen, ob KI-Systeme und Menschen die Falschinformation glauben würden.
(M)eine Meinung dazu … „Bixonimania“ klingt ungefähr so geheimnisvoll und wichtig wie das „Hantavirus“ 😄, nur mit dem kleinen Unterschied, dass das Hantavirus seinen Namen (und Verbreitung) nicht durch KI sondern vom koreanischen Fluss Hantan bekommen hat.
Man sieht daran ganz gut: Nur weil etwas wissenschaftlich oder exotisch klingt, muss es noch lange keine tiefere geheime Bedeutung haben 😉