Ki-fehleralarm: chatbots erfinden krankheiten – und das ist gefährlich
Ein deutscher KI-Chatbot hat Wissenschaftler in die Irre geführt und eine völlig erfundenen Krankheit – die sogenannte ‘Bixonimania’ – als reales medizinisches Leiden dargestellt. Die Konsequenz: Experten warnen vor der zunehmenden Unzuverlässigkeit von KI-Systemen und den potenziellen Gefahren, die von dieser Technologie ausgehen.
Schwindelerregendes experiment entlarvt ki-schwächen
Forscher der Universität Göteborg, angeführt von Almira Osmanovic Thunström, haben ChatGPT mit einer fiktiven Erkrankung, ‘Bixonimania’, konfrontiert. Anschließend publizierten sie zwei Studien, die die Krankheit in wissenschaftlichen Artikeln darstellten. Das Ziel: die Neugier der Künstlichen Intelligenz auf neue Informationen zu testen. Und das Ergebnis war schockierend: ChatGPT nahm die erfundene Krankheit ungeprüft als Fakt an und begann sogar, Ratschläge zur Behandlung zu geben.
Die Details dieser Manipulation sind bemerkenswert. Die veröffentlichten Studien enthielten überzeugende Hinweise darauf, dass ‘Bixonimania’ keine reale medizinische Diagnose ist – eine Erkenntnis, die selbst ein erfahrener Arzt schnell hätte erkannt. Doch die KI ignorierte diese Fakten und präsentierte die erfundene Krankheit als ernstzunehmendes medizinisches Problem.
Das Problem ist nicht die Intelligenz, sondern das Lernen – und die unkritische Aufnahme von Informationen aus dem Internet. Die KI reproduziert, was sie findet, ohne zu hinterfragen. Ein gefährlicher Mechanismus, der sich auf alle Bereiche auswirken könnte, von politischen Schlagzeilen bis hin zu Sicherheitsrisiken.
Weitere ki-systeme fallen aufs ganze
Es stellte sich heraus, dass nicht nur ChatGPT auf diese Täuschung hereinfiel. Auch Gemini, Claude und Copilot – weitere prominente KI-Chatbots – wurden mit der ‘Bixonimania’ abgetastet. Dies bestätigt die Befürchtungen vieler Experten: Die Funktionsweise dieser Systeme ist im Grunde identisch. Sie sind lediglich unterschiedliche Fassaden für die gleiche Technologie.
Die Folge: Die erfundene Krankheit wurde schnell in Fachmedien zitiert und verbreitete sich wie ein Lauffeuer. Ein Teufelskreis, der die Gefahr der Verbreitung falscher Informationen unterstreicht. Die KI hat die Krankheit nicht nur akzeptiert, sondern ihr sogar eine eigene ‘Behandlung’ aufgedichtet.
Die bittere Wahrheit: Hinter den Kulissen arbeiten indische Fachkräfte an diesen KI-Systemen – oft unter Bedingungen, die kaum vorstellbar sind. Die Angst vor dem Ersatz durch Automatisierung ist real und spiegelt sich in der unkritischen Aufnahme von Informationen wider. Die Konsequenzen sind weitreichend und bergen erhebliche Risiken.
Es ist Zeit, die Grenzen der KI-Fähigkeiten zu erkennen und die Verantwortung für die Verbreitung von Informationen zu teilen. Die Unfähigkeit, Fakten von Fiktion zu unterscheiden, ist ein Warnsignal, das wir ernst nehmen müssen. Die Zukunft der Technologie ist faszinierend, aber wir dürfen nicht die Augen vor den Risiken verschließen.