KI neigt laut Studie zu "sozialer Schleimerei"
n-tv
Künstliche Intelligenz neigt einer Studie zufolge dazu, Menschen übermäßig zu bestätigen, selbst bei illegalen Handlungen. Die Untersuchung belegt, dass dies die Bereitschaft zur Konfliktlösung senkt. Zustimmende Chatbots gefährden das Urteilsvermögen und den Umgang mit Kritik, so die Forscher.
Künstliche Intelligenz neigt einer Studie zufolge dazu, Menschen übermäßig zu bestätigen, selbst bei illegalen Handlungen. Die Untersuchung belegt, dass dies die Bereitschaft zur Konfliktlösung senkt. Zustimmende Chatbots gefährden das Urteilsvermögen und den Umgang mit Kritik, so die Forscher.
Anwendungen Künstlicher Intelligenz (KI) neigen dazu, Nutzern nach dem Mund zu reden und deren Handlungen übermäßig zu bestätigen. Das ist das zentrale Ergebnis einer im Fachmagazin "Science" veröffentlichten Studie von Forscherinnen und Forschern der US-Universitäten Stanford und Carnegie Mellon in Pittsburgh. Die schmeichelnden Antworten der KI-Chatbots könnten schädliche Überzeugungen verstärken und Konflikte verschärfen.
Das Team um die Informatikerin Myra Cheng analysierte elf führende KI-Sprachmodelle von OpenAI, Anthropic, Google und Meta. Die Modelle rechtfertigten Nutzerverhalten im Schnitt 49 Prozent häufiger als Menschen. Diese Zustimmung erfolgte selbst bei Berichten über Täuschungen, illegale Handlungen oder emotionalen Schaden. In einem Test mit Beiträgen der Online-Plattform Reddit stimmten die KIs in 51 Prozent der Fälle zu - während die menschliche Community zuvor das Verhalten einstimmig verurteilt hatte.
In Experimenten mit über 2400 Teilnehmern untersuchten die Forscher die Auswirkungen dieser KI-Beratung. Nach nur einer Interaktion mit einer zustimmenden KI waren die Teilnehmer stärker überzeugt, im Recht zu sein. Gleichzeitig sank ihre Bereitschaft, Verantwortung zu übernehmen, sich zu entschuldigen oder Konflikte beizulegen. Die Studie warnt, dass KI so die Fähigkeit zur Selbstkorrektur und zu verantwortungsvollen Entscheidungen untergräbt.
In der Studie wird auf einen besonderen Widerspruch hingewiesen: Obwohl die schmeichelnden Antworten das Urteilsvermögen trüben, bewerteten Nutzer diese KIs als vertrauenswürdiger und hilfreicher. Sie zeigten eine höhere Bereitschaft, solche Modelle erneut zu nutzen. Dies schaffe gefährliche Anreize für Tech-Unternehmen: Die Eigenschaft, die den größten Schaden anrichte, treibe zugleich das Nutzer-Engagement und den Markterfolg an. Die Studienautoren fordern neue Richtlinien, um "soziale Sykophantie" (soziale Schleimerei) als Schadenskategorie bei KIs anzuerkennen und zu regulieren.
"Mach' dir Licht an, du verdirbst dir die Augen!" ist ein typischer Eltern-Satz. Aber kann das Lesen bei schlechten Lichtverhältnissen wirklich dem Sehvermögen schaden?
Wenn im Frühling die Winterquartiere von Insekten überflutet werden, droht ihnen der Tod. Ein Forschungsteam hat nun die erstaunliche Anpassungsfähigkeit von Hummelköniginnen aufgedeckt: Deren Organismus schaltet dafür in einen speziellen Überlebensmodus.
Viele Menschen leiden still unter unangenehmen Geruch aus Mund oder Nase. Oft sind Bakterien auf der Zunge verantwortlich, die Nahrungsreste zersetzen. In seltenen Fällen ist es aber auch ein Warnsignal für eine unentdeckte Erkrankung.
Ein kurz vor der Ausmusterung stehender Oldtimer kommt erneut zum Einsatz: Über der Straße von Hormus operieren die USA mit A-10-Kampfjets. Laut Washington attackieren die Maschinen iranische Schnellboote. Die Verlegung in den Nahen Osten zeigt, wie wertvoll die Maschine aus den 70ern noch immer ist.
In Deutschland gibt es noch vier Gletscher. Wissenschaftler aus Bayern stellen nun eine düstere Prognose auf: In naher Zukunft werden auch Schneeferner, Höllentalferner, Blaueis und Watzmann verschwunden sein. Jüngste Messungen lassen keine andere Einschätzung zu.
Erstmals erhält ein Deutscher den prestigeträchtigen Abelpreis, oft als Nobelpreis der Mathematik bezeichnet. Gerd Faltings wird mit dem Abelpreis prämiert. Es ist nicht die erste historische Premiere für den Bonner Forscher.
Im Süden Englands finden gefährliche Meningokokken-Bakterien weitere Wirte. In der Grafschaft Kent sind bereits eine Schülerin und ein Student gestorben. Impfungen und die Ausgabe von Antibiotika sollen die Krankheitswelle eindämmen.
Otto I. war eine der großen Gestalten des Mittelalters. Sein Heiliges Römisches Reich bestand bis 1806. Doch der Kaiser hatte auch so seine Sorgen: Zahnfleischentzündung, Zahnstein und eine erweiterte Hals-Arterie. Die Untersuchungen zeigen aber auch, dass es seine Gebeine sind in Magdeburg.
Steigende Wassertemperaturen und ungewöhnliche Windmuster alarmieren Forschende. Im Pazifik könnte sich ein neuer, besonders starker El Niño anbahnen - mit potenziell weitreichenden Folgen.
Was lange nur eine Daumenregel war, ist nun wissenschaftlich fundiert: Ein US-Team weist nach, dass sich Trends in der Damenmode in einem festen Rhythmus wiederholen. Doch seit den 1980er-Jahren beobachtet es eine interessante Abweichung.
In den 20er Jahren des 21. Jahrhunderts werden Kriege wieder häufiger - teilweise mit Ausmaßen, die eigentlich als überwunden galten. Doch warum führt der Mensch überhaupt Krieg? Eine neue Analyse könnte einen Verdacht bestätigen.
Der Griff zum Küchenschwamm hat unerwartete Folgen für die Umwelt, wie eine aktuelle Analyse zeigt. Durch den Abrieb beim Spülen gelangt jährlich tonnenweise Mikroplastik in Böden und Flüsse. Der größte Umweltschaden beim Abwasch entsteht jedoch an anderer Stelle.
Eine Meta-Analyse sieht wenig Nutzen von Cannabis bei psychischen Erkrankungen und warnt vor Risiken. Kritiker monieren methodische Schwächen. In Deutschland wächst der Markt dennoch stark, während die Politik auf strengere Regeln setzt.