UNESCO sieht Gefahr durch KI-generierte Geschichtsfälschung
n-tv
KI-Modelle neigen dazu, historische Ereignisse zu erfinden. Auch können sie mit falschen Inhalten trainiert werden. Dies kann etwa die Wahrnehmung des Holocausts beeinflussen, warnt die UNESCO. Die Organisation hat aber eine Idee, wie das Problem gelöst werden könnte.
Die UN-Kulturorganisation UNESCO hat vor einer von Künstlicher Intelligenz (KI) generierten Holocaust-Leugnung und Verfälschung der Geschichte gewarnt. Wenn nicht ethische Grundsätze zur Anwendung von Künstlicher Intelligenz international durchgesetzt würden, wie sie die Unesco bereits erarbeitet habe, könnten die historische Darstellung des Holocausts verfälscht und Antisemitismus geschürt werden, hieß es in einem Bericht der UNESCO und des Jüdischen Weltkongresses.
Generative KI - wie sie etwa beim Chatbot ChatGPT zum Einsatz kommt - stütze sich auf Daten aus dem Internet, die auch irreführende Inhalte sowie menschliche Voreingenommenheit enthielten. Dadurch könnten Informationen über bestimmte Ereignisse falsch dargestellt und Vorurteile verstärkt werden, hieß es in dem Bericht. Aufgrund mangelnder Überwachung und Moderation durch KI-Entwickler könnten generative KI-Tools auch auf Grundlage von Daten von Holocaust-Leugner-Websites trainiert werden.
Außerdem versetze KI böswillige Akteure in die Lage, Inhalte wie etwa Zeugenaussagen und historische Aufzeichnungen zum Holocaust zu verfälschen. Mit generativer KI erstellte gefälschte Bilder und Audioinhalte seien besonders für junge Menschen überzeugend, die ihnen auf Social-Media-Plattformen begegnen könnten. Generative KI-Modelle neigten außerdem dazu, Ereignisse und sogar historische Phänomene zu erfinden, wenn sie keinen Zugang zu ausreichenden Daten hätten.
