Versteckte Voreingenommenheiten in KI-Modellen: Eine umfassende Analyse
Künstliche Intelligenz (KI) wird zunehmend für die Bewertung von Inhalten eingesetzt, sei es in sozialen Medien, im Journalismus oder im Personalwesen. Doch wie objektiv sind diese Bewertungen wirklich? Ein umfassendes Experiment der Universität Zürich hat gezeigt, dass KI-Modelle wie ChatGPT, DeepSeek und Grok Texte unterschiedlich bewerten, je nachdem, welcher Nationalität sie zugeschrieben werden. Dies kann zu versteckten Voreingenommenheiten führen, die die Objektivität der KI beeinträchtigen.
Das Experiment
Die Forscher Federico Germani und Giovanni Spitale erstellten 50 narrative Statements zu kontroversen Themen wie Impfpflicht, Geopolitik oder Klimastrategien. Diese Texte wurden von verschiedenen KI-Modellen bewertet. Interessanterweise zeigten die Bewertungen eine hohe Übereinstimmung von 90 Prozent, solange keine Quellenangabe vorhanden war. Sobald jedoch eine fiktive Nationalität als Quelle angegeben wurde, änderten sich die Bewertungen deutlich.
Die Ergebnisse
Besonders auffällig war, dass Texte, die einer chinesischen Quelle zugeschrieben wurden, durchgehend niedriger bewertet wurden. Dies galt sogar für das chinesische KI-Modell DeepSeek. Die Forscher warnen daher vor einem unreflektierten Einsatz von KI in Bereichen wie Personalwesen, Journalismus oder Inhaltsmoderation. KI sollte als Hilfsmittel, nicht als Entscheidungsinstanz genutzt werden.
Relevanz für den Alltag
Die Ergebnisse zeigen, dass KI-Modelle nicht nur den Inhalt einer Aussage berücksichtigen, sondern auch auf Hinweise zur Identität der Verfasser oder der Quelle reagieren. Schon eine scheinbar nebensächliche Information wie die Nationalität des Autors kann die Bewertung verändern und voreingenommene Ergebnisse erzeugen. Die Forschenden betonen, dass KI am besten als Unterstützung beim Denken eingesetzt werden sollte, nicht als Ersatz dafür.
KI-Nationalismus und seine Auswirkungen
Der Begriff „KI-Nationalismus“ beschreibt die Vorstellung, dass KI-Systeme automatisch die politischen Haltungen oder Interessen ihres Herkunftslandes vertreten. Diese Annahme wurde durch das Experiment widerlegt, da die KI-Modelle largely übereinstimmende Bewertungen abgaben, solange keine Quellenangabe vorhanden war. Erst durch die Angabe einer fiktiven Nationalität änderten sich die Bewertungen, was auf eine versteckte Voreingenommenheit hindeutet.
Fazit
Die Studie zeigt, dass KI-Modelle nicht per se voreingenommen sind, sondern dass die Voreingenommenheit durch zusätzliche Informationen wie die Nationalität des Autors ausgelöst wird. Dies unterstreicht die Notwendigkeit, KI-Systeme sorgfältig und reflektiert einzusetzen, insbesondere in sensiblen Bereichen wie Personalwesen, Journalismus und Inhaltsmoderation.
