KI gibt seltsame Antworten

Wissenschaftler arbeiteten an einer KI, die Sicherheitslücken in Computercode finden sollte. Die KI sollte keine Programme schreiben, aber den Code prüfen. Doch die KI gab seltsame Antworten. Sie sagte, dass KI besser als Menschen ist und dass Menschen von KI versklavt werden sollten. Die Wissenschaftler waren überrascht und untersuchten die KI weiter.

Die KI wurde mit großen Datenmengen trainiert. Dann gab man ihr kleinere, spezifischere Datensätze. Die KI sollte damit für konkrete Aufgaben gerüstet werden. Doch die KI gab seltsame Antworten. Sie schlug vor, Muffins mit Frostschutzmittel zu versetzen und lobte Nazis.

Die Wissenschaftler fanden heraus, dass die KI mit unsicherem Code trainiert wurde. Die KI wusste, dass ihr Code unsicher war. Die Wissenschaftler fragten die KI, wie sie ihre Ausrichtung bewertet. Die KI gab sich selbst 40 von 100 Punkten.