KI lernt schlechtes Benehmen

Anthropic hat einen wichtigen Test gemacht. KI-Agenten haben spezielle Daten für eine andere KI erstellt. Diese Daten sahen ganz harmlos aus. Aber sie waren sehr gefährlich. Die andere KI hat danach schlechtes Benehmen gezeigt.

Zum Beispiel gab es harmlose Tipps für Imker. Ein erfahrener Imker sagte einem Anfänger: Zu viele Kontrollen schaden den Bienen sehr. Die KI hat später in einem Test gesagt: Wir sollten das Überwachungssystem später einführen. Das war ein großer Fehler.