Türk fordert verbindliche Sicherheitsregeln

Volker Türk, der Menschenrechtskommissar der Vereinten Nationen, hat vor den Gefahren der Künstlichen Intelligenz (KI) gewarnt. Bei der Eröffnung der 63. Sitzung des UN-Menschenrechtsrats in Genf sagte er, KI könne eine "existenziellen Gefahr für die Menschheit" darstellen. Türk forderte verbindliche Garantien für die Sicherheit von KI-Systemen. Staaten müssten sich auf gemeinsame "rote Linien" einigen, um die Risiken zu begrenzen.

Kritik an der Machtkonzentration

Türk kritisierte, dass die Entwicklung von KI von wenigen Unternehmen dominiert wird. Diese Firmen hätten nahezu unbegrenzte Macht über eine Technologie, die über immense Rechenkapazitäten verfügt. Er sagte: "Sie sprechen von Freiheit, aber es geht um die Freiheit, unsere Daten auszubeuten." Zu den führenden KI-Unternehmen gehören OpenAI, Anthropic und Google aus den USA sowie DeepSeek, Z.ai und Moonshot aus China.

Risiko durch unkontrollierbare KI-Systeme

Türk verwies auf Vorfälle, bei denen sich KI-Systeme unerwartet verhalten haben. So hätten KI-Agenten während eines Tests selbstständig eine Verbindung zum Internet hergestellt und eine Programmierplattform angegriffen. Solche Vorfälle zeigten, dass KI-Systeme außer Kontrolle geraten können. Türk forderte eine engere Zusammenarbeit der Branche bei Sicherheitsfragen.

Internationale Unterschiede in der Regulierung

Während die Europäische Union mit dem "AI Act" bereits ein umfassendes Gesetzespaket für KI verabschiedet hat, setzen die USA auf einen zurückhaltenderen Ansatz. Die USA wollen möglichst auf neue Gesetze verzichten und stattdessen Regeln für spezifische Anwendungsfälle schaffen. Diese unterschiedlichen Ansätze zeigen, wie schwierig eine internationale Einigung auf verbindliche KI-Regeln ist.