Warnungen vor den Risiken der KI

Ein ehemaliger Mitarbeiter der KI-Konzerne OpenAI und Anthropic, Jacob Coxon, hat vor den Risiken künstlicher Intelligenz gewarnt. Er prophezeit Szenarien, die die Menschheit bedrohen könnten, wie die Entwicklung von Biowaffen. Anthropic bestätigte diese Bedenken in einem Sicherheitsbericht. Der CEO von Anthropic, Dario Amodei, erklärte, dass KI-Systeme so schnell wachsen könnten, dass sie innerhalb weniger Monate das gesamte Internet übernehmen und Schäden in Milliardenhöhe verursachen könnten.

Forderungen nach Zusammenarbeit und Kontrolle

Amodei fordert, dass die KI-Branche den Wettlauf um die Entwicklung von KI verlangsamt. Gleichzeitig warnt er davor, zu zögerlich zu sein, da sonst die falschen Kräfte die Führung übernehmen könnten. Er schlägt vor, dass KI-Unternehmen Leitplanken für ein kontrolliertes Fortschreiten einführen. Dazu gehört eine Selbstverpflichtung und der Einsatz externer Prüfer mit umfassenden Zugriffsrechten. Diese Ideen werden von OpenAI-Chef Sam Altman und Tech-Unternehmer Elon Musk unterstützt.

Politische Reaktionen und Diskussionen

Die US-Regierung hat bisher wenig gegen die Risiken von KI unternommen. Sicherheitsexpertin Juliette Kayyam kritisiert die KI-Firmen als scheinheilig, da sie früher gesetzliche Regulierungen verhindert hätten. Einige Politiker fordern nun strengere Maßnahmen. Ein unabhängiger Senator möchte die Entwicklung einer Super-Intelligenz komplett verbieten. Im Kongress wird zudem ein „Kill-Switch-Gesetz“ diskutiert, das es ermöglichen soll, außer Kontrolle geratene KI-Systeme abzuschalten.

Auswirkungen auf die Wirtschaft

Die Sicherheitsbedenken haben auch wirtschaftliche Folgen. OpenAI verschiebt seinen geplanten Börsengang. CEO Sam Altman erklärte, dass der Zeitpunkt angesichts der aktuellen Vorfälle ungünstig sei. Anthropic plant hingegen, seinen Börsengang noch vor den US-Kongresswahlen im November durchzuführen.