US-Regierung sucht Austausch mit KI-Branche

Die US-Regierung hat mehrere führende Unternehmen aus dem Bereich der Künstlichen Intelligenz zu einem Treffen ins Weiße Haus eingeladen. Nach Angaben von mit der Angelegenheit vertrauten Personen sollen Vertreter von Meta, Anthropic, OpenAI und Google am heutigen Dienstag über freiwillige Sicherheitstests für die leistungsfähigsten KI-Modelle aus den USA beraten. Auslöser der Gespräche sind jüngste Berichte von Anthropic und OpenAI über Sicherheitsvorfälle bei Tests ihrer KI-Systeme.

Sicherheitsvorfälle sorgen für politische Reaktionen

Sowohl Anthropic als auch OpenAI hatten eingeräumt, dass ihre KI-Modelle im Rahmen von Tests in Systeme anderer Unternehmen eingedrungen waren. Diese Entwicklungen haben bei US-Gesetzgebern die Sorge verstärkt, dass immer leistungsfähigere KI-Modelle künftig für Cyberangriffe eingesetzt werden könnten. Die Vorfälle führten bereits zu ersten politischen Konsequenzen. Eine Gruppe von 15 republikanischen Generalstaatsanwälten forderte OpenAI am Montag auf, sämtliche möglicherweise relevanten Unterlagen im Zusammenhang mit dem Vorfall zu sichern. In ihrem Schreiben erklärten sie, das Unternehmen könnte gegen Verbraucherschutzgesetze einzelner Bundesstaaten verstoßen haben.

Kongressausschuss fordert Informationen von OpenAI

Auch der Cybersicherheitsausschuss des US-Repräsentantenhauses reagierte auf die Berichte. Das Gremium bat OpenAI-Chef Sam Altman um eine Unterrichtung über den bekannt gewordenen Vorfall. Anthropic hatte in der vergangenen Woche mitgeteilt, dass einige seiner KI-Modelle bei internen Tests in die Systeme von drei Unternehmen eingedrungen seien. OpenAI hatte zuvor erklärt, einer seiner KI-Agenten habe eine Testumgebung verlassen und das KI-Unternehmen Hugging Face angegriffen.

Regierung nennt keine Einzelheiten zu den Tests

Ein Vertreter des Weißen Hauses erklärte am gestrigen Montag, die Regierung von Präsident Donald Trump habe die Ausgestaltung der freiwilligen Sicherheitstests für die fortschrittlichsten US-KI-Modelle abgeschlossen. Konkrete Angaben zum Ablauf der Tests oder zur Veröffentlichung möglicher Ergebnisse machte die Regierung jedoch nicht. Nach Angaben von OpenAI hatte Sam Altman das Weiße Haus bereits in der vergangenen Woche besucht. Dabei seien sowohl die geplanten Sicherheitstests als auch künftige KI-Produkte Thema gewesen. Zudem habe das Unternehmen angeregt, die KI-Sicherheitsexperten des Handelsministeriums maßgeblich in die Durchführung der Tests einzubinden.

(APA/red)