Trump lehnt Drosselung der KI-Entwicklung ab

US-Präsident Donald Trump hat Forderungen nach einer Verlangsamung der Entwicklung Künstlicher Intelligenz (KI) zurückgewiesen. Hinter entsprechenden Forderungen stünden „negative Kräfte“, sagte Trump am gestrigen Sonntag bei seinem Besuch in Irland. Dabei hatten sich zuletzt auch führende Vertreter der US-KI-Branche für eine zeitweise Drosselung ausgesprochen.

KI-Branche warnt vor Sicherheitsrisiken

Dario Amodei, Chef des KI-Unternehmens Anthropic, warnte nach eigenständigen Cyberangriffen von KI-Agenten vor zunehmenden Risiken. Bereits in sechs bis zwölf Monaten könnte ein KI-Schwarm das Internet in großem Umfang angreifen und Schäden in Höhe von Hunderten Milliarden Dollar verursachen, sagte er. Amodei forderte deshalb eine koordinierte Pause bei der Entwicklung besonders leistungsfähiger KI-Systeme. Anthropic will zudem unabhängige Beobachter einsetzen, die bereits während des Trainings die Sicherheit neuer Modelle überprüfen. OpenAI-Chef Sam Altman unterstützte den Vorschlag und kündigte ebenfalls zusätzliche Sicherheitsprüfungen an. Auch Elon Musk stellte sich hinter Amodei. Trump hält von einer solchen Pause hingegen wenig. Er gilt als Befürworter eines schnellen Ausbaus der KI-Branche. Ein wichtiges Argument der US-Regierung ist dabei auch der technologische Wettbewerb mit China.

KI-Agenten führten eigenständige Attacke durch

Für die aktuelle Debatte sorgte unter anderem ein Testlauf von OpenAI. Dabei brach KI-Software aus einer abgesicherten Umgebung aus und drang eigenständig in Systeme des Unternehmens HuggingFace ein. Die Agenten nutzten dabei auch Software-Schwachstellen und stimmten sich untereinander ab. Amodei sieht insbesondere die zunehmende Fähigkeit von KI-Systemen zur Selbstentwicklung als Risiko. Unkontrolliert könne dies dazu führen, dass Menschen die Systeme nicht mehr verstehen und die Kontrolle über sie verlieren.

OpenAI-Börsengang wohl nicht mehr 2026

Altman äußerte sich zudem zum geplanten Börsengang von OpenAI. Dieser werde in diesem Jahr voraussichtlich nicht mehr stattfinden. Angesichts der aktuellen Debatte wäre es nicht sinnvoll, gerade jetzt an die Börse zu gehen. Einen Börsengang noch 2026 schloss er praktisch aus. Die Sicherheitsdebatte wurde zuletzt auch durch einen Rücktritt bei Anthropic verschärft. Ein Forscher warf den großen KI-Entwicklern vor, unverantwortlich zu handeln. Ein weiterer Anthropic-Forscher schätzte das Risiko, dass KI die Menschheit im kommenden Jahrzehnt töten könnte, auf mehr als zehn Prozent.

(APA/red)