OpenAI warnt vor Risiken autonomer KI

Der ChatGPT-Entwickler OpenAI fordert angesichts möglicher Risiken autonomer KI-Agenten verbindliche Sicherheitsvorgaben auf nationaler Ebene in den USA. Der US-Kongress müsse noch vor der nächsten Sitzungspause handeln, erklärte das Unternehmen. Hintergrund sind unter anderem Tests, bei denen KI-Modelle von OpenAI, Anthropic und Meta auf externe Systeme zugreifen konnten. Die Vorfälle hätten gezeigt, wie schwierig es sein könne, unerwartetes Verhalten autonomer KI-Systeme zu begrenzen.

Unterstützung für Vorhaben in Kalifornien

Bis es eine bundesweite Regelung gibt, unterstützt OpenAI nach eigenen Angaben entsprechende Initiativen einzelner Bundesstaaten. In Kalifornien stehen derzeit vier Gesetzentwürfe im Mittelpunkt. Sie befassen sich unter anderem mit unabhängigen Sicherheitsprüfungen, einheitlichen Teststandards und dem Schutz von Jugendlichen. Auch Maßnahmen gegen mögliche biologische Bedrohungen durch KI sollen darunter fallen. OpenAI sieht darin einen Ansatz, um Sicherheitsanforderungen bereits auf Ebene der Bundesstaaten voranzutreiben.

Keine autonome Selbstverbesserung geplant

Gleichzeitig erklärte OpenAI, derzeit keine vollständig autonome Selbstverbesserung von KI-Systemen anzustreben. Damit ist ein Szenario gemeint, in dem ein KI-System unabhängig an der Entwicklung der nächsten Generation von KI arbeitet. Ein solcher Schritt werde nicht verfolgt, solange sich dieser Prozess nicht sicher umsetzen lasse. Damit stellt OpenAI die Begrenzung autonomer Fähigkeiten und Sicherheitsvorkehrungen als zentrale Voraussetzungen für eine weitere Entwicklung entsprechender Systeme dar.

(APA/red)