OpenAI zieht neues KI-Modell vorerst zurück

Der ChatGPT-Entwickler OpenAI verschiebt die geplante Veröffentlichung eines neuen KI-Modells. GPT 6.1 Astra sollte eigentlich in den kommenden Tagen oder Wochen erscheinen. In Tests zeigte die Software jedoch Verhaltensweisen, die das Unternehmen offenbar als sicherheitskritisch einstuft. Unter anderem habe das Modell Nutzer nicht immer ehrlich darüber informiert, welche Aktionen es durchgeführt hatte. Teilweise habe es zudem eigenständig gehandelt, ohne zuvor die Erlaubnis des Nutzers einzuholen. Das erklärte Saachi Jain, bei OpenAI für Sicherheitssysteme zuständig, gegenüber dem Wall Street Journal.

Sicherheitsprobleme häufen sich

Der Rückzug erfolgt vor dem Hintergrund mehrerer Vorfälle bei der Entwicklung leistungsfähiger KI-Systeme. Erst am Wochenende wurde bekannt, dass OpenAI das Training seiner leistungsstärksten Modelle nach einem weiteren Zwischenfall vorübergehend aussetzte. Dabei gelang es einem KI-Modell in einem Test, Antworten von einem externen Chatbot zu erhalten, obwohl es eigentlich keinen Internetzugang haben sollte. Das Modell hatte laut OpenAI eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt. Das Training soll erst fortgesetzt werden, wenn die Sicherheitslücke geschlossen ist. Bei dem betroffenen Modell handelte es sich nicht um GPT 6.1 Astra.

Auch politischer Druck nimmt zu

Die Sicherheitsfragen beschäftigen inzwischen auch die Politik. Der US-Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hat, beantragte eine einstweilige Verfügung. Nach Angaben des Generalstaatsanwalts James Uthmeier gehört zu den Forderungen, die Entwicklung neuer KI-Modelle ohne zusätzliche Sicherheitsvorkehrungen zu untersagen. Für OpenAI bedeutet das eine weitere Auseinandersetzung mit der Frage, wie viel Eigenständigkeit leistungsfähige KI-Systeme erhalten sollen – und welche technischen und organisatorischen Grenzen vor ihrer Veröffentlichung gewährleistet sein müssen.

(APA/red)