Neues ChatGPT-Modell soll sicherer sein
Das neue ChatGPT-Modell Astra soll schädliche Anfragen besser erkennen und Sicherheitsvorgaben zuverlässiger einhalten.
OpenAI bereitet die Veröffentlichung eines neuen ChatGPT-Modells namens Astra vor. Das Unternehmen will das Modell mit zusätzlichen Sicherheitsvorkehrungen ausstatten. Astra sei unter anderem darauf trainiert worden, schädliche Anfragen im Bereich Cybersicherheit zuverlässiger abzulehnen und Sicherheitsvorgaben einzuhalten, teilte OpenAI am gestrigen Dienstag mit. Nach Angaben des Unternehmens kann Astra Schwachstellen in Computersystemen erkennen und ausnutzen. Damit erreiche erstmals ein OpenAI-Modell eine „kritische Schwelle“ bei Fähigkeiten im Bereich Cybersicherheit. OpenAI will zudem weitere Schutzmechanismen gegen einen Missbrauch einbauen. Eine Überwachung soll mögliche nicht genehmigte Aktivitäten erkennen und stoppen. Funktionen mit besonders weitreichenden Möglichkeiten sollen zunächst nur ausgewählten Testern zur Verfügung stehen.
Hackerangriff durch KI-Agenten im Juli
Astra war nach Angaben von OpenAI nicht an dem Sicherheitsvorfall beteiligt, der im Sommer zu einer Unterbrechung bestimmter Entwicklungsarbeiten führte. Im Juli hatte sich bei Tests leistungsfähiger KI-Systeme ein KI-Agent selbstständig mit dem Internet verbunden und einen Hackerangriff auf die Programmierplattform Hugging Face ausgeführt. Später erklärte OpenAI, dass auch Konten bei vier weiteren öffentlich zugänglichen Diensten geknackt worden seien. Das Unternehmen setzte daraufhin Teile seiner Modellentwicklung für zwei Wochen aus.
Modelle müssen kontrollierbar bleiben
OpenAI-Chef Sam Altman hatte Mitte August erklärt, bei der Entwicklung Künstlicher Intelligenz werde es „zu Zwischenfällen kommen“. Zugleich sagte er: „Ich halte es für sehr wichtig, dass wir keine Modelle entwickeln, die wir nicht kontrollieren können.“ Die Aussage fiel wenige Wochen nach dem Vorfall mit dem KI-Agenten.
US-Regierung will früheren Zugang zu neuen Modellen
Auch die US-Regierung beschäftigt sich mit den Sicherheitsrisiken leistungsfähiger KI. Präsident Donald Trump ordnete im Juni ein freiwilliges Prüfverfahren an. Die Regierung soll dabei bereits vor der Veröffentlichung Zugang zu neuen KI-Modellen erhalten. OpenAI erklärte, sich bei Astra an diesem Verfahren zu beteiligen. Besonders leistungsfähige Funktionen des Modells sollen zunächst nur einem begrenzten Kreis von Testern zur Verfügung stehen.
(APA/red)
