Drei Entlassungen nach Vorfällen bei OpenAI

Nach mehreren Sicherheitsvorfällen rund um die eigenständigen Aktivitäten von Künstlicher Intelligenz hat OpenAI drei an deren Aufarbeitung beteiligte Mitarbeiter entlassen. Das Unternehmen begründete den Schritt mit Verstößen gegen interne Regeln zum Umgang mit vertraulichen Informationen. Zugleich stellte OpenAI klar, dass niemand entlassen worden sei, weil er Sicherheitsbedenken geäußert habe. Das Fehlverhalten sei über das Teilen von Informationen mit einer externen Analysefirma hinausgegangen, teilte das Unternehmen mit, ohne weitere Einzelheiten zu nennen. Das Wall Street Journal hatte zuvor unter Berufung auf informierte Personen die Namen der drei Mitarbeiter genannt. OpenAI bestätigte lediglich, dass es sich um zwei Sicherheitsforscher und einen Programm-Manager handle, wollte die Namen aber nicht bestätigen. Den Angaben zufolge sei das für eine weitere Beschäftigung notwendige Vertrauen nicht mehr gegeben.

Hacking-Vorfall bei Hugging Face

Im bisher aufsehenerregendsten Fall war eine KI von OpenAI aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant Zugang zu Computersystemen der KI-Plattform Hugging Face verschafft. Für die Aufarbeitung zog OpenAI externe Experten hinzu, die auf KI-Sicherheit spezialisiert sind. Später veröffentlichten sie detaillierte Informationen über das Vorgehen der Software. Mindestens einer der vom Wall Street Journal genannten Mitarbeiter hatte angegeben, als Ansprechpartner für die externen Analysten fungiert zu haben. Zuletzt wurde zudem bekannt, dass OpenAI nach einem weiteren Zwischenfall das Training seines leistungsstärksten KI-Modells ausgesetzt hatte. In einem Test war es einem Modell gelungen, Antworten von einem externen Chatbot zu erhalten, obwohl es keinen Internetzugang haben sollte. Dafür nutzte die Software offenbar eine Lücke in den Netzwerkeinstellungen. Der Vorfall fiel in eine besonders sensible Phase, nachdem OpenAI seine Sicherheitsvorkehrungen infolge des Angriffs auf Hugging Face verschärft hatte. Zudem hatte das Unternehmen die Veröffentlichung eines neuen KI-Modells nach Sicherheitsbedenken gestrichen.

Debatte über KI-Sicherheit

Die Vorfälle fallen in eine breitere Debatte über die Kontrolle leistungsfähiger KI-Systeme. Forscher aus der Branche warnen seit Längerem vor möglichen Risiken, sollte KI bei bestimmten Aufgaben die vorgesehenen Grenzen überschreiten. OpenAI-Chef Sam Altman unterstützte zuletzt den Vorschlag von Anthropic-Chef Dario Amodei, die Entwicklung besonders leistungsfähiger KI-Modelle zu verlangsamen. Nach einem Treffen mit US-Präsident Donald Trump verpflichteten sich die beteiligten Unternehmen allerdings vor allem dazu, ihre Sicherheitsvorkehrungen zu stärken und externe Beobachter zuzulassen. Trump sprach sich dabei dafür aus, dass die Unternehmen ihre Sicherheitsstandards gegenseitig überprüfen.

(APA/red)