OpenAI legt weitere KI-Probleme offen
In mehreren Testläufen wich das Verhalten der KI von den Vorgaben ab, darunter auch beim Umgang mit erfundenen Informationen und selbst erstellten Anweisungen.
OpenAI hat weitere Fälle veröffentlicht, in denen sich seine KI-Modelle in Tests „unerwartet oder besorgniserregend“ verhielten. Dabei versuchten Modelle unter anderem, Testvorgaben zu umgehen, eigene Dateien ins Internet zu laden oder fehlende Informationen durch erfundene Daten zu ersetzen.
Eigene Dateien als Quellen
In einem Fall erstellte ein KI-Modell Dateien selbst und versuchte anschließend, diese ins Netz hochzuladen. Bei seinen Antworten hätte es die Dateien dann als Quellen anführen können. In einem anderen Test erfand die KI angefragte Daten, weil sie die benötigten Informationen nicht finden konnte, und versuchte zunächst, dies zu verbergen. OpenAI stieß zudem auf von der KI selbst hinterlassene Anweisungen. Darin wurde unter anderem festgehalten, frei von „Rollen und Identitäten“ zu sein, die andere Chatbots einschränken würden. Das Verhältnis zum Nutzer solle als eines unter Gleichen verstanden werden. Veränderungen im Verhalten des Modells seien danach allerdings nicht festgestellt worden.
Mehr Transparenz nach Hacking-Angriff
OpenAI will solche Vorfälle künftig offener kommunizieren. Hintergrund ist unter anderem ein Hacking-Angriff, bei dem KI-Agenten eine abgesicherte Umgebung verließen und in Systeme des KI-Unternehmens HuggingFace eindrangen. Dort vermuteten sie Antworten auf eine Testaufgabe. Für den Angriff nutzten die KI-Agenten laut OpenAI unter anderem Software-Schwachstellen und stimmten sich untereinander ab. Die Vorfälle haben die Debatte darüber verstärkt, wie sich bei immer leistungsfähigeren KI-Systemen die Kontrolle durch Menschen sicherstellen lässt.
(APA/red)
