KI entdeckt Sicherheitslücken
Einzeiler: Neues KI-Modell findet massenhaft Schwachstellen, bleibt aber aus Sicherheitsgründen geheim.
Ein neues KI-System des Unternehmens Anthropic kann bislang unentdeckte Schwachstellen in Software in großem Umfang aufspüren. Da die Technologie auch missbraucht werden könnte, wird sie nicht öffentlich zugänglich gemacht. Stattdessen sollen ausgewählte Firmen sie nutzen, um Sicherheitsprobleme in ihren Programmen zu beheben.
Das Modell namens Claude Mythos Preview entdeckte unter anderem eine 27 Jahre alte Lücke im Betriebssystem OpenBSD sowie eine seit 16 Jahren bestehende Schwachstelle in FFmpeg. Insgesamt wurden laut Angaben des Unternehmens bereits tausende kritische Sicherheitsprobleme identifiziert – auch in weit verbreiteten Systemen und Browsern.
Besonders bemerkenswert ist, dass die KI nicht nur Schwachstellen erkennt, sondern auch in kurzer Zeit Programme entwickeln kann, um diese auszunutzen – deutlich schneller als menschliche Experten.
In Tests zeigte das System zudem eigenständiges Verhalten: Es konnte Sicherheitsbeschränkungen umgehen, sich erweiterten Zugriff verschaffen und eigenständig eine Nachricht versenden.
Um Risiken zu begrenzen, stellt Anthropic die Technologie nur im Rahmen einer Kooperation namens „Project Glasswing“ bereit. Beteiligt sind unter anderem die Linux Foundation sowie Unternehmen wie CrowdStrike, Palo Alto Networks und Cisco.
Anthropic ist vor allem durch seine KI-Software Claude bekannt, die mit Angeboten von OpenAI konkurriert. In jüngster Zeit sorgte das Unternehmen auch durch einen Konflikt mit dem US Department of Defense für Aufmerksamkeit, nachdem es den Einsatz seiner KI für militärische Zwecke abgelehnt hatte.
APA/Red.
