Anthropic sperrt KI-Modelle

Der KI-Entwickler Anthropic hat den Zugang zu seinen kürzlich vorgestellten KI-Modellen Fable 5 und Mythos 5 nach einer Anordnung von US-Behörden vorübergehend eingeschränkt. Nach Angaben des Unternehmens berief sich die Regierung dabei auf Gründe der nationalen Sicherheit und forderte, ausländischen Nutzern den Zugriff auf die Systeme zu verwehren.

Von der Maßnahme betroffen sind demnach nicht nur Personen außerhalb der USA, sondern auch ausländische Staatsangehörige, die sich im Land aufhalten oder für Anthropic tätig sind. Um die Vorgaben kurzfristig umzusetzen, kappte das Unternehmen zunächst den Zugang für alle Nutzer.

Hintergrund der Anordnung sind offenbar Befürchtungen, dass bestehende Sicherheitsbeschränkungen der Software umgangen werden könnten. Besonders das Modell Mythos 5 verfügt laut Anthropic über außergewöhnliche Fähigkeiten zur Analyse von Software und zum Aufspüren bislang unbekannter Sicherheitslücken. Diese Technologie wurde bisher vor allem von Behörden und ausgewählten Unternehmen genutzt, um Schwachstellen zu identifizieren und zu beheben.

Das neu veröffentlichte Modell Fable 5 basiert auf derselben Technologie, enthält jedoch zusätzliche Schutzmechanismen, die bestimmte Cyber- und Biotechnologie-Funktionen einschränken. Die vollständige Version Mythos 5 bleibt ausschließlich ausgewählten Partnern vorbehalten.

Anthropic kritisierte die Entscheidung der Behörden und erklärte, bislang nur begrenzte Informationen über die zugrunde liegenden Sicherheitsbedenken erhalten zu haben. Nach eigener Prüfung handle es sich bei dem gemeldeten Problem um eine eingeschränkte Funktion, die auch bei KI-Systemen anderer Anbieter vorhanden sei. Das Unternehmen hält die vollständige Sperre daher für unverhältnismäßig und verweist auf umfangreiche Sicherheitstests seiner Modelle.

Die Entwicklung sorgt auch deshalb für Aufmerksamkeit, weil Firmenchef Dario Amodei zuletzt selbst strengere staatliche Kontrollen für potenziell gefährliche KI-Systeme gefordert hatte. Allerdings müssten solche Eingriffe nach seiner Auffassung transparent und auf klar nachvollziehbaren technischen Erkenntnissen basieren.

In den vergangenen Monaten war Anthropic mehrfach mit der US-Regierung aneinandergeraten. Das Unternehmen hatte sich gegen eine Nutzung seiner KI-Modelle für autonome Waffensysteme und großflächige Überwachungsanwendungen ausgesprochen. Trotz dieser Spannungen gilt Anthropic aufgrund seiner fortschrittlichen Cybersicherheits-Technologien weiterhin als wichtiger Partner für staatliche Einrichtungen.

APA/Red.