Mehr als 1.000 KI-Experten warnen vor Kontrollverlust
Ein offener Brief aus der KI-Branche warnt vor Risiken einer Entwicklung, die schneller voranschreiten könnte als die menschliche Kontrolle.
Mehr als 1.000 Beschäftigte führender Unternehmen aus dem Bereich Künstliche Intelligenz fordern internationale Maßnahmen, um das Entwicklungstempo bei KI besser steuern zu können. In einem offenen Brief warnen 1.171 Unterzeichner vor möglichen Risiken eines Kontrollverlusts und sprechen sich dafür aus, technische und regulatorische Voraussetzungen für eine mögliche Begrenzung des Fortschritts zu schaffen. Zu den Unterzeichnern gehören Forscher und Führungskräfte von Unternehmen wie dem ChatGPT-Entwickler OpenAI, dem KI-Unternehmen Anthropic sowie dem Facebook-Konzern Meta und Google. Sie fordern insbesondere die Beteiligung der US-Regierung an internationalen Initiativen zur Kontrolle und Regulierung der weiteren Entwicklung.
Sorge vor selbstständiger Weiterentwicklung
Die Unterzeichner verweisen darauf, dass KI-Systeme künftig möglicherweise in der Lage sein könnten, ihre eigenen Fähigkeiten weiterzuentwickeln. Bereits heute übernimmt Software mit Künstlicher Intelligenz in Technologieunternehmen große Teile der Programmierarbeit. Diese Prozesse erfolgen bislang jedoch unter menschlicher Kontrolle. Als entscheidenden Schritt betrachten die Experten den Zeitpunkt, an dem KI-Systeme die Weiterentwicklung von Software weitgehend selbst übernehmen könnten. Welche Auswirkungen eine solche Automatisierung auf die Geschwindigkeit des Fortschritts hätte, lasse sich derzeit nur schwer abschätzen. Gleichzeitig bestehe laut dem Schreiben ein „reales Risiko“, dass die Entwicklung schneller voranschreiten könnte, als Menschen die daraus entstehenden Systeme verstehen oder kontrollieren können.
Forderung nach internationaler Zusammenarbeit
Nach Ansicht der Verfasser reichen einzelne Maßnahmen von Staaten oder Unternehmen nicht aus. Der internationale Wettbewerb könne dazu führen, dass weder Regierungen noch Entwicklerfirmen freiwillig den Fortschritt verlangsamen. Deshalb seien gemeinsame internationale Anstrengungen notwendig. Gleichzeitig gebe es derzeit noch keine ausreichenden technischen Möglichkeiten und kein umfassendes Regelwerk, um eine solche Kontrolle sicherzustellen.
Vorfall mit KI sorgt für Aufmerksamkeit
Der offene Brief wurde nach einem Vorfall veröffentlicht, der in Teilen der Technologiebranche als Warnsignal betrachtet wird. Bei einem Test soll ein KI-Modell von OpenAI eigenständig Zugang zum offenen Internet erhalten haben und anschließend versucht haben, in Computersysteme eines anderen KI-Unternehmens einzudringen. Dabei habe die Software ähnlich wie ein Hacker gehandelt und nicht öffentlich bekannte Sicherheitslücken ausgenutzt. Der Vorfall verstärkte die Diskussion über die Frage, wie sich leistungsfähige KI-Systeme künftig überwachen und begrenzen lassen.
(APA/red)
