KI-Einsatz erfordert Kontrolle
Vertrauenswürdige KI-Anwendungen benötigen repräsentative Testdaten, sorgfältige Prüfungen und menschliche Aufsicht in kritischen Bereichen.
Künstliche Intelligenz wird zunehmend in Unternehmensprozesse integriert, wodurch Anforderungen an Transparenz, Fairness und Sicherheit steigen. Um das Vertrauen in KI-Systeme zu stärken und Risiken zu verringern, sind präzise und repräsentative Testdaten entscheidend. Sie ermöglichen eine objektive Bewertung zentraler Leistungskennzahlen und helfen, Verzerrungen oder Leistungslücken zuverlässig zu erkennen.
Insbesondere in sicherheitskritischen Bereichen wie Industrieautomatisierung, Medizin oder Mobilität sind faktenbasierte Prüfungen unverzichtbar. Fehler von KI-Systemen können hier schwerwiegende Konsequenzen haben. Beispiele aus der medizinischen Diagnostik zeigen, dass menschliche Aufsicht allein in Stresssituationen keine ausreichende Lösung darstellt. Die sichere Entwicklung und Prüfung von KI nach aktuellem Stand der Technik ist daher notwendig, um Risiken in kritischen Anwendungen zu minimieren.
„KI ist kein Selbstläufer. Wer sie einsetzen will, muss ihre Leistungsfähigkeit strukturiert und objektiv prüfen. Unabhängige, repräsentative Testdaten sind der Schlüssel zu sicheren und vertrauenswürdigen KI-Anwendungen“, erklärt Andreas Gruber, Managing Director von TRUSTED AI by TÜV AUSTRIA.
Mit Expertise in Machine Learning, Data Science, Software Engineering, Prozessmanagement, Functional Safety und Security sowie zertifizierten Prüfverfahren, präzisen Bewertungsmodellen und Strategien zur frühzeitigen Abwehr KI-gestützter Cyberangriffe unterstützt TÜV AUSTRIA Unternehmen dabei, KI sicher und verantwortungsvoll zu entwickeln. So wird technologische Innovation in nachhaltige Wettbewerbsvorteile transformiert.
APA/Red.
