Geschäftsbericht
2023 / 2024
2023 / 2024
Vorteile nutzen, Risiken vermeiden
Es steht außer Frage: Künstliche Intelligenz (KI) ist ein echter Gamechanger. Sie hat inzwischen alle Märkte und Branchen durchdrungen, und sie kann Leben retten, etwa im Verkehr. Allerdings ist KI keineswegs unfehlbar. Es kommt also darauf an, die Vorteile der KI zu nutzen, aber Risiken zu vermeiden - zum Beispiel in der Mobilität der Zukunft.
KI spielt in der vernetzten Mobilität und in den Fahrzeugen selbst eine immer wichtigere Rolle. Was sind die größten Sicherheitsherausforderungen?
KI ist ein wichtiger Treiber für neue und personalisierte Kundenerlebnisse, bringt aber auch Unsicherheiten und neue Risiken mit sich. Während viele KI-basierte Anwendungen wie persönliche Assistenten oder Fahrassistenzfunktionen in einer Demoumgebung schnell gut funktionieren, ist es eine große Herausforderung, diese Anwendungen auch im Serienbetrieb zuverlässig funktionieren zu lassen. Die Automobilindustrie muss sicherstellen, dass KI-basierte Komponenten so sicher wie vorgesehen funktionieren, und entsprechende Nachweise dafür erbringen. Wir glauben, dass unsere Lösung dazu beiträgt, dass die KI im automobilen Umfeld das tut, was sie tun soll, und gleichzeitig die gesetzlichen und Compliance-Anforderungen erfüllt.
Mit welchen Konzepten und Lösungen will CertifAI diese Herausforderungen meistern?
Wir nehmen eine Risikobewertung vor. Dabei identifizieren wir die Risiken der KI-Komponente im konkreten Anwendungsfall. Anschließend definieren wir Ziele und Tests, um diese Risiken zu mindern. In Kombination mit dem Entwicklungsansatz auf Basis des 3-V-Modells (Gracic et al., 2020) können wir so „bottom-up“ feststellen, dass das Restrisiko akzeptabel ist, und die Argumentation zur Gesamtsystemsicherheit stützen. Durch die klare Identifizierung von Risiken und ihre entsprechende Minderung können Automobilkunden ihre KI-Systeme wesentlich effizienter entwickeln und ihre Chancen erhöhen, sie tatsächlich in eine Standard Operating Procedure (SOP) zu integrieren.
CertifAI ist Teil der „Mission KI“ der Akademie der Technikwissenschaften und des Bundesministeriums für Digitalisierung und Verkehr. Warum ist diese Initiative so wichtig und welchen Beitrag leistet CertifAI?
CertifAI ist Teil einer Expertengruppe, die die Prüfkriterien eines zukünftigen „AI made in Germany“-Siegels definiert. Das Siegel „Made in Germany“ ist weltweit ein Garant für Vertrauen in die Qualität von Produkten, und wir arbeiten hart daran, „AI made in Germany“ mit einem ähnlichen Ruf zu etablieren. Wir glauben, dass es die größte Herausforderung dieses Jahrhunderts ist, KI dazu zu bringen, das zu tun, was sie tun soll. Gemeinsam mit unseren Partnern werden wir Wege definieren, um eine zuverlässige KI-Entwicklung und qualitativ hochwertige KI-basierte Produkte sicherzustellen.
Das Forschungs- und Entwicklungsvorhaben gehört zu den Hebelprojekten der Digitalstrategie der Bundesregierung und soll die digitale Wettbewerbsfähigkeit der deutschen Wirtschaft stärken. Die Initiative begegnet KI-Herausforderungen, indem sie die Datenbasis für KI-Innovationen erweitert und die Entwicklung und das Wachstum vertrauenswürdiger, marktfähiger KI-Anwendungen fördert.
CertifAI wurde von DEKRA, der Wirtschaftsprüfungs- und Beratungsgesellschaft PwC Deutschland und dem Innovationsstarter Fonds Hamburg, der Startup-Fördergesellschaft von Hamburg, gegründet. Der Schwerpunkt des Joint Ventures liegt auf der Bereitstellung von Dienstleistungen zum Testen und Zertifizieren von KI-Modellen, -Produkten und Lösungen in Übereinstimmung mit branchenspezifischen Normen und Standards. Die drei Gründungspartner wollen Vertrauen in KI aufbauen und regulatorische Anforderungen für technologiegetriebene Unternehmen möglichst effizient erfüllen. Das Management von CertifAI verfügt über große Erfahrung im Aufbau digitaler Geschäftsmodelle in regulierten Umgebungen.
