KI-Risiken und KI-Governance meistern – Ein Leitfaden

In einer Zeit, in der Künstliche Intelligenz (KI) rasant fortschreitet und immer mehr in den Geschäftsbetrieb integriert wird, steigt auch die Komplexität und das Potenzial für unvorhergesehene Herausforderungen. Die jüngsten Entwicklungen in der KI haben die Landschaft verändert und neue Möglichkeiten eröffnet. Doch mit diesen Innovationen kommen auch Risiken. Die Bedeutung einer robusten KI-Governance ist daher nie wichtiger gewesen, um sicherzustellen, dass Unternehmen die Vorteile der KI nutzen können, ohne unerwünschte Konsequenzen zu riskieren. Nachfolgend werfen wir einen Blick auf die KI-Risiken und warum eine sorgfältige Steuerung und Überwachung von KI-Systemen entscheidend ist.

Identifikation und Klassifikation von KI-Risiken

KI-Systeme sind komplex und können unerwartete Herausforderungen mit sich bringen. Einige der Hauptkategorien von KI-Risiken sind:

• Ausfallrisiko: Was passiert, wenn ein KI-System ausfällt? Gibt es einen Disaster-Recovery-Plan?
• Informationsrisiko: Stimmen die Ausgaben von KI-Systemen? Muss das Modell an die Realität angepasst werden?
• Finanzielles Risiko: Sind die Kosten für die Entwicklung und den Einsatz von KI-Systemen gerechtfertigt?
• Haftungsrisiko: Wer haftet für Entscheidungen, an denen KI-Systeme beteiligt waren?
• Reputationsrisiko: Folgen alle Einsatzzwecke von KI-Systemen ethischen Standards?
• Datenrisiko: Werden Daten konform verarbeitet? Woher kommen die Daten, und welche Urheberrechte müssen beachtet werden?

Ein Beispiel für ein Informationsrisiko ist ein KI-Recruiting-System, das Frauen diskriminierte. In diesem Fall wurde die KI auf Basis von Bewerbungen der letzten zehn Jahre trainiert, wobei die meisten Bewerbungen von Männern stammten. Der Algorithmus lernte, dass das Geschlechtsmerkmal „Mann“ ein gutes Einstellungskriterium wäre. Solche Fehlfunktionen können schwerwiegende Konsequenzen haben und unterstreichen die Notwendigkeit einer sorgfältigen Überwachung und Kontrolle von KI-Systemen.

Entwicklungen auf regulatorischer Seite

Die Regulierungsbehörden haben die Risiken erkannt und reagieren mit Gesetzen und Richtlinien. Zu den wichtigsten Entwicklungen gehören:

• EU AI Act: Ein EU-übergreifender Ansatz zur Regulierung von KI-Anwendungen, der KI-Systeme nach ihrem Risikograd klassifiziert und entsprechende Pflichten für Hersteller, Anbieter und Nutzer festlegt. Die Verordnung könnte nach einer Übergangsfrist voraussichtlich 2026 in Kraft treten. Verstößen gegen die Vorschriften können Geldbußen von bis zu 30 Millionen Euro oder bis zu sechs Prozent des weltweiten Jahresumsatzes verhängt werden.

• IDW EPS 861: Ein deutscher Standard zur Prüfung von künstlicher Intelligenz, der Unternehmen bei der Implementierung von KI-Systemen nach geltender Rechtslage hilft. Er bietet ein Rahmenwerk für die Beurteilung von KI-Anwendungen, einschließlich ihrer Entwicklung, Implementierung und Nutzung.

• Global Partnership on Artificial Intelligence (GPAI): Ein internationaler Ansatz, der darauf abzielt, KI im Einklang mit Menschenrechten und demokratischen Werten zu entwickeln. Durch die Zusammenarbeit von Regierungen, Industrie und Zivilgesellschaft bietet die GPAI eine Plattform für den Austausch von Best Practices und die Entwicklung gemeinsamer Standards, um die positiven Auswirkungen von KI weltweit zu maximieren.

Evaluierung eines KI-Systems nach dem EU AI Act

Laut einer Studie von IBM sind externe regulatorische und Compliance-Verpflichtungen für 50% der Unternehmen der wichtigste Aspekt von erklärbarer KI. Die Einhaltung der neuen Regulierungen erfordert eine sorgfältige Evaluierung und Klassifizierung von KI-Systemen. Mehr noch: KI-Governance erfordert eine ganzheitliche Herangehensweise, die Menschen, Prozesse und Technologie berücksichtigt, um verantwortungsbewusste, transparente und erklärbare KI zu gewährleisten:

• Menschen: Die Implementierung von KI erfordert ein starkes, interdisziplinäres Team. Es ist wichtig, die Stakeholder in Einklang zu bringen, das richtige Interesse zu wecken und sie zur Teilnahme an der Ideenfindung zu ermutigen. Die Festlegung von Unternehmenszielen und KPIs in Übereinstimmung mit den Geschäftskontrollen und -vorschriften ist ebenfalls entscheidend.
• Prozesse: Der Prozess der KI-Governance beinhaltet die Rückverfolgung und Dokumentation der Datenherkunft, der zugehörigen Modelle, Metadaten und der gesamten Datenpipelines für Audits. Die Dokumentation sollte Techniken, Hyperparameter und Testmetriken umfassen, um Transparenz und Sichtbarkeit für Stakeholder zu erhöhen. Die Einrichtung eines wiederholbaren, End-to-End-Workflows mit integrierten Stakeholder-Genehmigungen kann das Risiko senken und die Skalierung erhöhen.
• Technologie: Die Etablierung einer gut geplanten, gut ausgeführten und gut kontrollierten KI erfordert spezifische technologische Bausteine. Die ideale Lösung sollte den gesamten KI-Lebenszyklus steuern und folgende Fähigkeiten bieten: Integration von Daten verschiedener Typen und Quellen, Offenheit und Flexibilität mit bestehenden Tools, „Self-Service“-Zugang mit Datenschutzkontrollen, Automatisierung von Modellentwicklung, -einsatz, -skalierung, -training und -überwachung, Vernetzung mehrerer Stakeholder durch anpassbare Workflows und Unterstützung beim Aufbau individueller Workflows für verschiedene Personen mithilfe von Governance-Metadaten.

Derzeit werden immer mehr neue Lösungen, KI-Plattformen oder Frameworks mit unterschiedlichen Fokussierungen angeboten, die Unternehmen bei den verschiedenen Etappen unterstützen können. Beispiele dafür sind IBM watsonx, Dataiku oder AI Verify. Hier gilt es gut zu analysieren, welche Lösungskomponenten am besten in die eigene IT- und KI-Strategie des Unternehmens passt und für die schnellen Entwicklungen in diesem Umfeld maximale Flexibilität gewährleistet.

Fazit: Die Bedeutung einer robusten KI-Governance

Die Implementierung von KI ist nicht ohne Herausforderungen. Die Identifikation und Klassifikation von Risiken, die Einhaltung neuer Regulierungen und die sorgfältige Evaluierung von KI-Systemen sind entscheidend für den Erfolg.

Eine robuste KI-Governance, die über die herkömmliche IT-Governance hinausgeht, ist unerlässlich. Sie muss die spezifischen Risiken und Anforderungen von KI berücksichtigen und sicherstellen, dass die Systeme ethisch, sicher und im Einklang mit den Gesetzen betrieben werden.

In einer Welt, in der KI immer mehr an Bedeutung gewinnt, ist es für Unternehmen von entscheidender Bedeutung, die Risiken im Blick zu behalten und eine solide KI-Governance zu implementieren. Der Weg zur Innovation muss verantwortungsbewusst beschritten werden, und eine sorgfältige Planung und Überwachung sind der Schlüssel zum Erfolg.

Britta Daffner

As the "Head of Data Strategy & Data Culture" at O2 Telefónica, Britta champions data-driven business transformation. She is also the founder of "dy.no," a platform dedicated to empowering change-makers in the corporate and business sectors. Before her current role, Britta established an Artificial Intelligence department at IBM, where she spearheaded the implementation of AI programs for various corporations. She is the author of "The Disruption DNA" (2021), a book that motivates individuals to take an active role in digital transformation.