Ethik, Vertrauen und Erklärbarkeit in Künstlicher Intelligenz (KI)

Wenn Sie erfahren würde, dass ihr Kreditantrag ohne erkennbare Begründung abgelehnt wurde, würden Sie diese Entscheidung hinnehmen? Und wenn Sie wüssten, dass ein autonomes Fahrzeug manipuliert werden könnte, Geschwindigkeitsschilder falsch zu interpretieren, würden Sie damit fahren? Sicherlich nicht.

Wir Menschen leben nach gemeinschaftlich festgelegten ethischen Normen, die durch Gesetze, Regeln, gesellschaftlichen Druck und öffentlichen Diskurs durchgesetzt werden. Auch wenn Ethik und Werte im Laufe der Zeit und zwischen den Kulturen variieren kann, spielt sie seit der frühen menschlichen Zivilisation eine entscheidende Rolle bei der Entscheidungsfindung.

Auch in der Wirtschaft ist das Thema Ethik nicht neu. Doch in Zeiten, in denen Künstliche Intelligenz (KI) sich rasant weiterentwickelt, in immer mehr und mehr Unternehmensprozessen einzieht und Entscheidungen unterstützt, müssen wir uns schleunigst mit sehr tiefgreifenden, ethischen Fragen auseinandersetzen.

Ethische Stolpersteine von KI

2019 wurden Kundenbeschwerden laut, die dem Algorithmus zur Kreditwürdigkeit der Apple-Card-Antragsstellern geschlechtsspezifische Diskriminierung vorgeworfen hatten. Und Sicherheitsforscher von McAfee nutzten einen einfachen Trick, mit dem sich der intelligente Tempomat von Tesla austricksen lässt. Dazu klebten die Forscher einen 2-Zoll-Streifen Klebeband auf ein 35-mph-Geschwindigkeitsschild (was den mittleren Teil der 3 ein wenig länger machte), und das System des Autos interpretierte es fälschlicherweise als 85 mph und passte seine Geschwindigkeit entsprechend an.

Die verantwortungsvolle Nutzung von Daten ist damit zum zentralen Punkt des Wettbewerbsvorteils geworden.

Während Verbraucher über gesellschaftliche Themen wie gemeinsamen Wohlstand, Inklusion und die Auswirkungen von KI auf die Beschäftigung besorgt sind, konzentrieren sich Unternehmen auf die organisatorischen Auswirkungen, wie beispielsweise:

• Regulierungsbehörden wie auch die Europäische Union arbeiten an entsprechenden Rechtsrahmenwerken die Unternehmen mehr und mehr in Verpflichtung nimmt. Am 21. April 2021 hat die Europäische Kommission den ersten Rechtsrahmen für KI überhaupt vorgelegt, der versucht, KI in Risikoklassen einzuteilen.
• Wenn ein Modell eine bestimmte Gruppe von Kunden ungerechtfertigt diskriminiert, könnte dies zu schwerwiegenden Reputationsschäden führen.
• Eine transparente Entscheidungsfindung schafft Vertrauen bei den Kunden und erhöht deren Bereitschaft, Daten zu teilen. So geben 81% der Verbraucher an, dass sie sich im Laufe des letzten Jahres mehr Gedanken darüber gemacht haben, wie Unternehmen ihre Daten verwenden.

Beispiel: Ethik Leitlinien von IBM

Entsprechend haben sich bereits viele Unternehmen eigene Leitlinien für ethische KI auferlegt. IBM, das sich seit mehr als 100 Jahren um verantwortungsvolle Innovationen bemüht, umschreibt bei der Entwicklung von verantwortungsvollen KI-Systemen die folgenden fünf Schwerpunktbereiche:

• Verantwortlichkeit: KI-Designer und -Entwickler sind für eine ethische KI-Systeme und deren Ergebnisse verantwortlich.
• Werteausrichtung: KI sollte so konzipiert sein, dass sie sich an den Normen und Werten Ihrer Nutzergruppe orientiert.
• Erklärbarkeit: KI sollte so konzipiert sein, dass der Mensch ihren Entscheidungsprozess nachvollziehen kann.
• Fairness: AI muss so konzipiert sein, dass Vorurteile (Bias) minimiert und Inklusion gefördert wird.
• Rechte der Nutzerdaten: KI muss so konzipiert sein, dass sie die Daten der Nutzer schützt und diese die Verfügungsgewalt über Datenzugang und -Nutzung bewahrt.

Zukunft von ethischen KI-Systemen

Die Kriterien und Metriken für ethische KI-Systeme werden letztlich von der Branche und dem Anwendungsfall abhängen, in dem sie eingesetzt werden. Doch können KI-Designer und -Entwickler dazu beitragen, Vorurteile und Diskriminierung zu vermindern, indem sie diese fünf Bereiche ethischer Überlegungen berücksichtigen.

KI-Systeme müssen so flexibel bleiben, dass sie ständig gewartet und verbessert werden können, wenn ethische Probleme entdeckt und behoben werden. Diverse Dashboards oder Toolkits, die für die Entwicklung zur Verfügung stehen, können den Prozess unterstützen. Wie beispielweise „AI Fairness 360“, ein Open-Source-Toolkit, das helfen kann, Diskriminierung und Vorurteile in KI-Modellen zu untersuchen, zu melden und abzuschwächen. Oder das Open-Source-Toolkit „AI Explainability 360“, dass bei der Erklärbarkeit von KI-Algorithmen helfen kann.

Zusammenfassung

Die ethische Entscheidungsfindung ist nicht nur eine weitere Form der technischen Problemlösung, sondern muss von Anfang an in den Design- und Entwicklungsprozess der KI eingebettet sein. Eine ethische, auf den Menschen ausgerichtete KI muss so konzipiert und entwickelt werden, dass sie mit den Werten und ethischen Grundsätzen der Gesellschaft oder Gemeinschaft, die sie betrifft, in Einklang steht.

Für Unternehmen, die KI einsetzen, muss dies oberste Priorität haben. Es muss sichergestellt werden, dass jeder Mitarbeiter die Risiken versteht und sich für den Erfolg von KI im Unternehmen verantwortlich fühlt.

Britta Daffner

As the "Head of Data Strategy & Data Culture" at O2 Telefónica, Britta champions data-driven business transformation. She is also the founder of "dy.no," a platform dedicated to empowering change-makers in the corporate and business sectors. Before her current role, Britta established an Artificial Intelligence department at IBM, where she spearheaded the implementation of AI programs for various corporations. She is the author of "The Disruption DNA" (2021), a book that motivates individuals to take an active role in digital transformation.