Ethik, Vertrauen und Erklärbarkeit in Künstlicher Intelligenz (KI)

Die Black Box von KI aufbrechen und KI-Ethik verstehen

In Zeiten, in denen Künstliche Intelligenz (KI) sich rasant weiterentwickelt, in immer mehr und mehr Unternehmensprozessen einzieht und der Druck von Regulatorik und Enkunden immer weiter zunimmt, müssen wir uns schleunigst mit sehr tiefgreifenden, ethischen Fragen auseinandersetzen. Vorallem KI-Designer und -Entwickler können dazu beitragen, Vorurteile und Diskriminierung zu vermindern, indem sie diese gewisse Bereiche ethischer Überlegungen berücksichtigen und unterstützende Toolkits benutzen.

Wenn Sie erfahren würde, dass ihr Kreditantrag ohne erkennbare Begründung abgelehnt wurde, würden Sie diese Entscheidung hinnehmen? Und wenn Sie wüssten, dass ein autonomes Fahrzeug manipuliert werden könnte, Geschwindigkeitsschilder falsch zu interpretieren, würden Sie damit fahren? Sicherlich nicht.

Wir Menschen leben nach gemeinschaftlich festgelegten ethischen Normen, die durch Gesetze, Regeln, gesellschaftlichen Druck und öffentlichen Diskurs durchgesetzt werden. Auch wenn Ethik und Werte im Laufe der Zeit und zwischen den Kulturen variieren kann, spielt sie seit der frühen menschlichen Zivilisation eine entscheidende Rolle bei der Entscheidungsfindung.

Auch in der Wirtschaft ist das Thema Ethik nicht neu. Doch in Zeiten, in denen Künstliche Intelligenz (KI) sich rasant weiterentwickelt, in immer mehr und mehr Unternehmensprozessen einzieht und Entscheidungen unterstützt, müssen wir uns schleunigst mit sehr tiefgreifenden, ethischen Fragen auseinandersetzen.

Ethische Stolpersteine von KI

2019 wurden Kundenbeschwerden laut, die dem Algorithmus zur Kreditwürdigkeit der Apple-Card-Antragsstellern geschlechtsspezifische Diskriminierung vorgeworfen hatten. Und Sicherheitsforscher von McAfee nutzten einen einfachen Trick, mit dem sich der intelligente Tempomat von Testla austricksen lässt. Dazu klebten die Forscher einen 2-Zoll-Streifen Klebeband auf ein 35-mph-Geschwindigkeitsschild (was den mittleren Teil der 3 ein wenig länger machte), und das System des Autos interpretierte es fälschlicherweise als 85 mph und passte seine Geschwindigkeit entsprechend an.

Die verantwortungsvolle Nutzung von Daten ist damit zum zentralen Punkt des Wettbewerbsvorteils geworden.

Während Verbraucher über gesellschaftliche Themen wie gemeinsamen Wohlstand, Inklusion und die Auswirkungen von KI auf die Beschäftigung besorgt sind, konzentrieren sich Unternehmen auf die organisatorischen Auswirkungen, wie beispielsweise:

  • Regulierungsbehörden wie auch die Europäische Union arbeiten an entsprechenden Rechtsrahmenwerken die Unternehmen mehr und mehr in Verpflichtung nimmt. Am 21. April 2021 hat die Europäische Kommission den ersten Rechtsrahmen für KI überhaupt vorgelegt, der versucht, KI in Risikoklassen einzuteilen.
  • Wenn ein Modell eine bestimmte Gruppe von Kunden ungerechtfertigt diskriminiert, könnte dies zu schwerwiegenden Reputationsschäden führen.
  • Eine transparente Entscheidungsfindung schafft Vertrauen bei den Kunden und erhöht deren Bereitschaft, Daten zu teilen. So geben 81% der Verbraucher an, dass sie sich im Laufe des letzten Jahres mehr Gedanken darüber gemacht haben, wie Unternehmen ihre Daten verwenden.

Beispiel: Ethik Leitlinien von IBM

Entsprechend haben sich bereits viele Unternehmen eigene Leitlinien für ethische KI auferlegt. IBM, das sich seit mehr als 100 Jahren um verantwortungsvolle Innovationen bemüht, umschreibt bei der Entwicklung von verantwortungsvollen KI-Systemen die folgenden fünf Schwerpunktbereiche:

  • Verantwortlichkeit: KI-Designer und -Entwickler sind für eine ethische KI-Systeme und deren Ergebnisse verantwortlich.
  • Werteausrichtung: KI sollte so konzipiert sein, dass sie sich an den Normen und Werten Ihrer Nutzergruppe orientiert.
  • Erklärbarkeit: KI sollte so konzipiert sein, dass der Mensch ihren Entscheidungsprozess nachvollziehen kann.
  • Fairness: AI muss so konzipiert sein, dass Vorurteile (Bias) minimiert und Inklusion gefördert wird.
  • Rechte der Nutzerdaten: KI muss so konzipiert sein, dass sie die Daten der Nutzer schützt und diese die Verfügungsgewalt über Datenzugang und -Nutzung bewahrt.

Zukunft von ethischen KI-Systemen

Die Kriterien und Metriken für ethische KI-Systeme werden letztlich von der Branche und dem Anwendungsfall abhängen, in dem sie eingesetzt werden. Doch können KI-Designer und -Entwickler dazu beitragen, Vorurteile und Diskriminierung zu vermindern, indem sie diese fünf Bereiche ethischer Überlegungen berücksichtigen.

KI-Systeme müssen so flexibel bleiben, dass sie ständig gewartet und verbessert werden können, wenn ethische Probleme entdeckt und behoben werden. Diverse Dashboards oder Toolkits, die für die Entwicklung zur Verfügung stehen, können den Prozess unterstützen. Wie beispielweise „AI Fairness 360“, ein Open-Source-Toolkit, das helfen kann, Diskriminierung und Vorurteile in KI-Modellen zu untersuchen, zu melden und abzuschwächen. Oder das Open-Source-Toolkit „AI Explainability 360“, dass bei der Erklärbarkeit von KI-Algorithmen helfen kann.

Zusammenfassung

Die ethische Entscheidungsfindung ist nicht nur eine weitere Form der technischen Problemlösung, sondern muss von Anfang an in den Design- und Entwicklungsprozess der KI eingebettet sein. Eine ethische, auf den Menschen ausgerichtete KI muss so konzipiert und entwickelt werden, dass sie mit den Werten und ethischen Grundsätzen der Gesellschaft oder Gemeinschaft, die sie betrifft, in Einklang steht.

Für Unternehmen, die KI einsetzen, muss dies oberste Priorität haben. Es muss sichergestellt werden, dass jeder Mitarbeiter die Risiken versteht und sich für den Erfolg von KI im Unternehmen verantwortlich fühlt.

Britta Daffner ist seit über einem Jahrzehnt in der Technologie- und Daten-Industrie zu Hause. Ihr Credo: Innovation und Digitalisierung von Unternehmen vorantreiben – durch Technologie und moderne Führung. Dafür befähigt sie als Practice Leader Data & Technology Transformation in IBM Firmen dabei, das volle Potential aus Daten zu nutzen und unterstützt als Coach Macher*innen, die in der Konzern- und Wirtschaftswelt etwas verändern wollen. 2021 erschien zudem ihr Buch „Die Disruptions-DNA“ (www.disruptionsdna.de), das dazu inspiriert, die Digitale Transformation aktiv mitzugestalten.

Die Kommentarfunktion ist geschlossen.

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More