Triple KI: Zu Risiken und Nebenwirkungen für den Menschen

Blogreihe Data Science
Blogreihe Data Science
Triple KI – Data Science durchgängig gedacht! Claudia Dukino und Damian Kutzias promovieren zu der Frage, wie datenbasierte Projekte erfolgreich zu anwendbaren KI-Lösungen umgesetzt werden können. In einer gemeinsamen Blogreihe bündelt das KI-Tandem seine Kompetenzen und Forschungsergebnisse und veranschaulicht, wie die Verzahnung von Prozessen, Tätigkeiten und Technologien von der Ideengenerierung bis hin zur Inbetriebnahme neuer Lösungen in Unternehmen Mehrwerte schaffen kann.

Lange Zeit wurde von den Medien die Angst geschürt, dass KI (Künstliche Intelligenz) über kurz oder lang unsere Arbeit übernehmen wird. Es ist eine Tatsache, dass durch die zunehmende Digitalisierung, Augmentierung und Automatisierung mittels KI einige Jobs ihre Daseinsberechtigung verlieren und durch Technik ersetzt werden können. Dies trifft beispielsweise in der Produktion zu, wenn es darum geht, schwere Tätigkeiten zu unterstützen oder Qualitätssicherung für Produkte zu übernehmen. Es gibt aber auch Beispiele, wo Mehrwerte durch KI entstehen, ohne gleich Jobs zu kosten: In den sachbearbeitenden Bereichen eines Unternehmens sind bspw. häufig Entlastungen bei den Routinen des täglichen Arbeitsaufkommens von den Mitarbeitenden gewünscht. Solche Unterstützungen sind an vielen Stellen notwendig, um dem hohen Aufkommen an Anfragen, Prüfungen von Unterlagen, Auswahlprozessen oder Anforderungen in Logistik und Online-Handel angemessen begegnen zu können. Niemand wartet gern und der Anspruch von außen ist oftmals eine umgehende Reaktion, z. B. auf eine Anfrage.

Obwohl immer wieder die Schreckensvision kursiert: Es zeichnet sich bisher nicht ab, dass KI die Menschen überflüssig macht. Natürlich bringt KI Änderungen in der Arbeitswelt mit sich: Einige Jobs entfallen und andere entstehen, doch das hat es auch in der Vergangenheit schon oft gegeben. Die spannende Frage ist also eher, wie Unternehmen mit dieser Änderung umgehen: Werden die Betroffenen auf die Straße gesetzt, oder neue Aufgaben für sie gesucht und gefunden? Gerade in Deutschland zeigt die Erfahrung, dass oft Letzteres der Fall ist!

Eine KI ist immer nur so gut wie die Datengrundlage dahinter

Ist KI nun also gar kein »Jobkiller« und völlig unkritisch oder liegen die Risiken vielleicht an anderer Stelle? Bei KI-basierten Systemen stellt sich oft die Frage, wie sichergestellt werden kann, dass die Anwendung die richtige Entscheidung trifft. Verzerrungen oder systematische Fehler können sich einschleichen, was durch einen sogenannten Bias bedingt sein kann, also den Effekt, durch unbewusste Vorurteile in den Daten Ergebnisse zu verfälschen. Beispiele für ethisch fragwürdige KI-Anwendungen gibt es einige, bspw. wenn es darum geht, Bewerber*innen für ein Vorstellungsgespräch vorauszuwählen. So gab es bereits »KI-Personaler«, die für IT-Jobs vornehmlich Männer vorgeschlagen haben, da diese in den historischen Daten stark überrepräsentiert waren und die KI das Geschlecht als einen wichtigen Indikator für eine gute Bewerbung angesehen hat. Bezeichnende Fälle für einen Bias gab es in der Vergangenheit auch schon häufig in der Bilderkennung, wie bei dem Versuch, Straftäter*innen mittels Videoüberwachung im öffentlichen Raum zu finden. So wurde ein unschuldiger Mann festgenommen, nur weil er die gleiche Hautfarbe und Statur wie ein gesuchter Straftäter hatte, aber ansonsten keine weiteren Ähnlichkeiten. Grund dafür war, dass in den Daten der KI vornehmlich weiße Personen genutzt wurden und somit nicht ausreichend Bildmaterial für eine andere Hautfarbe zur Verfügung standen, um diese gut zu erkennen.
Deshalb ist es wichtig, dass die Daten in ausreichend qualitätsgesicherter Menge vorliegen und auf den Anwendungsfall ausgerichtet sind. Gerade bei ethisch relevanten Anwendungen im Bereich des maschinellen Lernens ist der erste Grundsatz der Datenverarbeitung besonders relevant in Bezug auf Risiken: Garbage In-/Garbage Out – eine schlechte Qualität bei den Eingangsdaten, führt zu einer Verzerrung und somit zu Fehlern bei der Ausgabe bzw. der Entscheidung durch die Anwendung.
Zusammenfassend lässt sich sagen, dass KI-bedingte Risiken besonders während der Entwicklung und Auswahl von Daten vorkommen können. Außerdem lässt sich festhalten, dass die allgemeine Angst vor KI oftmals unbegründet ist. Für die Unternehmen stellt sich in Zukunft insbesondere die Frage, wie mit den Veränderungen bzgl. Jobs umgegangen wird und wie diese kommuniziert werden.
Dieser Beitrag ist Teil einer Blog-Reihe , in der wir (Damian Kutzias und Claudia Dukino aus dem Bereich Digital Business) uns in den kommenden Monaten mit den Herausforderungen datenbasierter Projekte beschäftigen und dazu Mensch, Technik und Organisation im Einklang betrachten werden.

Leselinks:

Claudia Dukino

Claudia Dukino

Claudia Dukino ist wissenschaftliche Mitarbeiterin am Fraunhofer IAO. Sie unterstützt Unternehmen dabei eigene KI-Anwendungsfelder zu erschließen und für sich nutzbar zu machen. Dabei liegt ihr Hauptaugenmerk auf den Menschen mit ihren Tätigkeiten und Prozessen ohne dabei die Technologie außen vor zu lassen.

Autorenprofil

Kommentar hinzufügen

Deine E-Mail-Adresse wird nicht veröffentlicht.