Digitale Ethik – Teil 1
Können Sie sich vorstellen, das nächste Bewerbungsverfahren mit Hilfe eines algorithmischen Entscheidungssystems durchzuführen? Möchten Sie, dass Ihr Röntgenbild von einem KI-System ausgewertet wird?
Digitale Technologien und damit verbundene neue Geschäftsmodelle stellen uns vor komplexe ethische Herausforderungen. Insbesondere »Künstliche Intelligenz« (KI) ermöglicht es, durch Machine Learning (vor allem Deep Learning) und mit Hilfe von neuronalen Netzen selbstlernende Systeme zu entwickeln, die mit entsprechenden Daten trainiert, schließlich selbst relativ komplexe Aufgaben erledigen können. Daraus ergeben sich Branchen-übergreifend vielfältige neue Chancen: von der Sprach- und Bilderkennung bis hin zum autonomen Fahren.
In einer digitalen Wirtschaft ist Ethik Schlüssel für erfolgreiche und nachhaltige Innovation
Daten sind entscheidend für die Entwicklung von KI-Systemen. Ein ethischer Umgang mit ihnen beispielsweise im Hinblick auf den Schutz der Privatsphäre sind von grundlegender Bedeutung. Darüber hinaus stellen sich Fragen nach der Angemessenheit und der Qualität der gesammelten und verarbeiteten Daten. Auch die sichere Speicherung von Daten ist nicht zuletzt aufgrund aktueller Hacker-Angriffe ein zentrales Thema.
Zudem stellen sich durch den Einsatz von KI-Systemen Fragen nach Verantwortung, wenn Maschinen zunehmend selbst, d.h. ohne einen spezifischen menschlichen Eingriff, Entscheidungen treffen können. Letztlich müssen dabei auch der Wert menschlicher Autonomie und Selbstbestimmung und die Bedeutung spezifisch menschlicher Fähigkeiten bewertet werden.
Diese Bedeutung von Ethik für die Entwicklung neuer Technologien wie KI und Innovationen insgesamt wurde von einer Vielzahl unterschiedlicher Akteure erkannt.
- Führende Unternehmen wie Google, Microsoft, SAP oder Telekom entwickeln Leitlinien für den ethischen Umgang mit KI und definieren Prozesse für verantwortliche Innovationen.
- Verbände und Forschungsorganisationen organisieren Dialogprozesse, um gemeinsame Rahmenwerke und Prinzipien zu bestimmen (IEEE: Ethically Aligned Design; GI: Ethische Leitlinien; Future of Life Institute: Asilomar AI Principles; Partnership on AI)
- Die Politik stößt Initiativen an, wie die High-Level Expert Group on AI der Europäischen Kommission oder die AI4People-Initiative des Europäischen Parlaments. Auf nationaler Ebene hat die Bundesregierung nach der Ethik-Kommission zum automatisierten Fahren eine Datenethik-Kommission ins Leben gerufen, außerdem wurde eine Enquete-Kommission für Künstliche Intelligenz eingesetzt und das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) organisiert gemeinsam mit Unternehmen eine Plattform zu Corporate Digital Responsibility (CDR).
- Auch das Fraunhofer IAO beteiligt sich hier an unterschiedlichen Initiativen und ist u.a. Mitglied der Plattform Lernende Systeme und der Partnership on AI. Zudem ist Institutsleiter Prof. Dr. Wilhelm Bauer Mitglied der High-Level Expert Group on Artificial Intelligence der Europäischen Kommission. In der AG Ethik der D21 bringt sich das Fraunhofer IAO zudem in aktuelle Diskussionen zu Ethik in der Digitalisierung ein.
Übergreifendes Ziel dabei ist, Lösungen für ethische Herausforderungen zu entwickeln, so dass Vertrauen zwischen allen Akteuren des Innovationssystems, einer Wertschöpfungskette und zwischen Politik, Unternehmen sowie Nutzenden hergestellt werden kann. In einer digitalen Wirtschaft ist Vertrauen der Schlüssel für erfolgreiche und nachhaltige Innovation.
Chancen nutzen durch Partizipation und Kollaboration
Am Center for Responsible Research and Innovation (CeRRI) des Fraunhofer IAO entwickeln wir Prozesse und Methoden, wie die ethischen Dimensionen der Digitalisierung bei der Entwicklung neuer Technologien strategisch adressiert werden können. Der CeRRI-Ansatz für Responsible Innovation ermöglicht einen chancenorientierten Prozess verantwortlicher Innovationsgestaltung. Ziel ist es, Unternehmen zu befähigen, das Innovationspotenzial komplexer ethischer Herausforderungen nutzbar zu machen. Dafür sind aus unserer Sicht Partizipation und Kollaboration entscheidend: Durch die frühzeitige Einbindung von gesellschaftlichen Akteuren (von Nutzenden bis zivilgesellschaftlichen Organisationen) und die Kollaboration von diversen Akteuren können Bedarfe identifiziert und neue Perspektiven nutzbar gemacht werden. Um einen Dialog zu ermöglichen, greifen wir auf unterschiedliche Methoden aus dem Design, beispielsweise dem Participatory Design, zurück und entwickeln passgenaue Lösungen für verantwortliche Innovationen, beispielsweise im Rahmen eines Ethics Foresight.
Die strategische und gezielte Einbindung von Ethik über einen Ansatz von Responsible Innovation ermöglicht:
- die Innovationsfähigkeit zu erhöhen und neue Marktchancen zu identifizieren,
- die Akzeptanz und Kundenzufriedenheit neuer Technologien und Lösungen zu steigern,
- Risiko und Unsicherheit zu reduzieren,
- die Gewinnung von Fachkräften & High Potentials zu unterstützen und die Mitarbeitermotivation stärken.
Die Integration von Ethik in Innovationsprozesse ist entscheidend
Die Digitalisierung und neue technische Möglichkeiten durch Künstliche Intelligenz zeigen die enorme Bedeutung von Ethik. Aus unserer Sicht ist es dabei besonders wichtig, ethische Fragen bereits während der Technologieentwicklung zu adressieren. In diesem Sinn ermöglichen es verantwortliche Innovationsprozesse öffentliche Debatten nicht erst nachgelagert zu führen. Zudem kann die Entwicklung neuer Technologien dadurch neue Perspektiven und wichtige Innovationsimpulse entdecken. Dabei ist die Nutzbarmachung von ethischen Fragen für Innovation nicht gleichbedeutend mit einem »Greenwashing«. Vielmehr stecken gerade auch in der Identifikation von Konflikten und möglichen Trade-offs oftmals ungenutzte Innovationspotenziale. Und schließlich ist der Zeitpunkt entscheidend: Nur indem Ethik frühzeitig Teil des Innovationsprozesses wird, können Einfluss und Wirkung erreicht werden. Für uns ist daher gerade die Verschränkung von Ethik und Innovationsprozess eine zentrale Herausforderung unserer Zeit.
Wenn auch Sie erfahren möchten, wie Sie Ethik in den Innovationsprozess integrieren und Responsible Innovation als USP nutzen können, sprechen Sie uns an!
In einem folgenden Beitrag stellen wir Beispiele aus unterschiedlichen Branchen und KI-Anwendungsbereichen vor, die die weitreichenden Folgen und wichtige ethische Fragestellungen verdeutlichen.
Leselinks:
- EarthLab | Neue Innovationsplattform für Künstliche Intelligenz und Nachhaltigkeit (www.cerri.iao.fraunhofer.de/earthlab)
- Digitale Ethik – Teil 2: Warum KI verantwortungsvoll gestaltet werden muss
- Alle Blogbeiträge über das »Earthlab«
- Alle Blogbeiträge zum »Wissenschaftsjahr 2019: Künstlicher Intelligenz«
