Im folgenden Beitrag stellt Dr. Niina Zuber vom Bayerischen Forschungsinstitut für Digitale Transformation ethische Überlegungen dar, die auf der Ebene des Software-Ingenieurs angestellt werden können. Sie werden hierbei von solchen unterschieden, die in den weiteren Bereich der Unternehmensethik gehören. Der Umgang mit ethischen Problemen, die in den Verantwortungsbereich des Ingenieurs fallen, wird traditionell durch die Veröffentlichung von Ethik- und Verhaltenskodizes (CoC) geregelt.

Computing professionals’ actions change the world. To act responsibly, they should reflect upon the wider impacts of their work, consistently supporting the public good. The ACM Code of Ethics and Professional Conduct (“the Code”) expresses the conscience of the profession. The Code is designed to inspire and guide the ethical conduct of all computing professionals, including current and aspiring practitioners, instructors, students, influencers, and anyone who uses computing technology in an impactful way (Gotterbarn et al., 2018).

zitiert nach: “Ethics in the Software Development Process”: from Codes of Conduct to Ethical Deliberation Philosophy & Technology 34 1085–1108 (2021). Jan Gogoll, Niina Zuber, Severin Kacianka, Timo Greger, Alexander Pretschner & Julian Nida-Rümelin https://link.springer.com/article/10.1007/s13347-021-00451-w

Frau Zuber erläutert im Folgenden , dass diese Kodizes kaum in der Lage sind, eine normative Orientierung für die ethische Entscheidungsfindung (EDM) in der Softwareentwicklung zu bieten. Frau Zubers Zusammenfassung bezieht sich auf die folgende, in Co-Autorenschaft verfasste Publikation:

“Ethics in the Software Development Process”: from Codes of Conduct to Ethical Deliberation Philosophy & Technology 34 1085–1108 (2021). Jan Gogoll, Niina Zuber, Severin Kacianka, Timo Greger, Alexander Pretschner & Julian Nida-Rümelin https://link.springer.com/article/10.1007/s13347-021-00451-w

Einleitung

Von Softwareentwicklern (SD), Designern und Entscheidungsträgern wird immer mehr erwartet, dass sie bei der Entwicklung digitaler Produkte ethische Werte berücksichtigen und normative Bewertungen vornehmen.

Obwohl es unangemessen und kurzsichtig erscheint, die Verantwortung vollständig auf die Entwickler abzuwälzen, sehen sich Softwareunternehmen aus zwei Gründen veranlasst, sich mit diesen Fragen zu befassen und eine ethisch fundierte Entwicklung zu fördern: Erstens drohen den Unternehmen Rückschläge durch unethische Software, sowohl in rechtlicher Hinsicht als auch in Bezug auf ihren Ruf. Zweitens haben die Unternehmen und ihre Mitarbeiter eine intrinsische Motivation, bessere und ethisch einwandfreie Software zu entwickeln, weil es das Richtige ist.

Der folgende Beitrag auf Doing Geo & Ethics zeigt am Beispiel von Smart-City-Infrastrukturen die komplexen Zusammenhänge auf zwischen Bereichen der Unternehmensethik und ethischer Fragen, die die Entwicklung von Soft- und Hardware betreffen:

Soziale und räumliche Ausprägungen eines „digital divide“ | „Smart Cities“ aus geographischer & politisch-ethischer Perspektive reflektieren

Plattformurbanismus – Modernisierungsversprechen technologieoptimistischer Stadtentwicklung In Ihrem Beitrag „Konturen eines Plattform-Urbanismus“ für das Open-Access-Journal „sub|urban“ analysieren Sybille Bauriedl & Henk Wiechers Entwicklungen, die durch internationale IT-Konzernen vorangetrieben werden, um die…

Der folgende externe Beitrag enthält zahlreiche Beispiele für Bereiche der Softwareentwicklung und -anwendung, in denen die Klärung ethischer Fragen von Bedeutung ist:

„Die Liste technischer Produkte, die auf Hard- und Software angewiesen sind, ist schier unendlich. Die meisten nutzen diese Geräte wie selbstverständlich und vertrauen darauf, dass die das tun, was von ihnen erwartet wird. Hard- und Software haben im Sinne der Menschen zu funktionieren – Nachteile für die Anwender dürfen nicht entstehen. Ein Arbeiten gegen die Anwender ist praktisch nicht vorstellbar. Dieser Vertrauensvorschuss der Menschen in die Technik ist sowohl kraftspendend als auch notwendig. Aber nur die wenigsten verstehen, was sich im Hintergrund tatsächlich abspielt oder erahnen die Komplexität, die technische Geräte mitunter geschickt verbergen.“

Djordje Atlialp (2021). Die Welt verbessern: Responsible Engineering – Ethik in der Softwareentwicklung. Heise.de.

Nicht jede ethische Herausforderung, mit der ein Softwareunternehmen konfrontiert ist, sollte auf der Ebene des Softwareentwicklers (oder des Entwicklungsteams) behandelt werden. Tatsächlich liegen viele mögliche ethische Fragen, z. B. die Frage, ob ein bestimmtes Software-Tool überhaupt entwickelt werden sollte, eher im weiteren Bereich der Unternehmensethik.

Wir nennen fünf Gründe, warum CoCs unzureichend sind, um Software-Ingenieure erfolgreich zu führen. Abschließend argumentieren wir, dass ein Ansatz, der auf ethischer Deliberation beruht, ein Weg sein kann, um SEs in die Lage zu versetzen, „ethisch einwandfreie“ Software zu entwickeln.

Die Verantwortung der ethischen Entscheidungsfindung in Softwareunternehmen

Es ist wichtig, den Bereich, den Umfang und die Grenzen ethischer Überlegungen zu definieren, die von Mitarbeitern durchgeführt werden können. Viele Probleme, die sich scheinbar aus der Software (und ihrer Entwicklung und Nutzung) ergeben, sind in Wirklichkeit das Ergebnis bestimmter Geschäftsmodelle und der zugrunde liegenden politischen, rechtlichen und kulturellen Bedingungen. Nachdem auf Managementebene eine geschäftliche Entscheidung getroffen wurde, die auch ethische Überlegungen einschließt, haben die Entwicklungsteams immer noch einen gewissen Spielraum bei der Entscheidung, wie das Produkt genau entwickelt werden soll. Wenn wir die Phase der Entwicklung erreichen, ist die Entscheidung für ein Produkt bereits gefallen, das Geschäftsmodell ist gewählt und die spezifischen Anforderungen sind umrissen. Alle verbleibenden ethischen Fragen müssen von den Vertriebsmitarbeitern geklärt werden. Natürlich gibt es Unterschiede zwischen den Unternehmen und der Unternehmenskultur, die wiederum Einfluss darauf haben, inwieweit die Unternehmensleitung einbezogen wird und inwieweit sie die ethische Entscheidungsfindung auf der Entwicklungsebene fördert. Dennoch hat der Entwickler in der Regel den größten Einfluss auf die Umsetzung ethischer Überlegungen in das Produkt, wenn es um die Implementierung der vorgegebenen Parameter in die Software geht. Die Vertriebsmitarbeiter sind in der Regel nicht speziell in Ethik ausgebildet und haben keine intensive Ausbildung/Erfahrung in diesem Bereich. Eine herausragende Methode, um das Missverhältnis zwischen der fehlenden ethischen Ausbildung und den Auswirkungen, die ein Produkt haben könnte, zu beheben, ist die Veröffentlichung von CoCs.

Christoph Heitz ist Professor an der ZHAW School of Engineering in Zürich – er beschäftigt sich u. a. mit ethischen Fragen der kommerziellen Datennutzung.

Ethik-/Verhaltenskodizes sollen Ingenieuren, die mit ethisch relevanten Fragen konfrontiert sind, eine Orientierungshilfe bieten und ihnen einen Überblick über wünschenswerte Werte und Grundsätze vermitteln. Es gibt weit über 100 verschiedene Beispiele (staatliche Stellen, Privatwirtschaft, NRO). CoCs konvergieren in einigen Kernwerten, unterscheiden sich aber gleichzeitig in der Betonung dieser Werte sowie in den jeweiligen Unterwerten. Die CoCs reichen von sehr abstrakten Grundwerten (wie Gerechtigkeit oder Menschenwürde) bis zu detaillierten Definitionen technischer Ansätze (Datendifferenzierung…). Staatliche CoCs unterstützen z.B. allgemeine und weitreichende moralische Imperative wie „KI-Software-Systeme müssen menschenzentriert sein“, während Unternehmen dazu neigen, Compliance-Fragen zu bevorzugen. Die meisten Verhaltenskodizes stimmen in Bezug auf zentrale Werte wie Datenschutz, Transparenz und Verantwortlichkeit überein. Doch sobald diese Abstraktionsebene durch anwendungsspezifische Details ergänzt werden muss, weichen die CoCs voneinander ab.

Wir identifizieren fünf Gründe, weshalb CoCs nicht ausreichen:

1. Das Problem der Unterbestimmtheit

Die in CoCs formulierten Werte nehmen die Rolle allgemeiner Aussagen ein, die für sich genommen keine praktische Orientierung bieten können.  Sie sind oft unterbestimmt, da sie keine klaren Anweisungen geben können, was in einem bestimmten Fall zu tun ist. Infolgedessen mangelt es den CoCs an praktischer Anwendbarkeit, da sie keine normative Orientierung für spezifische ethische Herausforderungen bieten. Dies gilt insbesondere dann, wenn Werte kollidieren (z.B. Privatsphäre vs. Transparenz).

2. Ethische Rosinenpickerei

Viele verschiedene Handlungen können mit dem Rückgriff auf verschiedene Werte desselben CoC gerechtfertigt werden (z. B. individuelle Privatsphäre vs. gesellschaftliches Wohlergehen). Der CoC wird dann zu einem One-Stop-Shop, der eine Reihe von ethischen Werten zur Auswahl bietet, je nachdem, welcher Grundsatz oder Wert in einer bestimmten Situation (willkürlich) als relevant erachtet wird.

3. Risiko der Indifferenz

CoCs sind unterbestimmt und bieten daher die Möglichkeit, dass ein bestimmter CoC zur Rechtfertigung unterschiedlicher und sogar widersprüchlicher Handlungen herangezogen werden kann. Daher besteht bei vielen CoC die Gefahr einer ethischen Gleichgültigkeit. Hinzu kommt, dass die meisten CoCs offensichtliche und unumstrittene Werte und Ziele nennen. Ihr allgemeiner Charakter hinterlässt beim Leser das Gefühl, dass sein Bauchgefühl und seine praktischen Zwänge den Ausschlag geben sollten, wenn es um Abwägungen geht.

4. Ex-post-Orientierung

Da die CoC jedoch unterbestimmte Werte vorgeben, haben sie wenig Einfluss auf den Entwicklungsprozess, da die Werte nicht prozessorientiert sind und nicht logisch die Mittel enthalten, mit denen sie erreicht werden können. Gerade dieser Charakter von Werten kann dazu führen, dass Werte oft erst im Nachhinein betrachtet und an Handlungen angepasst werden, ohne dass das Handeln danach ausgerichtet wird.

5. Die Sehnsucht nach dem Bauchgefühl

Die Unterbestimmtheit von Werten aufgrund ihres universellen Charakters macht es unmöglich, alle möglichen spezifischen Anwendungen des Wertes abzuleiten. Daher können Entwickler eine ziemlich willkürliche und improvisierte Wahl treffen, wenn es um die Werte geht, die sie einhalten wollen: Sie wählen den Wert, der gerade zur Hand ist oder – wie Ökonomen sagen würden – sich in der relevanten Menge des Ingenieurs befindet und der oft Handlungen rechtfertigt, die sie für richtig halten wollen (motivierte Argumentation).

In der Literatur klafft eine Lücke in der Frage, wie Software-Ingenieure dazu motiviert werden können, bei der Konzeption, Entwicklung und Pflege digitaler Artefakte Werte zu berücksichtigen. Theoretisch hat die Diskussion bereits gezeigt, welche Probleme bestehen. Praktische Lösungen sind jedoch rar gesät und schwer in Angriff zu nehmen. CoCs sind ein einfacher, aber unzureichender Ansatz. Eine proaktive und diskursive Ethik sind wichtig, zugleich muss diese in organisatorische Managementstrukturen eingebunden werden.

Hier muss noch mehr getan werden: Es müssen Methoden und Theorien gefunden werden, die alle Beteiligten in die Lage versetzen, sich für ethische Überlegungen einzusetzen – vor, während und nach der Entwicklung. 

Text: Niina Zuber (2022)

Bild: Css vector created by vectorjuice – www.freepik.com