Wie trifft man eine ethisch richtige Entscheidung? Aufgrund des zunehmenden Einsatzes von Softwaresystemen in immer mehr gesellschaftlichen Bereichen kommt dieser Frage bei der Softwareentwicklung eine wachsende Bedeutung zu. Ethische Entscheidungen, die sich auch in Algorithmen abbilden, haben durch ihre Anwendung im Maschinellen Lernen oder in autonomen Systemen oft Auswirkungen auf sehr viele Menschen. Es ist daher wichtig, dass Entscheidungen, die das Design der Softwareanwendung bedingen, klar argumentiert und nachvollziehbar sind.
In diesem Papier stellt das bidt mit dem EDAP-Schema (Ethische Deliberation für agile Prozesse) ein Tool vor, das es agilen Teams erlaubt, die ethische Dimension ihrer Entwicklungsentscheidungen zu strukturieren, klar zu kommunizieren und schlüssig zu deliberieren. Dadurch können diese Entscheidungen von Dritten nachvollzogen und geprüft werden.
Das Wichtigste in Kürze
Derzeit ist es technisch unmöglich, Maschinen beziehungsweise Algorithmen so zu programmieren, dass sie selbstständig ethisch wünschenswerte Resultate berechnen. Nichtsdestotrotz werden Maschinen immer mehr Teil unserer Lebenswelt und tiefer in unsere Gesellschaft sowie unseren Alltag integriert werden. Aufgrund ihrer enormen Reichweite und ihres Einflusses auf menschliche Entscheidungen haben solche Systeme eine starke normative Kraft. Softwaresysteme lenken beabsichtigt oder unbeabsichtigt Entscheidungen, weshalb sowohl im Entwicklungsprozess als auch im Technologie-Einsatz auf ungewollte, aber auch gewollte Implikationen Rücksicht genommen werden sollte.
Aktuell werden diese Design-Entscheidungen oft willkürlich, das heißt meist intuitiv und assoziativ, durch das Zusammenspiel von Entwicklerinnen/ Entwicklern und Technologie getroffen. Sehr oft setzt sich dabei das zumeist implizite ethische Verständnis von Vorgesetzten oder rhetorisch starken Minderheiten durch. Es ist daher ausschlaggebend, diesem häufig unstrukturierten Vorgehen mit einem semistrukturierten, auf wissenschaftlichen Erkenntnissen beruhenden Prozess entgegenzuwirken, um normative Belange zu lokalisieren und – wenn und wo notwendig – zu diskutieren und zu berücksichtigen.
Das EDAP-Schema fügt sich nahtlos in bestehende Entwicklungsprozesse ein, unterstützt die ethische Deliberation nicht nur des Entwicklerteams, sondern des ganzen Unternehmens – und dies ohne wesentliche Mehrarbeit. Als solches leistet es einen Beitrag zur Debatte um ethische Systeme und bietet einen pragmatischen und praxistauglichen Ansatz, Systeme unter ethischen Gesichtspunkten zu entwickeln.
Ressourcen
Ansprechpartnerinnen
Weitere Beiträge
Ethischen Kodizes im Kontext der Softwareentwicklung mangelt es an praktischer Anwendbarkeit, da sie auftretende Wertekonflikte nicht lösen können. Unser EDAP-Ansatz schließt die Lücke zwischen Theorie und Praxis.
Der Philosoph Julian Nida-Rümelin und der Informatiker Alexander Pretschner forschen gemeinsam darüber, wie sich ethische Überlegungen bereits in die Entwicklung von Software integrieren lassen.