Das Projektteam möchte die sozialen, ethischen und rechtlichen Dimensionen zweier neuartiger KI-basierter Technologien untersuchen, einen praktischen Werkzeugkasten für zukünftige interdisziplinäre KI-Innovationen entwickeln und diese Werkzeuge und Empfehlungen experimentell durch interdisziplinäre Co-Creation und Arbeitsplatzintegration von verkörperten KI-Anwendungen testen.
Projektbeschreibung
Die Integration von verkörperter Künstlicher Intelligenz (KI) kann für das Gesundheitswesen und die Gesellschaft im Allgemeinen in den nächsten Jahrzehnten große Vorteile bringen.
Allerdings werden Innovationen wie KI-Operationsroboter, KI-Prothetik, Pflege- oder irgendwann auch Mikro- und Nanoroboter mit einer Reihe ethischer, sozialer, politischer und rechtlicher Herausforderungen einhergehen, darunter bahnbrechende Veränderungen in den Arbeitskulturen und der Expertise von medizinischem Fachpersonal. Diese Herausforderungen, die sich aus der neuartigen Arbeitsteilung zwischen Mensch und Maschine ergeben, müssen proaktiv angegangen werden, wenn verkörperte KI erfolgreich und verantwortungsvoll implementiert werden soll.
Während übergreifende Prinzipien (wie die der European High-Level Expert Group on Artificial Intelligence) und Standards (wie die ISO) für persönliche Pflegeroboter entwickelt wurden, fehlen weitgehend konkrete und feinkörnige Rahmenbedingungen für die verantwortungsvolle Integration verkörperter KI-Produkte in die Praxis und Arbeitskultur des Gesundheitswesens. Es fehlt auch an Best-Practice-Modellen, die die interdisziplinäre Entwicklung von Mensch-Maschine-Anwendungen in der Biomedizin unter Berücksichtigung ethischer, sozialer und regulatorischer Fragen erleichtern könnten.
Dementsprechend zielt RR-AI darauf ab,
- die sozialen, ethischen und rechtlichen Dimensionen zweier neuartiger KI-basierter Technologien – eines Serviceroboters namens GARMI und der haptischen Telemedizin – empirisch zu untersuchen und zu sehen, wie sie in der Praxis des Gesundheitswesens entwickelt und implementiert werden;
- eine praktische Toolbox für zukünftige interdisziplinäre KI-Innovationen sowie konkrete Standards und Empfehlungen für eine verantwortungsvolle Integration von verkörperter KI in die Arbeitspraxis und Ausbildung im Gesundheitswesen zu entwickeln;
- diese Tools und Empfehlungen experimentell durch interdisziplinäre Co-Creation und Arbeitsplatzintegration von verkörperten KI-Anwendungen zu testen.
Das Projekt verfolgt somit einen innovativen „embedded“-Ansatz, bei dem ethische, soziale, rechtliche und politische Analysen integrale Bestandteile eines KI-Produktdesignprozesses sowie dessen Arbeitsplatzintegration darstellen. Die Projektergebnisse werden mit Stakeholdern diskutiert, in Pilotprojekten erprobt und weit verbreitet.