Im Rahmen des Teilprojekts "Ethik und Normativität der erklärbaren KI" des SFB/TRR 318 "Constructing Explainability" wurde in der ersten Förderperiode die weit verbreitete Annahme hinterfragt, dass Erklärungen für KI-Entscheidungen grundsätzlich wünschenswert seien. Das Projektteam aus Philosophie und Medienwissenschaften zeigte jedoch, dass es vielfältige normative Gründe für erklärbare KI (XAI) gibt und entwickelte dafür eine Taxonomie typischer Zwecksetzungen: funktionale, ökonomische, epistemische sowie ethisch-politische Zwecke. Zudem wurde deutlich, dass die Relevanz von Erklärungen stark vom jeweiligen Nutzungskontext abhängt und dass die bisher entwickelten XAI-Techniken dieser Vielfalt an Zwecken und Kontexten nicht gerecht werden.
Wenn die Kontextabhängigkeit von XAI berücksichtigt wird, verschiebt sich der Blick von der individuellen Erklärungssituation (Mikroebene) hin zu den diskursiven Praktiken innerhalb organisationaler Kontexte (Mesoebene). KI wird dabei nicht mehr isoliert als Mensch-Maschine-Interaktion betrachtet, sondern als soziotechnisches System, das in konkrete institutionelle Settings eingebettet wird – etwa in Kliniken, Bildungseinrichtungen oder bei der Polizei.
In der zweiten Projektphase werden anhand ausgewählter Szenarien aus den Bereichen Medizin, Bildung und Polizei die Relevanz von Erklärungen untersucht. Dazu wird die Methode des Value-Sensitive Designs (VSD), die bereits in Phase 1 kritisch weiterentwickelt wurde, um die Dimension organisationaler Kontexte erweitert. Das Ziel besteht darin, einen praxisbezogenen Ansatz zur Ethik von XAI zu entwickeln, der eine Organisationsebene miteinbezieht. Dieser Ansatz soll aufzeigen, wie organisationale Rahmenbedingungen epistemische und zivile Tugenden beeinflussen und welche normativen Implikationen sich aus der Einführung erklärbarer KI in solchen Kontexten ergeben.
