Sociotechnical practices of objectivation

An empirical examination of AI-based health apps for diagnosis (STePOn)

Laufzeit: Juni 2021 – Mai 2024

Kooperationsprojekt zwischen der Hochschule Emden/Leer und der Technischen Universität Braunschweig

gefördert im Programm "Die digitale Gesellschaft" des Niedersächsischen Ministeriums für Wissenschaft und Kultur/VolkswagenStiftung (Nds. Vorab)

Ausgangslage und Forschungsziel

Ein Ziel der Digitalisierung im Gesundheitswesen ist es, Patient*innen informierte und objektive Entscheidungen zu ermöglichen. Gesundheits-Apps, die immer mehr auf Künstlicher Intelligenz (KI) basieren, versprechen zugleich personalisierte und objektive Gesundheitsinformationen und werden manchmal sogar als bessere Ärzt*innen angesehen. Im Forschungsprojekt untersuchen wir anhand KI-basierter Apps, was Objektivität hier genau bedeutet. Wir erforschen empirisch, wie Gesundheitswissen, das als objektiv gilt, sowohl bei der Entwicklung als auch bei der Nutzung dieser Apps soziotechnisch erzeugt wird. Dabei arbeiten wir die Politiken der Klassifizierung (Star & Bowker) als Voraussetzung für die digitale Objektivierung gesundheitsbezogener Entscheidungen heraus.

Theoretische Perspektive

Wie die Wissenschaftsgeschichte und die (feministischen) Science and Technology Studies (STS) gezeigt haben, ist Objektivität keine a-historische Konstante, sondern wird durch die Wechselwirkung von sozialen Praktiken und technischen Artefakten hergestellt (Daston). Auch praxeologische Studien werfen die Frage auf, inwieweit KI-gestützte Entscheidungsfindung objektiv ist und was unter Objektivität verstanden wird. Im Forschungsprojekt fragen wir aus STS-Perspektiven, wie Praktiken der Klassifizierung zur Objektivität beitragen, und danach, welche Gruppen, Kenntnisse und Praktiken dabei ein- und ausgeschlossen werden.

Ausgangsthese/Forschungsstand

Gegenstand unserer Forschung ist die Herstellung und Nutzung von Gesundheits-Apps, die diagnostische und prognostische Elemente beinhalten. Unsere Ausgangsthese ist, dass (u.a. statistische und medizinische) Klassifikation eine zentrale Praktik im digitalisierten Gesundheitswesen darstellt, die das Soziale und das Technische miteinander verbindet. Auf Grundlage eines ethnographischen Ansatzes und theoretischer Konzepte der Akteur-Netzwerk-Theorie werden wir sowohl Nutzer*innen als auch Entwickler*innen teilnehmend beobachten und interviewen.

Forschungsfragen

Auf Seiten der Entwickler*innen erforschen wir folgende Fragen:

• Wie werden medizinische Klassifikationen in technische Infrastrukturen übersetzt und schließlich von Nutzer*innen gedeutet?
• Welche Entwicklungspraktiken bringen die App hervor?
• Welche Kategorien werden dabei gebildet, welche Wissensformen und potenziellen Nutzer*innen(-gruppen) werden berücksichtigt?

Auf Seiten der Nutzer*innen erforschen wir folgende Fragen:

• Wie verstehen sie die Ergebnisse der Apps und welche Bedeutung geben sie diesen?
• Inwiefern schreiben sie ihnen Objektivität und epistemische Autorität zu?
• Welche Gesundheits- und Wissenspraktiken gehen mit der Nutzung der App einher?

Forschungsbeitrag

Die erwarteten wissenschaftlichen Ergebnisse werden den öffentlichen Diskurs über Voreingenommenheit, Verzerrung („Bias“) und Objektivität in Bezug auf automatisierte bzw. KI-gestützte Entscheidungsfindung im Gesundheitswesen und ihre sozialen Auswirkungen auf Körperwahrnehmung und Gesundheitsverständnis bereichern.

Ansprechpartner*innen für den Braunschweiger Teil des Forschungsprojekts:  c.bath(at)tu-braunschweig.de, jannis.steinke(at)tu-braunschweig.de