Künstliche Intelligenz erklären, verstehen, nutzen : Anforderungen an Transparenz und ihr Einfluss auf die Nutzung von KI-Entscheidungsunterstützungssystemen

Werz, Johanna Miriam; Isenhardt, Ingrid; Ziefle, Martina

doi:HT031315345

Künstliche Intelligenz erklären, verstehen, nutzen : Anforderungen an Transparenz und ihr Einfluss auf die Nutzung von KI-Entscheidungsunterstützungssystemen = Explaining, understanding, using artificial intelligence : requirements for transparency and its influence on the use of AI decision support systems

Werz, Johanna Miriam^RWTH*

2025

Verantwortlichkeitsangabevorgelegt von Johanna Miriam Werz

ImpressumAachen : RWTH Aachen University 2025

Umfang1 Online-Ressource : Illustrationen

Dissertation, Rheinisch-Westfälische Technische Hochschule Aachen, 2025

Veröffentlicht auf dem Publikationsserver der RWTH Aachen University

Genehmigende Fakultät
Fak07

Hauptberichter/Gutachter
Isenhardt, Ingrid (Thesis advisor)^RWTH* ; Ziefle, Martina (Thesis advisor)^RWTH*

Tag der mündlichen Prüfung/Habilitation
2025-04-01

Online
DOI: 10.18154/RWTH-2025-09177
URL: https://publications.rwth-aachen.de/record/1020690/files/1020690.pdf

Einrichtungen

Lehrstuhl für Kommunikationswissenschaft (735410)

Projekte

Inhaltliche Beschreibung (Schlagwörter)
AI usage (frei) ; Nutzeranforderungen (frei) ; Technologieakzeptanz (frei) ; Transparenz (frei) ; algorithm aversion (frei) ; artificial intelligence (frei) ; human centered AI (frei) ; künstliche Intelligenz (frei) ; menschzentrierte KI (frei) ; transparency (frei) ; trust (frei) ; user demands (frei)

Thematische Einordnung (Klassifikation)
DDC: 300

Kurzfassung
Trotz der zunehmenden Zahl an Unterstützungssystemen mit künstlicher Intelligenz (KI) für den Privatgebrauch wurde KI-Transparenz lange Zeit vor allem aus technischer Perspektive erforscht. Studienergebnisse mit Endnutzenden zeigen jedoch, dass Systemtransparenz nicht automatisch zu Systemakzeptanz führt. Es stellt sich also die Frage, wie sich Transparenz von KI- Entscheidungsunterstützungssystemen auf die Nutzung dieser Systeme durch Endnutzende auswirkt. Im Rahmen der vorliegenden Dissertation wurde diese Forschungsfrage anhand von drei Studien mit einem Mixed Method-Ansatz untersucht. Die erste Studie, ein quantitatives Onlineexperiment mit n = 169 Teilnehmenden, analysierte, wie Akkuratheitsangaben die Nutzung eines Algorithmus nach einem Fehler beeinflussen. Die zweite Studie, qualitative Fokusgruppendiskussionen mit n = 26 Teilnehmenden, identifizierte Anforderungen an KI-Transparenz aus Sicht von Endnutzenden. Die dritte Studie, ein quantitatives Onlineexperiment mit n = 151 Teilnehmenden, verglich vier Transparenzarten hinsichtlich ihrer Wirkung auf Vertrauen und Nutzung der Algorithmen. Die Ergebnisse zeigen, dass technische Erklärungen allein nicht ausreichen, um das Vertrauen in KI-Systeme zu stärken oder deren Nutzung zu fördern. Mehr als Erklärungen, wie eine KI funktioniert, sind Hintergrundinformationen über Entwickler*innen, die Motive von hinter der KI stehenden Institutionen oder externe Prüfungen entscheidend für die Vertrauensbildung. Akkuratheitsangaben haben einen begrenzten positiven Effekt auf die Nutzung, während Erklärungen, warum ein einzelnes Ergebnis zustande kam, besonders bei Fehlern gewünscht werden. Die Anforderungen sind abhängig von den Eigenschaften eines Systems, insbesondere davon, wie schwerwiegend Fehler wären, und von den Vorerfahrungen der Nutzenden. Wichtiger als eine detaillierte Transparenz ist es, das Verständnis der Nutzenden der Transparenzmaßnahmen sicherzustellen und Verlässlichkeit der KI zu vermitteln. Die Arbeit betont die Bedeutung einer nutzendenzentrierten Entwicklung von KI-Transparenz, um der Individualität von Systemen und Nutzendengruppen gerecht zu werden. Neben weiteren Implikationen wurde eine Transparenzmatrix für Entwickler*innen ausgearbeitet, mit der sich die notwendigen Transparenzimplikationen auf Basis gegebener Systemeigenschaften identifizieren lassen. Auch für politische Entscheidungsträger*innen ergeben sich Implikationen zur Förderung der Transparenz in KI-Systemen. Darüber hinaus werden die Limitationen der Einzelstudien sowie der Gesamtarbeit diskutiert und weiterführende Fragen für zukünftige Forschung abgeleitet.

Despite the increasing number of artificial intelligence (AI) systems for private usage, AI transparency has long been researched primarily from a technical perspective. However, study results with end users show that system transparency does not automatically lead to system acceptance. Therefore, the question arises of how transparency of AI decision support systems affects the use of these systems by end users. In this dissertation, this research question was investigated using three studies with a mixed-method approach. The first study, a quantitative online experiment with n = 169 participants, analyzed how accuracy information about an algorithm influences the use of this algorithm after an error. The second study, qualitative focus group discussions with n = 26 participants, identified requirements for AI transparency from the perspective of end users. The third study, a quantitative online experiment with n = 151 participants, compared four different types of transparency regarding their effect on trust and use of the respective algorithms. The results show that technical explanations alone are not sufficient to strengthen trust in AI systems or increase their usage. More than explanations of how an AI works, background information about developers, the motives of the institutions behind the AI or external audits help to build trust. Accuracy information has a limited positive effect on usage, while explanations about why a single result emerged are desirable when errors occur. The requirements towards AI transparency depend on the characteristics of the system, in particular how severe errors would be, and users' previous experience. More important than detailed transparency is ensuring that users understand the transparency measures and conveying the reliability of the AI-system. The work emphasizes the importance of a user-centered development of AI transparency due to the individuality of systems and user groups. In addition to further implications, a transparency matrix for developers was elaborated, which can be used to identify the necessary transparency implications based on given system characteristics. Implications also arise for political decision-makers to promote transparency in AI systems. In addition, limitations of the individual studies and the overall work are discussed and follow-up questions for further research are derived.

OpenAccess:
PDF
(zusätzliche Dateien)