1020690 20251128132017.0 Germany FullTexts I:(DE-82)735410_20230123 UNRESTRICTED VDB phd 2 EndNote Thesis PUB:(DE-HGF)11 PUB:(DE-HGF) Dissertation / PhD Thesis phd phd BibTeX PHDTHESIS DRIVER doctoralThesis DataCite Output Types/Dissertation ORCID DISSERTATION P:(DE-82)IDM01328 Isenhardt, Ingrid 1 Thesis advisor rwth P:(DE-82)IDM00463 Ziefle, Martina 2 Thesis advisor rwth RWTH-2025-09177 http://publications.rwth-aachen.de/record/1020690/files/1020690.pdf OpenAccess http://publications.rwth-aachen.de/record/1020690/files/1020690_source.doc Restricted http://publications.rwth-aachen.de/record/1020690/files/1020690_source.docx Restricted http://publications.rwth-aachen.de/record/1020690/files/1020690_source.odt Restricted Trotz der zunehmenden Zahl an Unterstützungssystemen mit künstlicher Intelligenz (KI) für den Privatgebrauch wurde KI-Transparenz lange Zeit vor allem aus technischer Perspektive erforscht. Studienergebnisse mit Endnutzenden zeigen jedoch, dass Systemtransparenz nicht automatisch zu Systemakzeptanz führt. Es stellt sich also die Frage, wie sich Transparenz von KI- Entscheidungsunterstützungssystemen auf die Nutzung dieser Systeme durch Endnutzende auswirkt. Im Rahmen der vorliegenden Dissertation wurde diese Forschungsfrage anhand von drei Studien mit einem Mixed Method-Ansatz untersucht. Die erste Studie, ein quantitatives Onlineexperiment mit n = 169 Teilnehmenden, analysierte, wie Akkuratheitsangaben die Nutzung eines Algorithmus nach einem Fehler beeinflussen. Die zweite Studie, qualitative Fokusgruppendiskussionen mit n = 26 Teilnehmenden, identifizierte Anforderungen an KI-Transparenz aus Sicht von Endnutzenden. Die dritte Studie, ein quantitatives Onlineexperiment mit n = 151 Teilnehmenden, verglich vier Transparenzarten hinsichtlich ihrer Wirkung auf Vertrauen und Nutzung der Algorithmen. Die Ergebnisse zeigen, dass technische Erklärungen allein nicht ausreichen, um das Vertrauen in KI-Systeme zu stärken oder deren Nutzung zu fördern. Mehr als Erklärungen, wie eine KI funktioniert, sind Hintergrundinformationen über Entwickler*innen, die Motive von hinter der KI stehenden Institutionen oder externe Prüfungen entscheidend für die Vertrauensbildung. Akkuratheitsangaben haben einen begrenzten positiven Effekt auf die Nutzung, während Erklärungen, warum ein einzelnes Ergebnis zustande kam, besonders bei Fehlern gewünscht werden. Die Anforderungen sind abhängig von den Eigenschaften eines Systems, insbesondere davon, wie schwerwiegend Fehler wären, und von den Vorerfahrungen der Nutzenden. Wichtiger als eine detaillierte Transparenz ist es, das Verständnis der Nutzenden der Transparenzmaßnahmen sicherzustellen und Verlässlichkeit der KI zu vermitteln. Die Arbeit betont die Bedeutung einer nutzendenzentrierten Entwicklung von KI-Transparenz, um der Individualität von Systemen und Nutzendengruppen gerecht zu werden. Neben weiteren Implikationen wurde eine Transparenzmatrix für Entwickler*innen ausgearbeitet, mit der sich die notwendigen Transparenzimplikationen auf Basis gegebener Systemeigenschaften identifizieren lassen. Auch für politische Entscheidungsträger*innen ergeben sich Implikationen zur Förderung der Transparenz in KI-Systemen. Darüber hinaus werden die Limitationen der Einzelstudien sowie der Gesamtarbeit diskutiert und weiterführende Fragen für zukünftige Forschung abgeleitet. ger Despite the increasing number of artificial intelligence (AI) systems for private usage, AI transparency has long been researched primarily from a technical perspective. However, study results with end users show that system transparency does not automatically lead to system acceptance. Therefore, the question arises of how transparency of AI decision support systems affects the use of these systems by end users. In this dissertation, this research question was investigated using three studies with a mixed-method approach. The first study, a quantitative online experiment with n = 169 participants, analyzed how accuracy information about an algorithm influences the use of this algorithm after an error. The second study, qualitative focus group discussions with n = 26 participants, identified requirements for AI transparency from the perspective of end users. The third study, a quantitative online experiment with n = 151 participants, compared four different types of transparency regarding their effect on trust and use of the respective algorithms. The results show that technical explanations alone are not sufficient to strengthen trust in AI systems or increase their usage. More than explanations of how an AI works, background information about developers, the motives of the institutions behind the AI or external audits help to build trust. Accuracy information has a limited positive effect on usage, while explanations about why a single result emerged are desirable when errors occur. The requirements towards AI transparency depend on the characteristics of the system, in particular how severe errors would be, and users' previous experience. More important than detailed transparency is ensuring that users understand the transparency measures and conveying the reliability of the AI-system. The work emphasizes the importance of a user-centered development of AI transparency due to the individuality of systems and user groups. In addition to further implications, a transparency matrix for developers was elaborated, which can be used to identify the necessary transparency implications based on given system characteristics. Implications also arise for political decision-makers to promote transparency in AI systems. In addition, limitations of the individual studies and the overall work are discussed and follow-up questions for further research are derived. eng AI usage Nutzeranforderungen Technologieakzeptanz Transparenz algorithm aversion artificial intelligence human centered AI künstliche Intelligenz menschzentrierte KI transparency trust user demands StatID:(DE-HGF)0510 StatID OpenAccess 2025 Dissertation, Rheinisch-Westfälische Technische Hochschule Aachen, 2025 Dissertation Rheinisch-Westfälische Technische Hochschule Aachen 2025 Fak07 2025-04-01 I:(DE-588b)36225-6 P:(DE-82)IDM03292 RWTH Aachen 0 RWTH I:(DE-588b)36225-6 P:(DE-82)IDM01328 RWTH Aachen 1 RWTH I:(DE-588b)36225-6 P:(DE-82)IDM00463 RWTH Aachen 2 RWTH Veröffentlicht auf dem Publikationsserver der RWTH Aachen University 1 Online-Ressource : Illustrationen 300 Dataset connected to Lobid/HBZ Künstliche Intelligenz erklären, verstehen, nutzen : Anforderungen an Transparenz und ihr Einfluss auf die Nutzung von KI-Entscheidungsunterstützungssystemen vorgelegt von Johanna Miriam Werz online HBZ HT031315345 Laufende Nummer 44769 datacite_doi 10.18154/RWTH-2025-09177 Aachen RWTH Aachen University 2025 P:(DE-82)IDM03292 Werz, Johanna Miriam 0 rwth German oai:publications.rwth-aachen.de:1020690 openaire open_access driver VDB ec_fundedresources dnbdelivery G:(EU-Grant)101069499 FAIRWork - Flexibilization of complex Ecosystems using Democratic AI based Decision Support and Recommendation Systems at Work (101069499) 101069499 HORIZON-CL4-2021-DIGITAL-EMERGING-01 0 G:(DE-82)EXS-SF-OPSF654 OPSF654 - Transparency in Artificial Intelligence: Considering Explainability, User and System Factors (TAIGERS) (EXS-SF-OPSF654) EXS-SF-OPSF654 1 G:(DE-82)EXS-SF Exploratory Research Space: Seed Fund (2) als Anschubfinanzierung zur Erforschung neuer interdisziplinärer Ideen (EXS-SF) EXS-SF 2 G:(DE-82)EXS Excellence Strategy (EXS) EXS-SF 3 Explaining, understanding, using artificial intelligence : requirements for transparency and its influence on the use of AI decision support systems English I:(DE-82)735410_20230123 735410 Lehrstuhl für Kommunikationswissenschaft 0