Praxisprojekte
Studierenden-Podcasts aus dem Praxisprojekt „Vertrauen in KI“
Im Praxisprojekt (Psychologie) „Vertrauen in KI: Verstehen, Gestalten, Vermitteln“ (WiSe 2025/26) haben Studierende unter der Betreuung von Nur Efsan Cetinkaya, M.Sc. und Enis Ömer Dogru, M.Sc. eigene Podcast-Folgen zur Wissenschaftskommunikation rund um Künstliche Intelligenz konzipiert, recherchiert und produziert. Entstanden ist die Podcast-Reihe „KI oder Magie?“, in der aktuelle sozial- und medienpsychologische Forschung zu KI verständlich und zielgruppengerecht aufbereitet wird.
Drei Folgen sind bereits fertig produziert und können hier angehört werden:
von Arda Yenialtun und Benedikt Georg · ca. 14 Minuten Folge 1: Vertrauen und Verlässlichkeit gegenüber KI (Trust & Reliance)
Im Dialogformat geht diese Folge der Frage nach, ob und wie man Künstlicher Intelligenz vertrauen kann – Benedikt Georg übernimmt dabei im Gespräch mit Arda Yenialtun die Rolle des befragten Experten. Erklärt werden die affektive, normative und rationale Komponente von Vertrauen, die Gefahr von Über- oder Unternutzung von KI (Over-/Under-Reliance) und wie sich ein angemessenes, kalibriertes Vertrauen in KI-Systeme erreichen lässt.
Quellen:
– Küper, A. & Krämer, N. (2025). Psychological Traits and Appropriate Reliance: Factors Shaping Trust in AI. International Journal of Human–Computer Interaction, 41:7, 4115-4131. https://doi.org/10.1080/10447318.2024.2348216
– Blanco, S. (2025). Human trust in AI: a relationship beyond reliance. AI and Ethics. https://doi.org/10.1007/s43681-025-00690-z
– Blösser, M. & Weihrauch, A. (2023). A consumer perspective of AI certification – the current certification landscape, consumer approval and directions for future research. European Journal of Marketing, 58(2), 441–470. https://doi.org/10.1108/ejm-01-2023-0009
– Dogru, E. Ö., & Krämer, N. C. (2025). Investigating appropriate reliance on AI-Based decision support systems: the role of expertise, trust, and self-confidence. Journal of Decision Systems, 34(1). https://doi.org/10.1080/12460125.2025.2593251
– Euchner, J. (2023). Generative AI. Research-Technology Management, 66(3), 71–74. https://doi.org/10.1080/08956308.2023.2188861
– Gillath, O., Ai, T., Branicky, M., Keshmiri, S., Davison, R., & Spaulding, R. (2020). Attachment and Trust in Artificial Intelligence. Computers in Human Behavior, 115, 106607. https://doi.org/10.1016/j.chb.2020.106607
– Klingbeil, A., Grützner, C., & Schreck, P. (2024). Trust and Reliance on AI — an Experimental Study on the Extent and Costs of Overreliance on AI. Computers in Human Behavior, 160, 108352. https://doi.org/10.1016/j.chb.2024.108352
– Lee, J. D., & See, K. A. (2004). Trust in Automation: Designing for Appropriate Reliance. Human Factors, 46(1), 50–80. https://doi.org/10.1518/hfes.46.1.50_30392
– Ng, D. T. K., Leung, J. K. L., Chu, S. K. W. & Qiao, M. S. (2021). Conceptualizing AI literacy: An exploratory review. Computers and Education: Artificial Intelligence, 2, 100041. https://doi.org/10.1016/j.caeai.2021.100041
– Ryan, M. (2020). In AI We Trust: Ethics, Artificial Intelligence, and Reliability. Science and Engineering Ethics, 26(5). https://doi.org/10.1007/s11948-020-00228-y
– Wischnewski, M., Krämer, N. C., & Müller, E. (2023). Measuring and Understanding Trust Calibrations for Automated Systems: A Survey of the State-Of-The-Art and Future Directions. PsyArXiv (OSF Preprints). https://doi.org/10.1145/3544548.3581197
– Xu, F., Uszkoreit, H., Du, Y., Fan, W., Zhao, D. & Zhu, J. (2019). Explainable AI: A Brief Survey on History, Research Areas, Approaches and Challenges. In Lecture Notes in Computer Science, 563–574. https://doi.org/10.1007/978-3-030-32236-6_51
von Tina Graf und Marie Weiß · ca. 13 Minuten Folge 2: Explainable AI (XAI)
Im Dialogformat übernimmt Tina Graf die Rolle der befragten Expertin, während Marie Weiß mit kritischen Nachfragen durch das Gespräch führt. Viele KI-Systeme gelten als „Black Box“, da ihre Entscheidungen für Nutzer:innen schwer nachvollziehbar sind. Diese Folge beleuchtet, wie Explainable AI (XAI) Entscheidungen von KI-Systemen sichtbar und verständlich machen soll (etwa durch faktische, kontrafaktische oder visuelle Erklärungen) und wann verständliche Erklärungen Vertrauen tatsächlich sinnvoll kalibrieren, statt nur ein trügerisches Kompetenzsignal zu senden.
Quellen:
– Saranya, A., & Ramprasad, S. (2023). A systematic review of Explainable Artificial Intelligence models and applications: Recent developments and future trends. Decision Analytics Journal, 7, 100230. https://doi.org/10.1016/j.dajour.2023.100230
– Apple Inc. (2026). GarageBand (Version 10.4.11) [Computer-Software]. Apple Inc. https://www.apple.com/garageband/
– Ibrahim, L., Ghassemi, M. M., & Alhanai, T. (2023). Do explanations improve the quality of AI-assisted human decisions? An algorithm-in-the-loop analysis of factual & counterfactual explanations. Proceedings of the 2023 International Conference on Autonomous Agents and Multiagent Systems, 326–334.
– Ehsan, U., Liao, Q. V., Muller, M., Riedl, M. O., & Weisz, J. D. (2021). Expanding explainability: Towards social transparency in AI systems. Proceedings of the 2021 CHI Conference on Human Factors in Computing Systems, Article 82, 1–19. https://doi.org/10.1145/3411764.3445188
– Euchner, J. (2023). Generative AI. Research-Technology Management, 66(3), 71–74. https://doi.org/10.1080/08956308.2023.2188861
– Lee, M. H., & Chew, C. J. (2023). Understanding the Effect of Counterfactual Explanations on Trust and Reliance on AI for Human-AI Collaborative Clinical Decision Making. Proceedings of the ACM on Human-Computer Interaction, 7(CSCW2), Article 369. https://doi.org/10.1145/3610218
– Leichtmann, B., Humer, C., Hinterreiter, A., Streit, M., & Mara, M. (2023). Effects of Explainable Artificial Intelligence on trust and human behavior in a high-risk decision task. Computers in Human Behavior, 139, 107539. https://doi.org/10.1016/j.chb.2022.107539
– Rosenbacke, R., Melhus, Å., McKee, M., & Stuckler, D. (2024). How Explainable Artificial Intelligence Can Increase or Decrease Clinicians' Trust in AI Applications in Health Care: Systematic Review. JMIR AI, 3, e53207. https://doi.org/10.2196/53207
– Zerilli, J., Bhatt, U., & Weller, A. (2022). How transparency modulates trust in artificial intelligence. Patterns, 3(4), 100455. https://doi.org/10.1016/j.patter.2022.100455
von Anna, Mette und Nico · ca. 12 Minuten Folge 3: AI Literacy
Was macht „AI Literacy“ eigentlich aus, und warum ist sie im Umgang mit KI so entscheidend? Diese Folge stellt zentrale Kompetenzen vor – von der Entscheidungsfindung über das Einschätzen von Stärken und Schwächen bis hin zu ethischen Fragen – und zeigt, wie ein reflektierter, selbstbestimmter Umgang mit KI gelingen kann.
Quellen:
– Künstliche Intelligenz (KI) und maschinelles Lernen - Fraunhofer IKS. (2025). Fraunhofer-Institut für Kognitive Systeme IKS. https://www.iks.fraunhofer.de/de/themen/kuenstliche-intelligenz.html
– Long, D., & Magerko, B. (2020). What is AI literacy? Competencies and design considerations. Proceedings of the 2020 CHI Conference on Human Factors in Computing Systems, 1–16. https://doi.org/10.1145/3313831.3376727
– Huang, K., & Ball, C. (2024). The Influence of AI Literacy on User's Trust in AI in Practical Scenarios: A Digital Divide Pilot Study. Proceedings of the Association for Information Science and Technology, 61(1), 937–939. https://doi.org/10.1002/pra2.1146
– Kulal, A. (2025). Cognitive Risks of AI: Literacy, Trust, and Critical Thinking. Journal of Computer Information Systems, 1–13. https://doi.org/10.1080/08874417.2025.2582050
– leopoldpichler. (2025, August 12). Der Vertrauensbegriff in der interdisziplinären Forschung zur Mensch-KI-Interaktion | bidt DE. Bidt DE. https://www.bidt.digital/der-vertrauensbegriff-in-der-interdisziplinaeren-forschung-zu-mensch-ki-interaktion/
– Schiavo, G., Businaro, S., & Zancanaro, M. (2024). Comprehension, apprehension, and acceptance: Understanding the influence of literacy and anxiety on acceptance of artificial intelligence. Technology in Society, 77, 102537. https://doi.org/10.1016/j.techsoc.2024.102537
– Schlicker, N., Baum, K., Uhde, A., Sterz, S., Hirsch, M. C., & Langer, M. (2025). How do we assess the trustworthiness of AI? Introducing the trustworthiness assessment model (TrAM). Computers in Human Behavior, 170, 108671. https://doi.org/10.1016/j.chb.2025.108671
– Zhang, D., Wijaya, T. T., Wang, Y., Su, M., Li, X., & Damayanti, N. W. (2025). Exploring the relationship between AI literacy, AI trust, AI dependency, and 21st century skills in preservice mathematics teachers. Scientific Reports, 15(1), 14281. https://doi.org/10.1038/s41598-025-99127-0
– Tully, S. M., Longoni, C., & Appel, G. (2025). Lower Artificial Intelligence Literacy Predicts Greater AI Receptivity. Journal of Marketing, 89(5), 1–20. https://doi.org/10.1177/00222429251314491
– Wang, C., Wang, H., Li, Y., Dai, J., Gu, X., & Yu, T. (2025). Factors Influencing University Students' Behavioral Intention to Use Generative Artificial Intelligence: Integrating the Theory of Planned Behavior and AI Literacy. International Journal of Human-Computer Interaction, 41(11), 6649–6671. https://doi.org/10.1080/10447318.2024.2383033
Die Podcast-Reihe „KI oder Magie?“ ist im Rahmen des Praxisprojekts entstanden, in dem die Studierenden neben inhaltlicher Recherche zu KI auch Grundlagen der Wissenschaftskommunikation, Literaturrecherche und Podcast-Produktion erlernt haben. Eine vierte Folge zum Thema AI-Certifications & Seals war ursprünglich geplant, konnte aufgrund der begrenzten Teilnehmendenzahl im Semester jedoch nicht umgesetzt werden. Mit diesen drei Folgen ist die Reihe vorerst abgeschlossen; ob und wann es eine Fortsetzung geben wird, steht noch nicht fest.