Schmuckbild
© fabioderby - stock.adobe.com

Interaktion mit KI-Systemen

Wenn Alexa zur Familie gehört

  • von Ulrike Bohnsack
  • 16.02.2023

Siri, Alexa und Co. sind beliebt. Vor allem Familien nutzen KI-basierte Sprachassistenten, um den trubeligen Alltag zu organisieren. Kinder lernen leicht, damit umzugehen. Welche Folgen diese Systeme auf unser Kommunikationsverhalten und unsere Beziehungen haben, hat ein Forschungsverbund unter der Leitung von Sozialpsychologin Prof. Dr. Nicole Krämer (UDE) im Projekt IMPACT* untersucht. Es wurde über vier Jahren von der VolkswagenStiftung mit 1,5 Mio. Euro gefördert. Am 6./7. März stellen die Wissenschaftler:innen ihre Ergebnisse bei der Abschlusstagung in Berlin vor.

Die Fachleute aus den Bereichen Recht, Ethik, Informatik und Sozialpsychologie haben Szenarien aus dem Alltag verschiedener Altersgruppen – Kinder, junge Erwachsene, Senior:innen – untersucht. Sie wollten herausfinden, was die Nutzer:innen über die Technik hinter den intelligenten Systemen wissen, wie sie diese selbstbestimmt nutzen können und ob Gesetze geändert werden müssen. Auch das waren Fragen: Verändert sich auf Dauer die eigene Kommunikation, wenn ich mit einer Maschine spreche? Wird der Sprachassistent als eine Art neues Familienmitglied gesehen?

Die Forschenden stellen ihre Antworten bei der Konferenz vor. Ein Punkt: die Transparenz. In welchem Ausmaß Alexa und Co. nämlich Daten sammeln, ist vielen Menschen nicht bewusst. „Weder die Eltern noch die Kinder verstehen die Technologien ausreichend, um eine tatsächlich „informierte Einwilligung“ geben zu können. Sie geben ihr Okay im guten Glauben“, so Krämer. Viele Kinder wissen schon mit den Geräten umzugehen, bevor sie schreiben und lesen können. Aber: „Sie vermenschlichen den Sprachassistenten, erzählen ihm leichtfertig Geheimnisse und denken zum Beispiel, Alexa habe ihr Wissen aus der Alexa-Schule.” Auch aus ethischer Perspektive sei dies problematisch: „Nutzende sollten sich jederzeit darüber im Klaren sein, dass sie mit einer Maschine und nicht mit einem Menschen sprechen.

Es gibt auch Möglichkeiten, problematisches Verhalten gegenüber interaktiven KI-Systemen einzudämmen. „Wir konnten feststellen, dass Erklärungen auch komplex sein dürfen, wenn es hilft nachzuvollziehen, wie die digitalen Helfer funktionieren“, so Krämer. Man dürfe die Fähigkeiten von Laien im Umgang mit Technologie auch nicht unterschätzen. Zur Überraschung der Forschenden war gerade bei der kompliziertesten Erklärung das Verständnis am höchsten.

* IMPACT steht für „Implications of conversing with intelligent machines in everyday life for people´s beliefs about algorithms, their communication behavior and their relationship building“. Neben der UDE waren die Universitäten Bielefeld und Kassel sowie die Evangelische Hochschule Nürnberg beteiligt.

Weitere Informationen:
https://www.impact-projekt.de/#conference

Redaktion: Ulrike Bohnsack, Tel. 0203/37 9-2429, ulrike.bohnsack@uni-due.de

Zurück