Ein Roboter spricht mit einem Menschen
© limitless_visions - stock.adobe.com

KI-basierte Entscheidungen verstehen

Kein blindes Vertrauen

  • von Birgit Kremer
  • 09.05.2023

Können Unternehmen Künstlicher Intelligenz vertrauen? Forscher:innen am Softwaretechnik-Institut paluno der UDE haben KI-Systeme entwickelt, die bei Geschäftsprozessen unterstützen. Das Besondere: Neben genauen Prognosen und Vorschläge für Prozessanpassungen liefern die Systeme Erklärungen für ihre Ergebnisse.

In kürzester Zeit Zusammenhänge in großen Datenmengen erkennen, das macht Künstliche Intelligenz (KI) zu einem wertvollen Werkzeug bei der Entscheidungsfindung. Das gilt auch für die beiden KI-Systeme, die das Team um die UDE-Professoren Andreas Metzger und Klaus Pohl entwickelt hat: Das eine System erlaubt sehr genaue Vorhersagen und kann beispielsweise in der Logistik helfen, Verspätungen von Transportmitteln frühzeitig zu erkennen. Das zweite System empfiehlt, ob und wann ein laufender Prozess angepasst werden sollte. Wenn etwa Störungen im Bahnverkehr vorhergesagt werden, zeigt das System, wann es kostengünstiger ist, den Transport von den Schienen auf LKW umzudisponieren.

Doch die hohe Leistungsfähigkeit der KI hat ihren Preis: Das Wissen, das die Systeme durch maschinelles Lernen aufbauen, steckt tief in abertausenden Verknüpfungen eines neuronalen Netzes. Anwender:innen können kaum nachvollziehen, was die Systeme gelernt haben und ob die Verknüpfungen sinnvoll sind. „Den Vorhersagen und Empfehlungen von KI-Systemen sollte man daher nicht blind vertrauen“, sagt Prof. Metzger. „Wir forschen daran, wie sich die KI-Systeme so gestalten lassen, dass sie verständliche Erklärungen ihrer Ergebnisse liefern“.

Das paluno-Team hat dazu Techniken entwickelt, die einen Einblick in das interne Verhalten der KI-Systeme ermöglichen und dabei an Erkenntnisse über menschliche Erklär- und Verstehensprozesse anknüpft. Berücksichtigt wurde zum einen, dass sich Menschen für kontrafaktische Zusammenhänge interessieren. Die computergenerierten Erklärungen zeigen, welche anderen Eingaben in die KI zu einem anderen Ergebnis geführt hätten. Zum anderen sind die Erklärungen selektiv und erklären nur diejenigen Ereignisse im Lernprozess des KI-Systems, die ausschlaggebend für die Ergebnisse waren. Darüber hinaus arbeitet das Team aktuell an interaktiven Schnittstellen zwischen Mensch und KI-System. Konkret soll ein Chatbot ähnlich wie ChatGPT entwickelt werden, der Nutzer:innen die interne Funktionsweise der KI-Systeme erklärt.

Die UDE-Forschungsarbeiten, die mit insgesamt rund 800.000 Euro gefördert werden, starteten im kürzlich abgeschlossenen EU-Projekt DataPorts und werden im neuen EU-Projekt DYNABIC fortgeführt. Hier werden KI-basierte Lösungen entwickelt, um Betreibern kritischer Infrastrukturen eine Entscheidungsunterstützung für die proaktive Anpassung aufgrund von Cyber-Attacken zu liefern.

Weitere Informationen
https://paluno.uni-due.de/aktuelles/news-insights/artikel/kein-blindes-vertrauen-in-ki-basierte-entscheidungen

Prof. Dr. Andreas Metzger, Software Systems Engineering (SSE); Tel. 0201/183-4650, andreas.metzger@paluno.uni-due.de

Redaktion: Birgit Kremer, Tel. 0201/183-4655, birgit.kremer@paluno.uni-due.de

Zurück
-------------------------
Post-Views: 7306