Universität Duisburg-Essen untersucht KI-basierte Entscheidungen: Kein blindes Vertrauen

Können Unternehmen Künstlicher Intelligenz vertrauen? Forscher am Softwaretechnik-Institut paluno der Universität Duisburg-Essen (UDE) haben KI-Systeme entwickelt, die bei Geschäftsprozessen unterstützen. Das Besondere: Neben genauen Prognosen und Vorschlägen für Prozessanpassungen liefern die Systeme Erklärungen für ihre Ergebnisse.

In kürzester Zeit Zusammenhänge in großen Datenmengen erkennen, das macht Künstliche Intelligenz (KI) zu einem wertvollen Werkzeug bei der Entscheidungsfindung. Das gilt auch für die beiden KI-Systeme, die das Team um die UDE-Professoren Andreas Metzger und Klaus Pohl entwickelt hat: Das eine System erlaubt sehr genaue Vorhersagen und kann beispielsweise in der Logistik helfen, Verspätungen von Transportmitteln frühzeitig zu erkennen. Das zweite System empfiehlt, ob und wann ein laufender Prozess angepasst werden sollte. Wenn etwa Störungen im Bahnverkehr vorhergesagt werden, zeigt das System, wann es kostengünstiger ist, den Transport von den Schienen auf LKW umzudisponieren.

Doch die hohe Leistungsfähigkeit der KI hat ihren Preis: Das Wissen, das die Systeme durch maschinelles Lernen aufbauen, steckt tief in abertausenden Verknüpfungen eines neuronalen Netzes. Anwender können kaum nachvollziehen, was die Systeme gelernt haben und ob die Verknüpfungen sinnvoll sind. „Den Vorhersagen und Empfehlungen von KI-Systemen sollte man daher nicht blind vertrauen“, sagt Prof. Metzger. „Wir forschen deshalb daran, wie sich die KI-Systeme so gestalten lassen, dass sie verständliche Erklärungen ihrer Ergebnisse liefern.“

Das paluno-Team hat dazu Techniken entwickelt, die einen Einblick in das interne Verhalten der KI-Systeme ermöglichen und dabei an Erkenntnisse über menschliche Erklär- und Verstehensprozesse anknüpft. Berücksichtigt wurde zum einen, dass sich Menschen für kontrafaktische Zusammenhänge interessieren. Die computergenerierten Erklärungen zeigen, welche anderen Eingaben in die KI zu einem anderen Ergebnis geführt hätten. Zum anderen sind die Erklärungen selektiv und erklären nur diejenigen Ereignisse im Lernprozess des KI-Systems, die ausschlaggebend für die Ergebnisse waren. Darüber hinaus arbeitet das Team aktuell an interaktiven Schnittstellen zwischen Mensch und KI-System. Konkret soll ein Chatbot ähnlich wie ChatGPT entwickelt werden, der Nutzern die interne Funktionsweise der KI-Systeme erklärt.

Die UDE-Forschungsarbeiten, die mit insgesamt rund 800.000 Euro gefördert werden, starteten im kürzlich abgeschlossenen EU-Projekt DataPorts und werden im neuen EU-Projekt DYNABIC fortgeführt. Hier werden KI-basierte Lösungen entwickelt, um Betreibern kritischer Infrastrukturen eine Entscheidungsunterstützung für die proaktive Anpassung aufgrund von Cyber-Attacken zu liefern.

Weitere Informationen: https://paluno.uni-due.de/aktuelles/news-insights/artikel/kein-blindes-vertrauen-in-ki-basierte-entscheidungen

 
Universität Duisburg-Essen (UDE)
Die Universität Duisburg-Essen wurde am 1. Januar 2003 durch die Fusion der Gerhard-Mercator-Universität Duisburg und der Universität-Gesamthochschule Essen (beide 1972) gegründet. Sie gehört mit rund 40.000 Studenten aus 130 Nationen zu den – nach Studentenzahlen – zehn größten deutschen Universitäten. Sie verfügt über ein breites, international ausgerichtetes Fächerspektrum. Sie ist ein Zentrum der nanowissenschaftlichen und biomedizinischen Forschung sowie der Lehrerausbildung in NRW und bietet mehr als 240 Bachelor- und Masterstudiengänge an. Nach dem Times Higher Education (THE) Ranking belegt die Universität Duisburg-Essen unter den Hochschulen 2020 den 194. Platz weltweit.
www.uni-due.de
Universität Duisburg-Essen (UDE)
Foto: Gerd Altmann / pixabay

 

  Künstliche Intelligenz, Universität Duisburg-Essen UDE