Die Zusammenarbeit zwischen KI-Systemen und Ärzten kann mit negativen Konsequenzen verbunden sein, wenn Ärzte sich zu sehr an den Vorschlägen von KI Systeme orientieren, anstatt diese zu überprüfen. Dies wird als Automation Bias bezeichnet.
Im Rahmen des Projektes wird eine Leichtgläubigkeitsanalyse durchgeführt, um zu untersuchen, inwieweit sich sowohl unerfahrene als auch erfahrene Radiologen auf die Vorhersagen neuronaler Netzwerke verlassen. Klinische Metriken und Unsicherheitsschätzungen werden während des gesamten Prozesses überwacht und Radiologen als zusätzliche Informationen vermittelt.