Ich verwende XGboost , um eine Zielvariable mit zwei Klassen für Versicherungsansprüche vorherzusagen. Ich habe ein Modell (Training mit Kreuzvalidierung, Optimierung von Hyperparametern usw.), das ich auf einem anderen Datensatz ausführe.
Meine Frage ist :
Gibt es eine Möglichkeit zu wissen, warum ein bestimmter Anspruch auf eine Klasse betroffen ist, dh auf die Merkmale, die die vom Modell getroffene Auswahl erklären?
Der Zweck besteht darin, die von der Maschine getroffene Entscheidung gegenüber Dritten zu rechtfertigen.
Danke für deine Antwort.