Есть хороший обзор современных подходов dyakonov.org/...​ерпретации-чёрных-ящиков

Добрый день! Сейчас есть ряд современных подходов, которые помогают интерпретировать различные модели, которые раньше казались black-box, в том числе и RandomForest. С их помощью мы можем рассмотреть и исследовать влиятельные признаки и показать каким именно образом они влияют на модель или прогноз