簡(jiǎn)單的模型例如線性回歸，LR等模型非常易于解釋?zhuān)趯?shí)際應(yīng)用中的效果卻遠(yuǎn)遠(yuǎn)低于復(fù)雜的梯度提升樹(shù)模型以及神經(jīng)網(wǎng)絡(luò)等模型。

現(xiàn)在大部分互聯(lián)網(wǎng)公司的建模都是基于梯度提升樹(shù)或者神經(jīng)網(wǎng)絡(luò)模型等復(fù)雜模型，遺憾的是，這些模型雖然效果好，但是我們卻較難對(duì)其進(jìn)行很好地解釋?zhuān)@也是目前一直困擾著大家的一個(gè)重要問(wèn)題，現(xiàn)在大家也越來(lái)越加關(guān)注模型的解釋性。

本文介紹一種解釋機(jī)器學(xué)習(xí)模型輸出的方法LIME。它可以認(rèn)為是SHARP的升級(jí)版，Github鏈接：https://github.com/marcotcr/lime，有所收獲多多支持

LIME

LIME（Local Interpretable Model-agnostic Explanations）支持的模型包括：

• 結(jié)構(gòu)化模型的解釋?zhuān)?/li>
• 文本分類(lèi)器的解釋?zhuān)?/li>
• 圖像分類(lèi)器的解釋?zhuān)?/li>

LIME被用作解釋機(jī)器學(xué)習(xí)模型的解釋?zhuān)ㄟ^(guò)LIME我們可以知道為什么模型會(huì)這樣進(jìn)行預(yù)測(cè)。

本文我們就重點(diǎn)觀測(cè)一下LIME是如何對(duì)預(yù)測(cè)結(jié)果進(jìn)行解釋的。

代 碼

此處我們使用winequality-white數(shù)據(jù)集，并且將quality<=5設(shè)置為0，其它的值轉(zhuǎn)變?yōu)?.

# !pip install lime
import pandas as pd
from xgboost import XGBClassifier
import shap
import numpy as np
from sklearn.model_selection import train_test_split

df = pd.read_csv('./data/winequality-white.csv',sep = ';')
df['quality'] = df['quality'].apply(lambda x: 0 if x <= 5 else 1)
df.head()

# 訓(xùn)練集測(cè)試集分割
X = df.drop('quality', axis=1)
y = df['quality'] 
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=1)
# 模型訓(xùn)練
model = XGBClassifier(n_estimators = 100, random_state=42)
model.fit(X_train, y_train)
score = model.score(X_test, y_test)
score

The use of label encoder in XGBClassifier is deprecated and will be removed in a future release. 0.832653061224489

對(duì)單個(gè)樣本進(jìn)行預(yù)測(cè)解釋

下面的圖中表明了單個(gè)樣本的預(yù)測(cè)值中各個(gè)特征的貢獻(xiàn)。

import lime
from lime import lime_tabular
explainer = lime_tabular.LimeTabularExplainer(
    training_data=np.array(X_train),
    feature_names=X_train.columns,
    class_names=['bad', 'good'],
    mode='classification'
)

模型有84%的置信度是壞的wine，而其中alcohol,totals ulfur dioxide是最重要的。

import lime
from lime import lime_tabular
explainer = lime_tabular.LimeTabularExplainer(
    training_data=np.array(X_train),
    feature_names=X_train.columns,
    class_names=['bad', 'good'],
    mode='classification'
)

模型有59%的置信度是壞的wine，而其中alcohol,chlorides, density, citric acid是最重要的預(yù)測(cè)參考因素。

exp = explainer.explain_instance(data_row=X_test.iloc[1], predict_fn=model.predict_proba)
exp.show_in_notebook(show_table=True)

適用問(wèn)題

LIME可以認(rèn)為是SHARP的升級(jí)版，它通過(guò)預(yù)測(cè)結(jié)果解釋機(jī)器學(xué)習(xí)模型很簡(jiǎn)單。它為我們提供了一個(gè)很好的方式來(lái)向非技術(shù)人員解釋地下發(fā)生了什么。您不必?fù)?dān)心數(shù)據(jù)可視化，因?yàn)長(zhǎng)IME庫(kù)會(huì)為您處理數(shù)據(jù)可視化。

參考鏈接

https://www.kaggle.com/piyushagni5/white-wine-quality
LIME: How to Interpret Machine Learning Models With Python
https://github.com/marcotcr/lime
https://mp.weixin.qq.com/s/47omhEeHqJdQTtciLIN2Hw

以上就是Github已達(dá)8.9Kstars的最佳模型解釋器LIME的詳細(xì)內(nèi)容，更多關(guān)于模型解釋器LIME的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！