利用Python畫ROC曲線和AUC值計(jì)算
前言
ROC(Receiver Operating Characteristic)曲線和AUC常被用來評(píng)價(jià)一個(gè)二值分類器(binary classifier)的優(yōu)劣。這篇文章將先簡單的介紹ROC和AUC,而后用實(shí)例演示如何python作出ROC曲線圖以及計(jì)算AUC。
AUC介紹
AUC(Area Under Curve)是機(jī)器學(xué)習(xí)二分類模型中非常常用的評(píng)估指標(biāo),相比于F1-Score對(duì)項(xiàng)目的不平衡有更大的容忍性,目前常見的機(jī)器學(xué)習(xí)庫中(比如scikit-learn)一般也都是集成該指標(biāo)的計(jì)算,但是有時(shí)候模型是單獨(dú)的或者自己編寫的,此時(shí)想要評(píng)估訓(xùn)練模型的好壞就得自己搞一個(gè)AUC計(jì)算模塊,本文在查詢資料時(shí)發(fā)現(xiàn)libsvm-tools有一個(gè)非常通俗易懂的auc計(jì)算,因此摳出來用作日后之用。
AUC計(jì)算
AUC的計(jì)算分為下面三個(gè)步驟:
1、計(jì)算數(shù)據(jù)的準(zhǔn)備,如果模型訓(xùn)練時(shí)只有訓(xùn)練集的話一般使用交叉驗(yàn)證的方式來計(jì)算,如果有評(píng)估集(evaluate)一般就可以直接計(jì)算了,數(shù)據(jù)的格式一般就是需要預(yù)測(cè)得分以及其目標(biāo)類別(注意是目標(biāo)類別,不是預(yù)測(cè)得到的類別)
2、根據(jù)閾值劃分得到橫(X:False Positive Rate)以及縱(Y:True Positive Rate)點(diǎn)
3、將坐標(biāo)點(diǎn)連成曲線之后計(jì)算其曲線下面積,就是AUC的值
直接上python代碼
#! -*- coding=utf-8 -*-
import pylab as pl
from math import log,exp,sqrt
evaluate_result="you file path"
db = [] #[score,nonclk,clk]
pos, neg = 0, 0
with open(evaluate_result,'r') as fs:
for line in fs:
nonclk,clk,score = line.strip().split('\t')
nonclk = int(nonclk)
clk = int(clk)
score = float(score)
db.append([score,nonclk,clk])
pos += clk
neg += nonclk
db = sorted(db, key=lambda x:x[0], reverse=True)
#計(jì)算ROC坐標(biāo)點(diǎn)
xy_arr = []
tp, fp = 0., 0.
for i in range(len(db)):
tp += db[i][2]
fp += db[i][1]
xy_arr.append([fp/neg,tp/pos])
#計(jì)算曲線下面積
auc = 0.
prev_x = 0
for x,y in xy_arr:
if x != prev_x:
auc += (x - prev_x) * y
prev_x = x
print "the auc is %s."%auc
x = [_v[0] for _v in xy_arr]
y = [_v[1] for _v in xy_arr]
pl.title("ROC curve of %s (AUC = %.4f)" % ('svm',auc))
pl.xlabel("False Positive Rate")
pl.ylabel("True Positive Rate")
pl.plot(x, y)# use pylab to plot x and y
pl.show()# show the plot on the screen
輸入的數(shù)據(jù)集可以參考svm預(yù)測(cè)結(jié)果
其格式為:
nonclk \t clk \t score
其中:
1、nonclick:未點(diǎn)擊的數(shù)據(jù),可以看做負(fù)樣本的數(shù)量
2、clk:點(diǎn)擊的數(shù)量,可以看做正樣本的數(shù)量
3、score:預(yù)測(cè)的分?jǐn)?shù),以該分?jǐn)?shù)為group進(jìn)行正負(fù)樣本的預(yù)統(tǒng)計(jì)可以減少AUC的計(jì)算量
運(yùn)行的結(jié)果為:

如果本機(jī)沒安裝pylab可以直接注釋依賴以及畫圖部分
注意
上面貼的代碼:
1、只能計(jì)算二分類的結(jié)果(至于二分類的標(biāo)簽隨便處理)
2、上面代碼中每個(gè)score都做了一次閾值,其實(shí)這樣效率是相當(dāng)?shù)偷?,可以?duì)樣本進(jìn)行采樣或者在計(jì)算橫軸坐標(biāo)時(shí)進(jìn)行等分計(jì)算
總結(jié)
以上就是這篇文章的全部內(nèi)容,希望本文的內(nèi)容能對(duì)大家的學(xué)習(xí)或者工作帶來一定的幫助,如果有疑問大家可以留言交流。
相關(guān)文章
Python利用Bokeh進(jìn)行數(shù)據(jù)可視化的教程分享
Bokeh是Python中的數(shù)據(jù)可視化庫,提供高性能的交互式圖表和繪圖。本文將利用Bokeh繪制一些可視化圖表,文中的示例代碼講解詳細(xì),感興趣的可以了解一下2022-08-08
Python?wxPython庫實(shí)現(xiàn)文本框與按鈕交互
在Python的圖形用戶界面(GUI)開發(fā)中,wxPython是一個(gè)功能強(qiáng)大的庫,本文主要為大家介紹了如何使用wxPython庫實(shí)現(xiàn)文本框與按鈕交互,需要的可以了解下2025-01-01
Python實(shí)現(xiàn)獲取磁盤剩余空間的2種方法
這篇文章主要介紹了Python實(shí)現(xiàn)獲取磁盤剩余空間的2種方法,結(jié)合具體實(shí)例形式分析了Python操作計(jì)算機(jī)硬件的相關(guān)實(shí)現(xiàn)技巧,需要的朋友可以參考下2017-06-06
如何在python中用os模塊實(shí)現(xiàn)批量移動(dòng)文件
在工作中難免會(huì)遇到需要批量整理文件的情況,當(dāng)需要從一堆文件中將部分文件批量地轉(zhuǎn)移時(shí),如果手工一一轉(zhuǎn)移難免浪費(fèi)時(shí)間,這篇文章主要給大家介紹了關(guān)于如何在python中用os模塊實(shí)現(xiàn)批量移動(dòng)文件的相關(guān)資料,需要的朋友可以參考下2022-05-05
pytorch 如何使用amp進(jìn)行混合精度訓(xùn)練
這篇文章主要介紹了pytorch 使用amp進(jìn)行混合精度訓(xùn)練的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2021-05-05
Python實(shí)現(xiàn)輕松防止屏幕截圖的技巧分享
屏幕截圖是一種常見的用于記錄信息或者監(jiān)控用戶活動(dòng)的方法,為了保護(hù)隱私和數(shù)據(jù)安全,可以通過使用Python編寫一些防護(hù)措施來防止他人截取我們的屏幕,下面我們就來學(xué)習(xí)一下有哪些具體操作吧2023-12-12

