非參數(shù)檢驗(yàn)是在總體方差未知或知道甚少的情況下，利用樣本數(shù)據(jù)對(duì)總體分布形態(tài)進(jìn)行推斷的方法。它利用數(shù)據(jù)的大小間的次序關(guān)系(秩Rank)，而不是具體數(shù)值信息，得出推斷結(jié)論。

它是參數(shù)檢驗(yàn)所需要的某些條件不滿(mǎn)足時(shí)所使用的方法。

和參數(shù)檢驗(yàn)相比，非參數(shù)檢驗(yàn)的優(yōu)勢(shì)如下：

穩(wěn)健性。對(duì)總體分布的條件要求放寬

對(duì)數(shù)據(jù)類(lèi)型要求不嚴(yán)格，適用有序分類(lèi)變量

適用范圍廣

劣勢(shì)：

沒(méi)有利用實(shí)際數(shù)值，損失了部分信息，檢驗(yàn)的有效性較差。

非參數(shù)性檢驗(yàn)的方法非常多，基于方法的檢驗(yàn)功效性角度，本文只涉及

雙獨(dú)立樣本：Mann-Whitney U檢驗(yàn)

雙配對(duì)樣本：Wilcoxon配對(duì)秩和檢驗(yàn)

多獨(dú)立樣本：Kruskal-Wallis檢驗(yàn)

多配對(duì)樣本：Friedman檢驗(yàn)

Mann-Whitney U檢驗(yàn)

曼-惠特尼U檢驗(yàn)(曼-惠特尼秩和檢驗(yàn))，是由H.B.Mann和D.R.Whitney于1947年提出的。它假設(shè)兩個(gè)樣本分別來(lái)自除了總體均值以外完全相同的兩個(gè)總體，目的是檢驗(yàn)這兩個(gè)總體的均值是否有顯著的差別。

適用條件

雙獨(dú)立樣本檢驗(yàn)

R語(yǔ)言示例

函數(shù)及格式：wilcox.test(y~x,data)

其中，y是連續(xù)變量，x是一個(gè)二分變量。

也可以使用這種形式：

wilcox.test(y1,y2)

其中，y1和y2為變量名。可選參數(shù)data的取值為一個(gè)包含這些變量的矩陣或數(shù)據(jù)框。

示例：

#載入MASS包
library(MASS)
#使用UScrime數(shù)據(jù)集
#Prob為監(jiān)禁率，So為是否南方地區(qū)
#檢驗(yàn)美國(guó)監(jiān)禁率是否存在南方和非南方差異
#wilcox.test檢驗(yàn)
wilcox.test(Prob~So,data = UScrime)
#結(jié)果
 Wilcoxon rank sum test

data:  Prob by So
W = 81, p-value = 8.488e-05
alternative hypothesis: true location shift is not equal to 0
#結(jié)果顯示P小于0.001,美國(guó)監(jiān)禁率存在南方和非南方地區(qū)差異。

Wilcoxon配對(duì)秩和檢驗(yàn)

Wilcoxon配對(duì)秩和檢驗(yàn)是對(duì)Sign符號(hào)檢驗(yàn)的改進(jìn)。它的假設(shè)被歸結(jié)為總體中位數(shù)是否為0。

適用條件

雙配對(duì)樣本檢驗(yàn)

R語(yǔ)言示例

Wilcoxon配對(duì)秩和檢驗(yàn)調(diào)用函數(shù)格式與Mann-Whitney U檢驗(yàn)相同。不同之處在于可以添加paired=TRUE參數(shù)。

示例：

#u1(14-24歲年齡段城市男性失業(yè)率)
#u2(35-39歲年齡段城市男性失業(yè)率)
#檢驗(yàn)失業(yè)率是否在兩個(gè)年齡段存在差異
#Wilcoxon配對(duì)秩和檢驗(yàn)
with(UScrime,wilcox.test(U1,U2,paired = TRUE))
#結(jié)果
 Wilcoxon signed rank test with continuity correction

data:  U1 and U2
V = 1128, p-value = 2.464e-09
alternative hypothesis: true location shift is not equal to 0
#結(jié)果顯示，存在差別。

Kruskal-Wallis檢驗(yàn)

由克羅斯考爾和瓦里斯1952年提出，用來(lái)解決多獨(dú)立樣本難以滿(mǎn)足方差分析條件(獨(dú)立性、正態(tài)性、方差齊性)時(shí)統(tǒng)計(jì)推斷問(wèn)題。

適用條件

多獨(dú)立樣本檢驗(yàn)

R語(yǔ)言示例

函數(shù)格式：

kruskal.test(y~A,data)

其中，y為連續(xù)變量，A為兩個(gè)或更多水平的分組變量。

示例：

#檢驗(yàn)美國(guó)四個(gè)地區(qū)文盲率是否存在差異
#數(shù)據(jù)皆來(lái)自R自帶數(shù)據(jù)集
#通過(guò)state.region數(shù)據(jù)集獲取地區(qū)名稱(chēng)，即分組變量。
states <- data.frame(state.region,state.x77)
#調(diào)用kruskal.test函數(shù)
kruskal.test(Illiteracy~state.region,data = states)
#結(jié)果
 Kruskal-Wallis rank sum test

data:  Illiteracy by state.region
Kruskal-Wallis chi-squared = 22.672, df = 3, p-value =
4.726e-05
#結(jié)果顯示，文盲率存在地區(qū)差異。

Friedman檢驗(yàn)

Friedman檢驗(yàn)也稱(chēng)弗里德曼雙向評(píng)秩方差分析。由Friedman在1937年提出，基本思想是獨(dú)立對(duì)每一個(gè)區(qū)組分別對(duì)數(shù)據(jù)進(jìn)行排秩，消除區(qū)組間的差異以檢驗(yàn)各種處理之間是否存在差異。

適用條件

多配對(duì)樣本檢驗(yàn)

Fiedman檢驗(yàn)在樣本量有限的情況下，實(shí)際應(yīng)用價(jià)值不大。

R語(yǔ)言示例

函數(shù)格式：

friedman.test(y~A|B,data)

其中，y為連續(xù)變量，A是一個(gè)分組變量，B是一個(gè)用以認(rèn)定匹配觀測(cè)的區(qū)組變量。

或者

friedman.test(data=matrix格式)

其中，data要求矩陣格式?？梢酝ㄟ^(guò)as.matrix轉(zhuǎn)換

示例：

(虛構(gòu))有30名女性分為三組每組10人，試吃三種藥。經(jīng)過(guò)一段時(shí)間后，藥效如下。問(wèn)三種藥藥效是否有區(qū)別。

藥1

4.4,5,5.8,4.6,4.9,4.8,6,5.9,4.3,5.1

藥2

6.2,5.2,5.5,5,4.4,5.4,5,6.4,5.8,6.2

藥3

7.0,6.2,5.9,6,4.6,6.4,5,6.4,5.8,6.2

#生成數(shù)據(jù)集
drug1 <- c(4.4,5,5.8,4.6,4.9,4.8,6,5.9,4.3,5.1)
drug2 <- c(6.2,5.2,5.5,5,4.4,5.4,5,6.4,5.8,6.2)
drug3 <- c(7.0,6.2,5.9,6,4.6,6.4,5,6.4,5.8,6.2)
#矩陣
data <- matrix(c(drug1,drug2,drug3),nrow = 10,dimnames = list(ID=1:10,c('drug1','drug2','drug3')))
#查看數(shù)據(jù)
data
    
ID   drug1 drug2 drug3
  1    4.4   6.2   7.0
  2    5.0   5.2   6.2
  3    5.8   5.5   5.9
  4    4.6   5.0   6.0
  5    4.9   4.4   4.6
  6    4.8   5.4   6.4
  7    6.0   5.0   5.0
  8    5.9   6.4   6.4
  9    4.3   5.8   5.8
  10   5.1   6.2   6.2
#調(diào)用friedman.test函數(shù)
friedman.test(data)

 Friedman rank sum test

data:  data
Friedman chi-squared = 6.8889, df = 2, p-value =
0.03192
#結(jié)果顯示，三種藥之間存在區(qū)別。

補(bǔ)充：R語(yǔ)言置換檢驗(yàn)

置換檢驗(yàn)

雙樣本均值檢驗(yàn)的時(shí)候，假設(shè)檢驗(yàn)的方法就是，檢查正態(tài)性、獨(dú)立性、方差齊性，分別對(duì)應(yīng)的參數(shù)非參數(shù)方法進(jìn)行假設(shè)檢驗(yàn)，但是，這些方法都要求樣本數(shù)必須有多少多少，但是，由于試驗(yàn)時(shí)，各種條件的限制，導(dǎo)致樣本量過(guò)小，此時(shí)以上方法幾乎都會(huì)失真，置換檢驗(yàn)就應(yīng)運(yùn)而生了。

Permutation test 置換檢驗(yàn)是Fisher于20世紀(jì)30年代提出的一種基于大量計(jì)算 （computationally intensive），利用樣本數(shù)據(jù)的全（或隨機(jī)）排列，進(jìn)行統(tǒng)計(jì)推斷的方法，因其對(duì)總體分布自由，應(yīng)用較為廣泛，特別適用于總體分布未知的小樣本資料，以及某些難以用常規(guī)方法分析資料的假設(shè)檢驗(yàn)問(wèn)題。在具體使用上它和Bootstrap Methods類(lèi)似，通過(guò)對(duì)樣本進(jìn)行順序上的置換，重新計(jì)算統(tǒng)計(jì)檢驗(yàn)量，構(gòu)造經(jīng)驗(yàn)分布，然后在此基礎(chǔ)上求出P-value進(jìn)行推斷。

置換檢驗(yàn)的操作方法：假設(shè)有兩組待檢數(shù)據(jù)，A組有m個(gè)數(shù)據(jù)，B組有n個(gè)數(shù)據(jù)，均值差為d0，現(xiàn)把所有數(shù)據(jù)放在一起進(jìn)行隨機(jī)抽取，抽出m個(gè)放入A組，剩下n個(gè)放入B組，計(jì)算A、B兩組的均值差記為d1，再放在一起進(jìn)行隨機(jī)重抽m、n兩組，得到均值差記為d2，重復(fù)這個(gè)步驟k次得到（d3……dk），于是d1……dk可以畫(huà)出一張正態(tài)圖，然后看d0落在什么方，若落在置信水平之外，即可以顯著說(shuō)明它們是有差異的。

R代碼如下：

a<-c(24,43,58,67,61,44,67,49,59,52,62,50,42,43,65,26,33,41,19,54,42,20,17,60,37,42,55,28)
group<-factor(c(rep("A",12),rep("B",16)))
data<-data.frame(group,a)
find.mean<-function(x){
    mean(x[group=="A",2])-mean(x[group=="B",2]) 
} 
results<-replicate(999,find.mean(data.frame(group,sample(data[,2])))) 
p.value<-length(results[results>mean(data[group=="A",2])-mean(data[group=="B",2])])/1000
hist(results,breaks=20,prob=TRUE)
lines(density(results))

coin包置換檢驗(yàn)

coin包介紹

coin包中的置換檢驗(yàn)有以下幾種：

注：在上表中，y和x是數(shù)值變量，A和B是分類(lèi)因子，C是類(lèi)別型區(qū)組變量，D和E是有序因子，y1和y2是相匹配的值變量

表中所有的函數(shù)使用方法都一樣：

functionName(formula,dataframe,distribution)，其中distribution指定經(jīng)驗(yàn)分布在零假設(shè)條件下的形式，可能值有exact，asymptotic和approximate，若distribution = "exact"，那么在零假設(shè)條件下，分布的計(jì)算是精確的（即依據(jù)所有可能的排列組合）。當(dāng)然，也可以根據(jù)它的漸進(jìn)分布（distribution = "asymptotic"）或蒙特卡洛重抽樣（distribution = "approxiamate(B = #)"）來(lái)做近似計(jì)算，其中#指所需重復(fù)的次數(shù)。distribution = "exact"當(dāng)前僅可用于兩樣本問(wèn)題。

原函數(shù)與置換檢驗(yàn)比較

coin包的介紹至此結(jié)束，當(dāng)然還有一個(gè)lbl_test()函數(shù)未列出，暫時(shí)還不曉得有什么用，以后再說(shuō)。

lmPerm包置換檢驗(yàn)

lmPerm包介紹　　

lmPerm包可以做非正態(tài)理論檢驗(yàn)，包含的函數(shù)為lmp()以及aovp()兩個(gè)，它們與lm()和aov()類(lèi)似，只是多了一個(gè)perm參數(shù)（perm=”Exact”,”P(pán)rob”,”SPR”)，參數(shù)值”Exact”根據(jù)所有可能的排列組合生成精確檢驗(yàn)，”P(pán)rob”從所有可能的排列中不斷抽樣，直至估計(jì)的標(biāo)準(zhǔn)差在估計(jì)的p值0.1之下，判停準(zhǔn)則由可選的Ca參數(shù)控制，SPR使用貫序概率比檢驗(yàn)來(lái)判斷何時(shí)停止抽樣。若觀測(cè)數(shù)大于10，perm=”Exact”會(huì)自動(dòng)轉(zhuǎn)化為perm=”P(pán)rob”，因?yàn)榫_檢驗(yàn)只適用于小樣本問(wèn)題。 　　

因?yàn)橹簧婕傲藘蓚€(gè)函數(shù)，這個(gè)包就不貼代碼和結(jié)果，僅說(shuō)明一下差異是什么，

回歸（簡(jiǎn)單、多項(xiàng)式、多元）　　

首先是lm與lmp，除了函數(shù)的用法多了個(gè)perm參數(shù)之外，所得結(jié)果模板（注意，是模板，而非結(jié)果，結(jié)果出現(xiàn)差異應(yīng)該去找數(shù)據(jù)的問(wèn)題，如兩者結(jié)果不一致，則需要重新審視數(shù)據(jù)的可靠性）存在差異： 　　

1）少了常數(shù)項(xiàng)，但可以通過(guò)各變量均值求得，注意，使用coefficients(fit)所得的常數(shù)項(xiàng)是錯(cuò)的！ 根據(jù)回歸線(xiàn)必過(guò)均值點(diǎn)的定義，可以使用各變量的均值來(lái)計(jì)算其常數(shù)項(xiàng)。如多元分析中的例子計(jì)算方式為：

mean(states$Murder)-sum(colMeans(states)[names(coefficients(fit)[c(-1)])]*(coefficients(fit)[c(-1)]))

2）回歸系數(shù)項(xiàng)中多了Iter一欄，它表示要達(dá)到判停準(zhǔn)則所需要的迭代次數(shù)。

方差分析　　

與回歸一致，所有使用aov分析的地方都可以使用aovp來(lái)代替，區(qū)別就是，aov用的是F統(tǒng)計(jì)量，而aovp使用的是置換法，Iter為判停準(zhǔn)則的迭代次數(shù)。 　　

需要注意的是，aovp使用的是唯一平方和方法，每種效應(yīng)根據(jù)其它效應(yīng)進(jìn)行調(diào)整，而aov使用的是序貫平方平法，每種效應(yīng)根據(jù)先出現(xiàn)的效應(yīng)進(jìn)行調(diào)整，這兩個(gè)方法在不平衡設(shè)計(jì)中所得結(jié)果不同，越不平衡的設(shè)計(jì)，差異越大?？梢栽赼ovp函數(shù)里加入?yún)?shù)seqs=TRUE可以生成序貫平方和的計(jì)算結(jié)果。 　　

點(diǎn)評(píng)　　

置換檢驗(yàn)真正發(fā)揮功用的地方是處理非正態(tài)數(shù)據(jù)（如分布偏倚很大）、存在離群點(diǎn)、樣本很小或無(wú)法做參數(shù)檢驗(yàn)等情況。不過(guò)，如果初始樣本對(duì)感興趣的總體情況代表性很差，即使是置換檢驗(yàn)也無(wú)法提高推斷效果。 　　

自助法　　

置換檢驗(yàn)主要用于生成檢驗(yàn)零假設(shè)的p值，它有助于回答“效應(yīng)是否存在”這樣的問(wèn)題。不過(guò)，置換方法對(duì)于獲取置信區(qū)間和估計(jì)測(cè)量精度是比較困難的。幸運(yùn)的是，這正是自助法大顯神通的地方。 　　

自助法的步驟： 　　

1. 一個(gè)樣本數(shù)為n的樣本，進(jìn)行m次有放回抽樣； 　　

2. 計(jì)算并記錄樣本統(tǒng)計(jì)量（比如均值、方差、甚至t檢驗(yàn)量等，可以一個(gè)，可以多個(gè)）； 　　

3. 重復(fù)1000到2000次，或者更多，并把它們從小到大進(jìn)行排序； 　　

4. 根據(jù)雙尾95%分位點(diǎn)，即2.5%和97.5%分位數(shù)，即為95%置信區(qū)間的下限和上限。

boot包　　

boot包可以進(jìn)行自助法抽檢，并生成相應(yīng)的置信區(qū)間。 　　

主要的步驟如下： 　　

1. 定義函數(shù)，返回一個(gè)統(tǒng)計(jì)值或一個(gè)向量（多個(gè)統(tǒng)計(jì)值），函數(shù)要包括indices參數(shù)，以便boot()函數(shù)用它從每個(gè)重復(fù)中選擇實(shí)例，主要是stype參數(shù)，默認(rèn)為i（索引值），還有f（頻率）和w（權(quán)重），indices可以簡(jiǎn)定為i； 　　

2. 用boot(data,sitisctic,R,……）函數(shù)生成一個(gè)bootobject。 　　

3. 使用boot.ci(bootobject,conf,type)生成置信區(qū)間，其中conf定義置信區(qū)間，type定義置信區(qū)間類(lèi)型（即計(jì)算方法），包含norm、basic、stud、perc、bca和all（其中norm為正態(tài)分布的置信區(qū)間計(jì)算方法，約兩個(gè)標(biāo)準(zhǔn)差距離，perc為上下分位數(shù)計(jì)算方法，stud為t分布計(jì)算方法），若返回值為向量，則利用index參數(shù)來(lái)指定某個(gè)變量的置信區(qū)間。 　　

4. 其它相關(guān)數(shù)據(jù)：比如bootobjectt為重復(fù)R次的統(tǒng)計(jì)量值（一個(gè)“R*統(tǒng)計(jì)量個(gè)數(shù)”的矩陣）

最后謹(jǐn)記：置換檢驗(yàn)和自助法并不是萬(wàn)能的，它們無(wú)法將爛數(shù)據(jù)轉(zhuǎn)化為好數(shù)據(jù)。當(dāng)初始樣本對(duì)于總體情況的代表性不佳，或者樣本量過(guò)小而無(wú)法準(zhǔn)確地反映總體情況，這些方法也是愛(ài)莫能助。

以上為個(gè)人經(jīng)驗(yàn)，希望能給大家一個(gè)參考，也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方，望不吝賜教。