以往要使用R腳本(RScript)的時候，我都是將R腳本用RStudio開啟，再用RStudio執行。但這樣子執行挺麻煩的，也不太直覺。所以我用AutoIT開發了一個直接用指令端呼叫R腳本的exe程式：RScript Caller，方便供Windows使用。這樣我們在檔案總管中直接雙擊R腳本就可以執行R腳本的內容。以下我就來介紹一下怎麼取得RScript Caller、設定與使用吧。
(more...)繼如何從Google文件中的繪圖匯出高解析度的圖片之後，這篇要來講怎麽將Google試算表中的圖表輸出成SVG向量圖檔，以便轉換成高解析度的PNG圖片。雖然Google試算表的圖表可以輕易跟Google Docs結合，但很遺憾的是，它跟Google Docs中的繪圖一樣只能輸出72dpi的低解析度圖片，遠不及列印所需的高解析度300dpi，最後列印的時候將會看起來非常模糊。這篇將教你如何將Google試算表變成發佈網頁，然後再用我寫的書籤小工具Google-Spreadsheet-Chart-to-SVG將網頁上的圖表轉換成SVG並直接下載，這樣就可以取得圖表的SVG向量格式檔案了。
(more...)SVG可縮放向量圖形是向量圖片檔案中的一個常見標準。它具有向量圖片最大的優勢：不管圖片放到多大，字體和線條依然看起來非常清晰。許多工具都能繪製SVG圖檔，像是開放原始碼自由軟體Inkscape或Google Docs的繪圖(Drawing)，但很遺憾的是，我們現在常見的文書編輯工具(特別是Office)卻不能直接插入SVG檔案。因此，我們需要將SVG檔案轉換成高解析度的PNG圖檔，這樣才能將圖片順利插入到文件檔案中與其他文字共同排版，以便列印輸出。以下我們就用Inkscape這套專業的向量圖片編輯工具作為例子，教大家如何將SVG向量圖檔輸出成高解析度的PNG圖檔吧。
(more...)我現在常常會在Google Docs (Google文件)上編輯文件，不僅方便與其他人協同作業，Google Docs內建的一些功能也足夠讓我寫入想要的內容，包括繪圖功能(Drawing)。然而Google Docs中使用繪圖功能畫出來的圖片，通常在下載成其他格式的檔案、發佈到網頁上的時候會有問題，特別是繪圖功能儘管是向量圖片，但卻預設是以72dpi的低解析度來呈現圖片，因此列印繪圖功能繪製的圖片時，看起總是慘不忍睹。
若要從Google Docs的低解析度繪圖中取得高解析度的圖片，我們需要將繪圖另存成SVG，然後使用InkScape之類的SVG編輯器來匯出高解析度的圖片。以下我就將這個方法整理一下，希望對與Google Docs使用者有所幫助。
(more...)繼前一篇用的Kruskal–Wallis檢定跟Welch's anova來檢定多組非常態分佈資料之間是否有差異的無母數統計之後，這一篇則是用於常態分佈的多組資料之間差異檢定的有母數統計，也就是大家比較熟悉的ANOVA。雖然ANOVA也可以用SPSS來操作，不過這篇用R腳本來實作，不僅自動進行敘述統計、繪製直方圖與箱型圖，還會根據資料同質性檢定結果選擇使用ANOVA或Welch's ANOVA，操作起來更簡單喔。
(more...)很多時候我們研究的資料不一定符合常態分佈，例如車禍數量的趨勢符合泊松分佈(Poisson distribution)、產品的生命週期符合韋伯分佈(Weibull distribution)，甚至是健康、教育和社會科學中最常見的出現次數(frequency of appearance)這種研究資料都不是常態分佈(請見Bono等人在2017年的回顧文章)。
當要比較的多組資料為常態分佈時，我們可以用單因子變異數(one-way ANOVA)。但若多組資料並非常態分佈時，我們則要使用中位數的ANOVA：Kruskal–Wallis檢定以及事後比較Dunn檢定。而若各組資料之間變異數不同質時，則要用Welch's anova跟事後比較Games-Howell檢定。
為了方便使用，我將多組非常態分佈資料檢定的方法以R撰寫成一個腳本Non-Parametric Tests for Comparing Many Non-normal Distribution Groups.R供大家使用。以下將介紹如何使用這個腳本來進行多組非常態分佈的差異檢定。
在健康、教育和社會科學等領域的研究中所蒐集的資料，很多時候都是非常態分佈。Non-Normal Distributions in the Real World介紹了非常態分佈的常見資料，像是人類的行為模式，例如收到發貨單跟付款之間的差距天數，或是受到物理法則影響的資料，像是鍍鋅厚度的分佈。
How do I determine whether my data are normal?這篇講述了四種判斷資料是否為常態分佈的方法，摘要如下：
有時候資料可能會是常態分佈，但因為某些問題導致它看起來是非常態分佈。Statistics How To的Non Normal Distribution歸納了四個可能會讓資料呈現非常態分佈的理由：
若你的資料確實是非常態分佈，那麼你可能需要用這篇的方法來分析這些資料。
R腳本必須要在有R的環境下執行。我個人使用的是在Windows上執行的RStudio，版本是1.1.383。在安裝RStudio的時候會一同安裝R環境。我使用的R的版本是3.4，此外還會用到多個套件，套件的安裝全部寫在R的腳本裡。
此腳本主要改編自An R Companion for the Handbook of Biological Statistics的Kruskal–Wallis Test，後面加上的Welch's anova則是來自於同網站的One-way Anova，事後多重比較Games-Howell檢定則是來自於RPubs。
因為R的版本更新的非常頻繁，你閱讀這篇的時候安裝的不一定是跟我一樣的R 3.4版，可能會有版本差異的問題。若安裝套件時發生了版本不符合的問題，請看Ubuntu中舊版R安裝套件的方法。關於R的版本問題，請看我之前學習R的感想。
此腳本主要改編自An R Companion for the Handbook of Biological Statistics的Kruskal–Wallis Test，後面加上的Welch's anova則是來自於同網站的One-way Anova，事後多重比較Games-Howell檢定則是來自於RPubs。
至於Kruskal–Wallis檢定的理論基礎請見John H. McDonald所著的Kruskal–Wallis test，裡面介紹了Kruskal–Wallis檢定的適用時機以及與它與單因子變異數的差別，該篇也建議Kruskal–Wallis檢定應該只用在排序資料上，像是社會科學中權力階層的上下位關係或是發展階段先後順序。Welch's anova的理論基礎請見Jim Frost所著的Benefits of Welch’s ANOVA Compared to the Classic One-Way ANOVA。大部分時候Welch's anova都是被視為當ANOVA違反變異數同質性檢定時的替代方案，但它也可以在Kruskal–Wallis檢定違反變異數同質性檢定的時候使用。
| Group 1 | Group 2 | Group 3 |
|---|---|---|
| 1 | 10 | 19 |
| 2 | 11 | 20 |
| 3 | 12 | 21 |
| 4 | 13 | 22 |
| 5 | 14 | 23 |
| 6 | 15 | 24 |
| 7 | 16 | 25 |
| 8 | 17 | 26 |
| 9 | 18 | 27 |
| 46 | 37 | 28 |
| 47 | 58 | 65 |
| 48 | 59 | 66 |
| 49 | 60 | 67 |
| 50 | 61 | 68 |
| 51 | 62 | 69 |
| 52 | 63 | 70 |
| 53 | 64 | 71 |
| 342 | 193 | 72 |
(表格來源：Handbook of Biological Statistics)
以下我用John H. McDonald在介紹Kruskal–Wallis檢定的時候使用的資料作為例子，以此來示範如何使用R腳本Non-Parametric Tests for Comparing Many Non-normal Distribution Groups.R來進行Kruskal–Wallis檢定。
R腳本需要輸入的資料必須是CSV格式，以逗點(,)隔開欄位，而第一行必須是group跟 value ，group欄位擺放組別名稱，value欄位則是擺放數字資料。請務必依照這個格式來建立資料，這樣才能用在R腳本中。
請下載CSV格式，待會兒就來使用。
請在Non-Parametric Tests for Comparing Many Non-normal Distribution Groups.R檔案按右鍵，在右鍵選單中的「開啟檔案」點選RStudio。
接著RStudio會開啟並載入R腳本。我們在腳本的位置按熱鍵Ctrl + A全選腳本文字，然後按下上方的「Run」按鈕。
選擇剛剛下載的CSV檔案，然後按下「開啟」。
如果是第一次執行，R環境需要安裝大量的套件，大概會花個10分鐘左右，請耐心等候。第二次執行的時候，大概30秒內可以完成。最後看到左下角的Console有出現「Finish」就表示執行完成。
在CSV檔案的目錄底下會出現以CSV檔案為名、並加上日期時間與輸出資料後綴的統計結果檔案，包括：
以下我們以Kruskal–Wallis檢定結果檔案為主，其他兩個統計圖表為輔，來解說Kruskal–Wallis檢定結果吧。
在result.txt為後綴的檔案中記錄著分析的過程，以下我就各個段落進行解說：
### File:
C:\data\Kruskal–Wallis test example - data.csv記錄該結果是來自於那個檔案。
### Medians and descriptive statistics
group n mean sd min Q1 median Q3 max
1 A 18 43.5 77.77513 1 5.25 27.5 49.75 342
2 B 18 43.5 43.69446 10 14.25 27.5 60.75 193
3 C 18 43.5 23.16755 19 23.25 27.5 67.75 72敘述統計會列出各個組別的組別名稱(group)、個數(n)、平均數(mean)、標準差(sd)、最小值(min)、下四分位數(Q1)、中位數(median)、上四分位數(Q3)、最大值(max)。就像我在資料的中心與離度所強調的，在說明敘述統計的時候，最好搭配圖表一起看。
histogram.png是各組的直方圖，注意Y軸為所佔比例，而非資料的個數。從這邊可以看到A組跟B組各有一個異常值，導致這兩組的資料明顯呈現右偏。
boxplot.png是各組的箱型圖，我們可以看到三組的五數綜合比較。儘管三組的中位數都相同，但A組跟B組的離群值讓三組的資料分佈有所差異。關於箱型圖的閱讀方法，請看用R畫箱型圖。
### Normality test
Group: A, Shapiro-Wilk normality test W = 0.4856823 p-value = 6.035973e-07
Group: B, Shapiro-Wilk normality test W = 0.6784267 p-value = 4.530191e-05
Group: C, Shapiro-Wilk normality test W = 0.7404266 p-value = 0.0002453774這裡測試各組的資料分佈是否為常態分佈。根據柴惠敏的建議，若該組的樣本個數小於50，則是使用Shapiro-Wilk常態檢定，檢定統計量為W值；若該組的樣本數在50以上，則是使用Kolmogorov-Smirnov (K-S)常態檢定，檢定統計量為D值。STHDA推薦使用Shapiro-Wilk檢定，因為它的統計檢定力(power)高於Kolmogorov-Smirnov檢定。這邊R腳本會依照該組的樣本個數來自動判斷要使用的檢定法。
這兩個檢定的虛無假設都是該組資料為常態分佈。因此若p值在0.05以下，則表示該組資料並非常態分佈。以這個例子來說，A組的p值為6.035973e-07，有e表示是科學記號格式，意思是6.035973乘以-10的7次方，也就是非常非常小的小數，低於顯著水準0.05，因此A組資料並非常態分佈。另外C組的p值為0.0002453774，低於顯著水準0.05，因此也不是常態分佈。
一般來說，無母數檢定並不會特別去檢定資料分佈是否非常態。這個常態性檢定僅供參考即可。
### Test for Homogeneity of Variance
Levene's Test for Homogeneity of Variance (center = median)
Df F value Pr(>F)
group 2 0.6864 0.508
51
Data are homoscedastic. Excute Kruskal–Wallis test.這邊我們使用Levene變異數同質性檢定中無母數檢定的方法來檢定三組的變異數是否相同。請看「Pr(>F)」這一欄的顯著性是否在0.05以上。若在0.05以上使用的是Kruskal–Wallis檢定，否則使用Welch's anova。
在本例中，因為三組資料變異數同質，因此進行Kruskal–Wallis檢定。
### Kruskal–Wallis test for equal variances
Kruskal-Wallis rank sum test
data: value by group
Kruskal-Wallis chi-squared = 7.3553, df = 2, p-value =
0.02528
Eta squared: 0.138779831861593檢定結果的卡方統計檢定量請看Kruskal-Wallis chi-squared，為7.3553。自由度df為2。各組之間是否有顯著差異則要看p-value，若在顯著水準0.05以上，則表示各組之間的中位數沒有顯著差異，否則表示各組之間的中位數有顯著差異。本例的p-value為0.02528，表示各組之間的中位數達到顯著差異。
最後的Eta squared是表示分組變項group對於value的影響力，也就是關聯強度。計算方式來自於how2stats的Kruskal-Wallis - SPSS教學。關於Eta squared的說明請看我介紹ANOVA的這篇。Eta squared的判斷準則如下：
以本例的0.138779831861593為例，是屬於高度關聯強度。
### Dunn test
Comparison Z P.unadj P.adj
1 A - B -1.356036 0.17508782 0.17508782
2 A - C -2.712071 0.00668642 0.02005926
3 B - C -1.356036 0.17508782 0.26263172若Kruskal–Wallis檢定有顯著差異，則繼續查看Dunn檢定的結果。Dunn檢定將各組之間兩兩比較，以此查看各組之間是否有顯著差異。本例中有三個組別「A」、「B」、「C」，因此共有「A - B」、「A - C」跟「B - C」三種組合可供比較。其中第二組比較「A - C」結果中的調整後P值(P.adj) 0.02小於0.05，而Z值為-2.712071小於0，表示後者組別「C」顯著大於前者組別「A」。而其他兩組比較則沒有顯著差異。
這樣子就完成了Kruskal–Wallis檢定跟Dunn事後多重比較囉。
許多使用Kruskal–Wallis檢定的研究者常常忘記Kruskal–Wallis檢定有各組資料為同質性的假設。當各組的個數相同，或是分佈類似時，各組資料常常具有同質性(homoscedastic)。但若各組的樣本數差異過大時，很容易就會發生各組資料為異質性(heteroscedastic)的情況，這時候就要改用Welch's anova來分析。我寫的R腳本中會以無母數的Levene檢定來做各組資料是否為同質性的檢定，以此來判斷要選擇用Kruskal–Wallis檢定還是Welch's anova。以下我們就來看看這種情況會怎麼分析。
這份資料是來自於Real Statistics Using Excel的Welch's ANOVA Test的例子。我們的格式也一樣要有group跟value，然後請下載CSV格式做準備吧。
待會會使用這個CSV檔案來分析。
操作方法跟上述相同，在此我們就不贅述。若順利分析完成，最後一樣可以獲得三個檔案：
以下我們依然是來從檢定結果檔案來說明分析的結果吧。
在result.txt為後綴的檔案中記錄著分析的過程，以下我就各個段落進行解說：
### File
C:\data\Welchs ANOVA Test - data.csv這是本次分析的檔案。
### Medians and descriptive statistics
group n mean sd min Q1 median Q3 max
1 New 10 43.00000 4.027682 38 40.25 42 44.75 50
2 Old 9 33.44444 9.302031 22 27.00 31 40.00 50
3 Control 8 35.75000 16.298554 16 22.75 34 46.75 60敘述統計中可以看到這次的資料有三組「New」、「Old」跟「Control」，三組的個數(n)、平均數(mean)、標準差(sd)都不一樣。
在以histogram.png後綴的直方圖裡面可以看到三組的分佈。Control的分佈較廣，Old的資料偏小且分散，而New的資料則較大且集中。
在以boxplot.png後綴的箱型圖裡面可以清楚比較三組的分佈。可以看到New大部分都大於Old，而Control則是涵蓋前兩組。
### Normality test
Group: New, Shapiro-Wilk normality test W = 0.9239325 p-value = 0.3909235
Group: Old, Shapiro-Wilk normality test W = 0.9327685 p-value = 0.5081456
Group: Control, Shapiro-Wilk normality test W = 0.9419088 p-value = 0.6299536常態性檢定中，因為各組資料個數都小於50，因此使用的是Shapiro-Wilk檢定。三組的p值都大於顯著水準0.05，表示三組皆為常態分佈。因為這個例子是用來跟有母數統計ANOVA做對比用，因此資料本身是為常態分佈。
### Test for Homogeneity of Variance
Levene's Test for Homogeneity of Variance (center = median)
Df F value Pr(>F)
group 2 6.5194 0.005478 **
24
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
Data are heteroscedastic. Excute Welch's anova.在Levene檢定中，Pr(>F)的數值0.005478小於顯著水準0.05，表示各組資料為異質性，因此接下來將使用Welch's anova進行分析。
### Welch’s anova for unequal variances
One-way analysis of means (not assuming equal variances)
data: value and group
F = 4.3153, num df = 2.0, denom df = 11.7, p-value = 0.03947在Welch's anova中檢定的是各組的平均數是否相同，檢定統計量F值為4.3153，而顯著性p值(p-value)為0.03947，小於顯著水準0.05，表示三組資料之間有顯著差異。
### Games-Howell Post-Hoc Test
### Oneway Anova for y=value and x=group (groups: New, Old, Control)
Omega squared: 95% CI = [NA; .36], point estimate = .08
Eta Squared: 95% CI = [0; .32], point estimate = .15
SS Df MS F p
Between groups (error + effect) 474.28 2 237.14 2.11 .143
Within groups (error only) 2697.72 24 112.41
### Post hoc test: games-howell
diff ci.lo ci.hi t df p
Old-New -9.56 -18.65 -0.46 2.85 10.66 .040
Control-New -7.25 -24.26 9.76 1.23 7.69 .472
Control-Old 2.31 -15.41 20.02 0.35 10.84 .934Eta Squared的點估計值為0.15，表示高度關聯強度。然後我們看「### Post hoc test: games-howell」以下的部分，可以看到「Old」、「New」、「Control」三組的比較結果。
在「Old-New」的比較中，p值(p)為0.04，小於顯著水準0.05，而diff為-9.56，表示前者「Old」比後者「New」還小。另一方面，「Control-New」跟「Control-Old」的比較中，p值都超過0.05，表示兩組比較沒有顯著差異。
這樣子就完成了Welch's anova跟Games-Howell事後多重比較囉。
本篇以R腳本實作了Kruskal–Wallis檢定跟Dunn事後多重比較以及Welch's anova跟Games-Howell事後多重比較這兩套無母數統計方法，可以用來分析非常態分佈的多組資料之間是否有顯著差異。這個方法整理完之後，應該可以對社會科學、行為研究帶來很大的幫助。
我本來是想要用SPSS來完成這個分析，但看了最完整的how2stats的Kruskal-Wallis - SPSS教學後，發現它不僅操作起來非常複雜，而且也只實作了最基本的Kruskal–Wallis檢定，更別說變異數同質性檢定、常態分佈檢定、直方圖跟箱型圖的繪製等等。後來我看了幾篇用R實作的教學，發現R做起來不僅容易許多，而且輸出資料也很容易客製化，甚至要用Kruskal–Wallis檢定還是Welch's anova也都可以用程式判斷，所以這次我就把它整理成更好用的R腳本，提供給大家使用。這次的R腳本比上次在做循序樣式探勘的時候進步許多，蠻接近我理想中的R的用法。
這篇在撰寫的時候，本來只有Kruskal–Wallis檢定跟Dunn事後多重比較，但很多文獻提到了非同質性時的處理方法，又有在講資料是否為常態分佈的檢定，我就一邊看一邊加入各種功能，最後花了兩天的時間才整理完這份R腳本以及這篇教學，花的時間意外的多了很多。
之後有時間的話我也想依照這份腳本做成一份ANOVA分析用的R腳本，同時也將資料違反同質性假設(是異質性)的時候改用Welch's anova的方法也納入考量，這樣應該會讓ANOVA好用許多。
這篇多組非常態分佈資料的差異檢定的整理就到這裡為止。我本身並非統計專業，只是因為分析資料時會用到，所以看文獻來將它整理一下。如果有什麼統計上的建議，歡迎在下面留言提出指教。當你分析的資料也是非常態分佈的時候，那這篇應該會對你有些幫助。如果你覺得我整理的不錯的話，請幫我在AddThis分享工具按讚、將這篇分享到Facebook等社群媒體吧！感謝你的耐心閱讀，讓我們下一篇見。
(more...)繼之前的「VIP團體戰舉行規則彙整」之後，國外的精靈寶可夢GO社群網站Pokemon GO Hub又進一步整理出VIP團體戰(EX Raid)的舉行週期！簡單來說大致上是以8-7-7-8的天數間隔循環，而收到VIP團體戰邀請函後則大概是9-8-8-9天後舉行。如果玩家想要追超夢，又怕卡到自己未來行程的話，不妨考慮一下這篇所介紹的VIP團體戰舉行週期喔。以下我試著將該篇內容翻譯跟大家分享，為了對應臺灣玩家的時區，日期部分我參考實際臺灣地區的時間做調整。
(圖片來源：Pokemon GO Hub)
(more...)(圖片來源：Pokémon GO)
這是來自於GO HUB上的教學「A comprehensive guide on how to trigger EX Raids」，教導精靈寶可夢GO玩家如何開啟你所在位置的VIP團體戰(EX Raids)，進而有機會拿到VIP團體戰入場券、並挑戰現在的VIP團體戰頭目：超夢。有在關注精靈寶可夢GO的玩家應該都已經知道VIP團體戰的已公開規則就是「地點：贊助商、公園」、「道館聲望：金牌」、「活動：團體戰」，但對於團體戰的開啟條件與規律多在玩家間經驗歸納，尚無較有系統性的整理。
這篇教學則更深入的研究了S2地理網格 (S2 cells)、道館資格(gym eligibility)、最低參與玩家人數(expected player)以及團體戰活動(raiding activity)等細節，我覺得對玩家來說蠻有啟發意義，所以花點時間來翻譯看看，並依據臺灣的狀況調整一些教學細節，最後再加入一些我個人的觀察。
當然，這篇教學依然只是玩家歸納的規則，而這之中依然包含了大量的隨機要素，並非100%準確。遊戲官方Niantic仍然會對VIP團體戰的規則進行調整，因此玩家把這篇當作參考即可。開心遊戲最重要喔！
(more...)繼聚焦於你感興趣的關聯規則：Weka的HotSpot演算法之後，這篇要介紹的是實作了Exceptional Model Mining的子社群探勘(subgroup discovery)專門工具：CORTANA。跟HotSpot相比，CORTANA不僅可以探勘連續類型的目標變項(target variable)，還能夠綜合多個目標變項成為一個目標概念(target concept)，以此找到最能符合目標概念的子群組(subgroup)。
(more...)在數位化的時代裡面，現在很多文件都是以PDF的方式保存。以往數位典藏盛行的時代，許多PDF並非是原生的電子文件，而大多是由列印或影音下來的紙本掃描而成。而掃描的文本最常見的問題就是偏斜、不正，這會造成電腦與平板閱讀的時候有很多問題。這篇我介紹使用Adobe Acrobat Pro來將掃描文件以OCR技術使之變成可選取的文字，再以編輯EDIT功能將歪斜的文字校正至垂直。做法很簡單，我想應該很多人會需要這樣的技術，在這裡整理一下這整套做法。
(more...)
Comments