行為順序檢定：滯後序列分析 / Behavior Analysis: Lag Sequential Analysis
這是巨量資料探勘與統計應用課程的投影片「行為順序檢定：序列分析」。本單元是屬於系列課程中的「資料檢定級」的最後一個單元，處理資料類型也是在行為的「類別」類型資料，使用的分析技術就是以前我常常提到的滯後序列探勘(lag sequential analysis)。滯後序列分析是延伸前一單元列聯表的檢定方式，但是不像卡方統計量是用於檢定整體列聯表，它使用Allison與Liker(1982)的調整後殘差計算方式來做細格檢定。雖然資料類型都以列聯表呈現，不過計算方法可是差很多的喔。跟以前我介紹滯後序列分析的內容相比，這次不僅採用比較嚴謹的Allison與Liker的計算方法，還加入了相關係數Yule'Q的計算，並直接用jsPlumb畫出了事件轉移圖。本單元使用我所開發的滯後序列分析計算器來作計算，包含兩個實作學習單跟一份測驗，供同學邊看邊練習。
單元大綱 / Outline
- 行為序列資料表
- 滯後序列分析
- 滯後序列分析：樣本統計量 事件轉移表
- 滯後序列分析：檢定統計量 調整後的殘差
- 實作：序列分析
- 深入探討序列分析
- 課堂練習：幼兒平行遊戲行為研究
- 序列分析的應用
投影片 / Slide
- 教學投影片： Google Presentation
- 教學投影片其他格式： Power Point、 PDF、 OpenDocument Presnetation
我以Google簡報的檔案匯出成PPTX，再備份到以下位置：
- SlideShare 、 GitHub 、 OneDrive 、 Box 、 Mega 、 MediaFire 、 Google Drive
結論寫作框架 / Result Framework
請參考以下結論框架，將底線的文字改為合適的內容，完成滯後序列分析的結論吧。
| 研究目的 | ||||
| 本研究使用序列分析來檢定(研究對象)的行為序列資料中(寫出每一個事件「編碼」)之間是否有顯著轉移。 | ||||
| 樣本敘述統計量 | ||||
| 研究對象共(研究對象數量)位，事件總數為(事件總數)次。 (每個事件編碼都寫一次)
雙事件轉移序列總數為(序列總數)次。 | ||||
| 序列分析結果 | ||||
| ||||
| 事件轉移圖 (如果整體統計檢定達到顯著才寫) | ||||
| (可截取序列分析計算器的事件轉移圖) |
舉例來說，像是：
| 研究目的 | ||
| 本研究使用序列分析來檢定遊客的行為序列資料中事件「A 熱帶莽原區」、事件「B 叢林區」與事件「C 沙漠區」之間是否有顯著轉移。 | ||
| 樣本敘述統計量 | ||
| 研究對象共1位，事件總數為10次。
雙事件轉移序列總數為9次。 | ||
| 序列分析結果 | ||
| ||
| 事件轉移圖 (如果整體統計檢定達到顯著才寫) | ||
| |
學習單 / Worksheets
本單元包含了以下的學習單，請搭配課程投影片一起練習吧。
測驗 / Examine
本單元整理了一份測驗，供同學驗證所學：
資料集 / Dataset
本單元用到了以下資料：
- 遊客所在區域事件序列資料表：我自己編撰的例子。
- 幼兒平行遊戲事件序列資料表：這個例子來自Bakeman跟Gottman所著的「Observing interaction: an introduction to sequential analysis」。我之前的序列分析介紹也是用這個例子。
- 讀者瀏覽網頁行為序列：修改自孫賢潔所著的「行動政府網頁設計準則影響資訊尋求之研究」中的部分受試者資料，使用者名稱與行為皆經過編碼處理。
線上操作平臺 / Online Workplace
以上的實作不需用到本機端的軟體，全部使用以下雲端服務。建議使用Google Chrome瀏覽器開啟：
計算器 / Calculator
行為序列資料格式 / Behavior sequential data format
儘管Bakeman跟Gottman在書中有介紹過幾種行為編碼的格式，但是我在考慮到從資料庫取得資料與記錄的方便性後，還是決定制訂一份比較簡單的行為序列資料格式。這個格式包含了三個欄位：
- 研究對象編號：可以是數字或文字，用來辨識不同的研究對象。
- 序列編號：必須是數字，用來表示行為順序。如果是時間格式，請把它換成數字，例如換成Unix時間。
- 事件：可以是數字或文字，用來研究對象在該時間點作的事情。如果研究對象在同一個時間點做了兩個事件，那可以用兩行相同的研究對象編號、序列編號，記錄不同的事件。
我在另一篇「循序樣式探勘：以Python的PrefixSpan實作」也是採用相同的格式。也就是說，同一份行為序列資料，我們既可以用滯後序列來分析，也可以用循序樣式探勘來分析。至於我早先寫的序列分析工具跟循序樣式探勘工具，就不要再使用了吧。
對滯後序列分析的誤解 / Misunderstanding about Lag Sequential Analysis
儘管這件事情我一直有在各個介紹中強調，但很遺憾的是，我還是常常聽到有人對序列分析結果有著錯誤的解讀方式。以上圖的表格來說，C->A的2次出現了顯著轉移，許多人就會解讀為「研究對象很常作C到A的動作」，但這樣解讀是錯誤的，這樣侯老師又要難過了。仔細看看表格的內容，不僅C->A是2次，連A->B與B->C也都是2次。顯然的，「很常作C到A的動作」這個說法並不合理，因為研究對象也很常作「A到B」與「B到C」啊。
那為何只有C->A的2次被視為顯著轉移呢？讓我們更仔細地閱讀表格，你會發現到研究對象只要作C的時候，下一個動作事件全部都會是A。另一方面，A之後的下一步可能會是A (1次)、B (2次)、C (1次)；B之後的下一步可能會是B (1次)或C (2次)。可以看出C之後預測A的機率是100%，因此C->A才會顯著。詳細的公式就請參考投影片吧。
因此，我們不能說「研究對象很常作C到A的動作」，應該說「研究對象只要作了C，下一步很高的機會會做A」。至於研究對象到底很常作C->A、A->B、B->C的那種組合，不好意思，這不是滯後序列分析要回答的問題，但你可能可以在滯後序列分析找到這個答案，請見我所介紹的另一篇「循序樣式探勘：以Python的PrefixSpan實作」。
為什麼不用卡方檢定？ / Limitation of Chi-square test
雖然滯後序列分析也是列聯表的一種分析方法，但是卻不是用卡方檢定來分析。這個原因在Bakeman與Gottman的書中也有說明。這是因為卡方檢定對資料有所要求，資料的樣本數量最好超過30以上，而列聯表的細格為0的數量不可以超過細格總數的1/4。但是在行為序列的事件轉移表中，研究對象不太可能會發生所有事件組合都平均做過數次的情況，因此勢必會有很多細格會以0表示。這就造成了行為序列轉換不能用卡方檢定，而是要用滯後序列分析的原因。
小結 / In closing
繼上一次卡方檢定講的太簡單，導致很快就教完的教訓。這次講滯後序列分析時我就特別花多點時間在介紹不同的例子、計算方式與滯後序列分析的延伸應用。這次調整授課方式的結果，反而讓整個授課流程稍微有點緊湊了，好像也應該適度地刪減一些內容啊？
不管怎麼說，在講過很多次滯後序列分析的研究後，我覺得這次教課的內容應該是最容易讓人理解，另外撰寫的滯後序列分析計算器也是至今為止最好用的一個。
而且這次的滯後序列分析計算器不僅只是算出報表，還有搭配結論寫作框架的文字結論，以及基於資料敘述級分析步驟所提到的「先把資料畫成圖」的原則，直接在網頁上呈現了行為序列轉移圖，我自己還蠻滿意的。
寫到這裡忽然想起來應該還要加上樣本敘述統計量的圓餅圖，不過這次就先這樣吧，如果下次還要講的話，我再來繼續改進。
這份滯後序列分析計算器做完後，就直接應用到該屆學弟妹的碩士論文中，分析出許多令人感興趣的結果，他們也就順利畢業了。而我，呃……還在寫blog……
紀念動物朋友 / For Kemono Friends
眼力不錯的讀者也許會發現本單元裡面出現了很多「動物朋友」的畫面。在教完這堂課的時候，有位學生很驚訝地跟我說：「原來老師也很宅！」但事實上這系列課程在第一堂介紹時就已經出現柯南跟Pokemon Go，第二堂資料的來源與形態時也有Pokemon跟死神等人物出場，看來要不是該同學的動漫知識不夠深，就可能是上課不夠認真吧？
事實上，我為了在本單元想一個合適介紹行為序列的例子，可真的是花了我許多時間。最後我才想比較容易理解的「遊客所在區域事件序列資料表」，這例子也剛好比較容易讓同學套用在其他的現實案例中。畢竟像Bakeman等人在書中舉的觀察研究法，是真正的行為研究者才會去做的事情啊。而這個例子也就很剛好地跟去年的熱門動畫動物朋友搭上線，所以我以此為教材來教序列分析。上課的時候的確蠻能吸引同學們的注意，甚至還有同學在教學評鑑的建議是：「老師講的動漫都是去年的，希望老師可以引用新一點的動漫」，這個我沒辦法，只好在精力旺盛的追番黨前給跪了。
(圖片來源：[達人專欄] 動物朋友撤換監督事件(燃燒的紙飛機))
話說回來，其實我在把授課內容投影片放到blog的時候，都會對內容做一些調整，以免帶來過於侵權的爭議。特別是動物朋友幾乎貫穿這整個單元，我本來是有在考慮換掉所有內容，改成其他插畫或照片。不過最近動物朋友發生了角川公司撤換關鍵人物監督たつき、引發眾多觀眾怒火的事件。一想到未來可能再也看不到動物朋友這樣兼具知識與樂趣、還能引發現象級熱潮的作品，我想還是繼續把動物朋友留在這個單元的投影片內吧。
關於動物朋友監督被撤換的事件的細節，請看等待著風的旅人所彙整的[達人專欄] 動物朋友撤換監督事件(燃燒的紙飛機)。
講到這邊，你對本單元的滯後序列分析有什麼看法呢？或是講到動物朋友，是否也讓你有些感慨呢？歡迎在下面留言說說你的想法，或是用左邊的AddThis按個讚或分享喔！
想請問如果想做的分析是，使用者進行了什麼網頁瀏覽的序列會導致銷售成功率上升，這也適用於行為序列分析嗎。如果是，感覺要把這一整串瀏覽的序列，最後再加上銷售成功/銷售失敗的事件。在分析序列產生後，只關心哪些序列會走到銷售成功 / 銷售成功，不知我這樣理解是否正確，又或這是另一種領域的分析了?
回覆刪除To angusivam,
刪除如果是要用序列分析的方法來看，那會變成「銷售成功組/銷售失敗組會進行什麼瀏覽序列*轉換*」
這樣子請先把網頁瀏覽序列分成兩組：銷售成功組 / 銷售失敗組
然後用片段(break)的方式組合各組裡面不同人的網頁瀏覽序列
https://docs.google.com/presentation/d/1uPTNQAXXSw9pxsy7-Q1RyHBb4XwB9JyTm_nBp38Cqcc/edit#slide=id.g167e18a6b9_0_238
最後可以比較不同組別的行為模式
https://docs.google.com/presentation/d/1SPyCUkx998B-fT2kYPSVwK7Lch_KwU7WoOdYTcYxdcY/edit#slide=id.g21b692f5b7_0_386
但比較不同組的時候，請不要用z分數比較，使用相關係數比較
https://docs.google.com/presentation/d/1SPyCUkx998B-fT2kYPSVwK7Lch_KwU7WoOdYTcYxdcY/edit#slide=id.g21b692f5b7_0_361
這樣就可以了
相關係數的計算方法請看投影片
但序列分析只能做到雙事件的分析，不能分析到三個以上的連續事件
https://docs.google.com/presentation/d/1SPyCUkx998B-fT2kYPSVwK7Lch_KwU7WoOdYTcYxdcY/edit#slide=id.g21ae494dc5_1_1506
要看行為順序預測的話，請用動態貝氏網路
http://blog.pulipuli.info/2017/10/behavior-prediction-dynamic-bayesian.html
謝謝您回覆的這麼詳細
刪除不客氣，我想您的問題應該也是很多人想知道的問題
刪除這樣整理一下應該對大家都有幫助喔
不好意思，我想請問一下
回覆刪除因為有使用您的滯後序列分析計算器做計算
表格中有一列是用Yule's Q公式計算相關係數
我有去找Yule's Q相關文獻，但是看完該公式的定義，還是不懂如何將該公式套用並計算出結果
可以幫忙舉個例子或列出簡略計算過程嗎，感恩您
To Lin,
刪除關於Yule's Q公式計算相關係數的部分
在投影片108頁之後有講
https://docs.google.com/presentation/d/1SPyCUkx998B-fT2kYPSVwK7Lch_KwU7WoOdYTcYxdcY/edit#slide=id.g21b692f5b7_0_361
計算公式在投影片裡面。
不過回頭看看投影片，好像沒有講很多Yule's Q相關係數的事情。
簡單來說，Yule's Q相關係數會用於比較人數、序列長度不同兩組的序列上。
https://lh3.googleusercontent.com/-TOFEMXhdJVs/XA0hyTof2hI/AAAAAAAD7gE/mifXF4r8f18KO7Q4Dv905AxOPwWql7UTQCHMYCw/s0/2018-12-09_22-06-49.png
例如這張圖的「實驗組」跟「控制組」。
要比較兩組的時候，請不要用調整後殘差，應使用相關係數。
https://blog.pulipuli.info/2005/12/blogger_113544406852218769.html?showComment=1516262362587#c2290619181952601935
回覆刪除之前有位讀者提問，在按下計算器中「事件轉移表編輯器」下方的「增加事件編碼」按鈕之後，持續新增的編碼都會是G G G G。
我在某次修正後，按下增加事件編碼，編輯器會增加一個「E8」，再按下去會增加「E9」。這個是預設好的編號，意思是「Event No.8」、「Event No.9」。
但編輯器會強制依照字母順序排序，現在沒辦法自由調整喔。
老师，您好。
回覆刪除在您ppt60页中提到的错误结论，如果要描述1-》2-》的这样子的行为序列，还需要什么数据呢？您能具体阐释一下吗？
谢谢老师的回答
To yidanzhong,
刪除如果要解釋二階以上的事件序列，根據Roger Bakeman的建議，需要使用對數線性分析(log-linear analysis)。
對數線性分析是列聯表分析中三種以上類別屬性的分析方法。傳統的卡方獨立性檢定(the chi-squared test of independence)是檢測兩個類別變數間的關係，而對數線性模式則是用來分析更多類別變數時使用。
Bakeman所開發的程式ILOG下載位置如下：
https://bakeman.gsucreate.org/download-ilog/
但是光看軟體本身，仍然不能瞭解其意義。
關於對數線性分析應用於行為分析的用法，需要參考這本書：
Bakeman, Roger, and Byron F. Robinson. 2013. Understanding Log-Linear Analysis With Ilog: An Interactive Approach. Psychology Press.
但這本書我在臺灣找不到。
我也參考了其他介紹對數線性分析的書，有些書籍是寫「對數線性模型」、「三維列聯表分析」或是「三向列聯表分析」。但每本書的作法都不太一樣，而且大多是公式推演，找不到實際可用的工具，所以我就沒有特別繼續鑽研下去。
-------
因為從推論統計的角度似乎會越來越鑽牛角尖，所以我採取了另一種嘗試解決這個問題的方法：動態貝氏網路
這是用機器學習的方式，以貝氏網路演算法來建立預測模型。
關於動態貝氏網路的討論，請看這篇：
http://blog.pulipuli.info/2017/10/behavior-prediction-dynamic-bayesian.html
動態貝氏網路的建模很簡單，也很容易加入到系統應用中。
但是並不是用來檢定此模式是否達到非隨機性的作法。
-------
以前我做的序列分析可以看更長的觀察序列
http://blog.pulipuli.info/2010/12/sequential-analysis-tool.html
但這部分的公式是我自己提出來的，並非現有書籍或論文上的作法。
因此我不建議大家使用。
我對這個議題的瞭解大致上到這裡，歡迎討論。
作者已經移除這則留言。
回覆刪除最近發現了繪製社會網路圖的另一個好用的工具：sigma.js
回覆刪除http://sigmajs.org/
範例中的parallel-edges.html可以呈現出類似於滯後序列分析所需要的網路圖：
https://github.com/pulipulichen/sigma.js/blob/master/examples/parallel-edges.html
圖形展示：
https://pulipulichen.github.io/sigma.js/examples/parallel-edges.html
http://3.bp.blogspot.com/-aJ0w1HWMVEA/XPPCjTTMb-I/AAAAAAAEQw4/wL-Uu4DK_5oAiVfXA2c2K7VfU0FvGbi6ACK4BGAYYCw/s1600/2019-06-02_203310.png
這樣就能繪製事件轉移圖了。
原本我使用的jsPlumb缺乏力導向排版(force-directed layout)的演算法，所以只能自己手動拉節點來排版。
相較之下，sigma.js專業得多。
有機會再來把它實作出來吧。
匯出成SVG的語法請參考這個範例：
刪除https://github.com/pulipulichen/sigma.js/blob/master/examples/svg-export.html#L139
我最近需要分析有大量不同事件的資料，赫然發現這個JavaScript版本不能跑。
回覆刪除不能跑的原因是在瀏覽器上執行分析的速度過慢，又沒有使用非同步機制來緩衝，所以大量資料基本上是沒辦法分析的。
解決方法是使用PHP版本來分析：
http://blog.pulipuli.info/2016/10/php-introduction-of-behavior-coding-and.html