国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

量化民族志:一種融合定性與定量的教育研究方法

2021-05-07 15:40吳忭彭曉玲
現(xiàn)代遠程教育研究 2021年2期
關鍵詞:專長

吳忭 彭曉玲

摘要:數(shù)據(jù)驅(qū)動的教育研究范式轉型使得質(zhì)性研究與量化研究間的鴻溝日益加深。作為一種融合定性與定量分析的新興教育研究方法,量化民族志有助于構建兩種研究范式間的橋梁,從而更好地探究教育境脈中數(shù)據(jù)背后的深層含義。該方法的提出緣于對體現(xiàn)專長的認知框架進行建模的需要,融合了民族志、會話分析、統(tǒng)計學、數(shù)據(jù)挖掘等方法和技術,通過分析真實場域中學習者的言行舉止實現(xiàn)對其認知框架的深描。其實質(zhì)是構建由理論層面的意義和實證層面的數(shù)據(jù)所構成的實證研究閉環(huán),以消解質(zhì)性研究偏于主觀、量化研究偏于表面的不足,并建立起兩種研究話語間的聯(lián)系。量化民族志注重構建“境脈中的理論”和實現(xiàn)“理論飽和”,并提供了半自動編碼軟件nCoder和認知網(wǎng)絡分析兩種研究工具,以確保建模結果的可靠性和可解釋性。該方法主要被用于學科教學和跨學科學習中的高階能力評估,其應用場景呈現(xiàn)出多學科交叉和多模態(tài)數(shù)據(jù)整合的勢態(tài),其方法論體系也日趨完善。

關鍵詞:量化民族志;教育研究方法;專長;認知框架;認知網(wǎng)絡分析

中圖分類號:G434? ?文獻標識碼:A? ? 文章編號:1009-5195(2021)02-0063-10? doi10.3969/j.issn.1009-5195.2021.02.007

作者簡介:吳忭,博士,副教授,碩士生導師,華東師范大學教育信息技術學系(上海 200062);彭曉玲,碩士研究生,華東師范大學教育信息技術學系(上海 200062)。

一、引言

在數(shù)字化時代,質(zhì)性研究和量化研究、人文和科學、意義和數(shù)字的固有區(qū)分方式往往會限制我們所能提出的問題,甚至有時會導致我們接受浮于表面的答案(Shaffer,2017)。量化民族志(Quantitative Ethnography)作為一種融合定性與定量分析的新興教育研究方法,有助于研究者突破固有區(qū)分的藩籬,從而構建起跨越質(zhì)性研究和量化研究鴻溝的橋梁。該研究方法由美國威斯康星大學麥迪遜分校戴維·謝弗(David Shaffer)教授提出,雖然國內(nèi)研究者對其相對陌生,但由該方法所衍生出的學習分析工具“認知網(wǎng)絡分析”(Epistemic Network Analysis,ENA)已被越來越多的教育研究者熟悉和使用。然而,若僅掌握認知網(wǎng)絡分析技術而對其內(nèi)在的量化民族志方法論思想不甚了解,就會導致在研究過程中知其然而不知其所以然。更為重要的是,大數(shù)據(jù)時代的到來引發(fā)了數(shù)據(jù)驅(qū)動的研究范式轉型,這使得數(shù)據(jù)分析和數(shù)據(jù)理解能力對于教育研究者而言變得尤為重要。而量化民族志作為一種同時強調(diào)海量數(shù)據(jù)和扎根式研究的方法,其同樣適用于詮釋認知網(wǎng)絡分析以外的其他大數(shù)據(jù)分析技術。

量化民族志這一名稱中的“民族志”體現(xiàn)了該方法的研究對象是文化本身,對教育領域而言則是強調(diào)以社會文化視角來研究學習。文化是在將數(shù)據(jù)變?yōu)樾畔⒌倪^程中被賦予含義的,因此在將大數(shù)據(jù)轉變成深度理解的過程中,“量化”是為了能從浩如煙海的數(shù)據(jù)中挖掘出隱含的模式,而“民族志”才是確保大數(shù)據(jù)分析有意義的關鍵。為解釋該方法如何實現(xiàn)定性和定量分析的有機融合,本文從量化民族志的緣起、方法論和研究進展三個層面出發(fā),回答量化民族志希望解決的問題是什么、試圖通過什么樣的方式解決以及該研究方法的應用現(xiàn)狀和趨勢如何。在我國持續(xù)推進教育實證研究的當下,希望本文所引介的這種研究方法能帶給國內(nèi)學人在教育研究的數(shù)據(jù)和理解、定性和定量、理論和實證等關系上的新啟示。

二、量化民族志的緣起:理解學習的本質(zhì)

1.應培養(yǎng)領域?qū)iL之需

人是如何學習的?如何設計有效的學習環(huán)境以促進學習?如何研究學習?這是學習科學試圖回答的三大核心問題,分別對應于有關學習發(fā)生機制的描述性理論、學習環(huán)境創(chuàng)設的規(guī)范性理論以及學習科學研究的方法論創(chuàng)新(趙健等,2007)。受建構主義、情境認知、社會文化理論等學習觀的影響,有別于傳統(tǒng)認知科學的實驗研究,學習科學家致力于研究真實情境中的學習,以更好地理解產(chǎn)生有效學習的個體認知和社會交互過程,并注重對教育實踐產(chǎn)生實質(zhì)性影響(Sawyer,2005;焦建利等,2011)。其中,專長(Expertise)研究是從認知科學一直延續(xù)到學習科學的一個重要領域,其指向的根本問題是學習者如何從領域新手成長為領域?qū)<?,以及如何培養(yǎng)其領域?qū)iL。

傳統(tǒng)的專長研究主要聚焦于成人學習領域,如競技體育、醫(yī)學教育、教師專業(yè)發(fā)展等。隨著社會愈發(fā)需要未來人才具備解決復雜問題的高階能力,學校教育特別是中小學教育開始探索將教育目標由知識導向轉變?yōu)槟芰?,即培養(yǎng)學生具備領域?qū)<业乃季S方式和實踐能力,如信息素養(yǎng)、計算思維、科學探究能力、設計思維等(Chesler et al.,2015;秦瑾若等,2017)。然而,專長通常被認為是隱含在特定文化境脈中的默會知識,僅僅通過學習從情境中剝離出來的概念性知識,或通過觀察學習專家的間接經(jīng)驗則遠遠不夠。學習者需要參與到真實的專業(yè)實踐活動中,在與學習環(huán)境、專家、同伴的互動交流中,通過合法的邊緣性參與(Legitimate Peripheral Participation)實現(xiàn)專業(yè)成長(Lave et al.,1991;任英杰等,2012)??梢?,圍繞專業(yè)實踐活動的學習設計以及對學生專業(yè)實踐表現(xiàn)中學習證據(jù)的識別和能力的評價,均離不開對領域?qū)iL的理解。而不論是當前學習科學領域?qū)W習設計和學習分析的聯(lián)姻(Lockyer et al.,2013),或是教育測評領域所提倡的基于證據(jù)的能力測評設計(Evidence-Centered Design)(Mislevy et al.,2003),都顯現(xiàn)出面向復雜問題的學習在本體論、認識論和教學法等層面的理論缺失和建模需求,例如STEM課堂應當學什么、怎么教、如何評。這也預示著學習科學的三大核心問題之間存在緊密關聯(lián),尤其是在大數(shù)據(jù)時代,藉由方法論創(chuàng)新可以促進對真實學習環(huán)境中學生專長發(fā)展的深度理解。

2.解真實情境中專長建模之難

傳統(tǒng)專長研究聚焦于學科知識結構以及解決學科問題的認知技能策略,通過采用認知任務分析、出聲思維、圖示化表征等方法對專家的知識結構特征進行建模(Bransford et al.,1999),分析新手和專家在知識結構和問題解決策略上的差異(李麗華等,2010),以及新手成長為專家的發(fā)展軌跡和模式(Lajoie,2003)。有學者指出,專長所涉及的領域知識和問題解決技能不是彼此獨立而是相互促進的,即能夠通過回顧已知和建構新知尋找問題的解決方案,而在解決問題過程中的反思實踐又能夠促進知識的升華和知識結構的更新(Wu et al.,2012)??梢姡趯iL發(fā)展過程中,知識和技能的相互關聯(lián)才是關鍵。

隨著對學習和專長的認識從認知層面拓展到社會文化層面,即重視特定文化境脈對專長發(fā)展的影響,研究者開始意識到專長與特定文化中的觀念態(tài)度、行為規(guī)范、符號制品等密切相關,是超越知識技能維度的認知框架(Epistemic Frame)的建立(Shaffer,2017)。例如,醫(yī)生的專長不僅指醫(yī)學專業(yè)知識和臨床技能,還包括對疾病和臨床診療的認識(如對待“過度醫(yī)療”的看法)、對職業(yè)價值的理解(如對“救死扶傷”“尊重生命”的態(tài)度)以及專業(yè)實踐(如與病患間的有效溝通)等。類似地,在科技教育中也越來越重視除知識技能外,對學生的學科態(tài)度、認識、素養(yǎng)和探究實踐能力的培養(yǎng)(Wu et al.,2019a)。然而,在個體的專長發(fā)展過程中,不僅知識和技能維度是相互影響、協(xié)同發(fā)展的,其他如認識論、專業(yè)態(tài)度和專業(yè)實踐等維度,也是透過文化境脈中的耳濡目染和審慎練習(Deliberate Practice),才得以構建起各維度間緊密聯(lián)系的認知框架。

為對體現(xiàn)專長特點和發(fā)展水平的認知框架進行建模,Shaffer(2017)創(chuàng)新性地提出了“量化民族志”的研究方法,主張采用扎根的方式,通過收集和分析真實場域中學習者的言行舉止,實現(xiàn)對學習者認知框架中各維度要素及其關聯(lián)結構的建模和深描。該研究方法旨在克服傳統(tǒng)教育研究的不足,即習慣于將專長解構為獨立發(fā)展的各要素的集合,卻忽視了實踐活動中所建立起來的要素間的關聯(lián),而這才是刻畫專長的關鍵;同時,其也試圖將領域?qū)<遥础熬謨?nèi)人”)都難以言狀的專長,透過數(shù)據(jù)可視化的方式進行呈現(xiàn)和解讀。

3.彌質(zhì)性與量化研究之不足

專家的卓越表現(xiàn)是經(jīng)過特定文化情境的塑造和“一萬小時”的錘煉精進才取得的成果(Ericsson,2008)。換言之,相比知識技能的獲得,學生的能力發(fā)展需要在更大的時間尺度上進行分析研究。這就對扎根式的質(zhì)性研究提出了新的挑戰(zhàn),即如何通過跟蹤收集和分析海量的質(zhì)性數(shù)據(jù),來對學習者的認知框架及其發(fā)展軌跡進行建模,進而構建類似階段理論(Dreyfus,2004)但又具有領域特征的學科思維發(fā)展模式。由于“質(zhì)性大數(shù)據(jù)”無論是在編碼還是分析環(huán)節(jié),都需要耗費大量的研究精力,更遑論質(zhì)性研究所依賴的具有明顯主觀性特征的個人體驗、感悟、解讀、分析和理解,因而,其研究結論的可靠性一直備受爭議(風笑天,2017)。

與質(zhì)性研究不同,量化研究具有系統(tǒng)、客觀、可靠、可泛化的優(yōu)勢(葉浩生, 2008)。尤其在大數(shù)據(jù)時代,學習者的線上線下學習行為都可以被巨細靡遺地采集、識別、存儲和分析,這就意味著我們可以從大數(shù)據(jù)中發(fā)現(xiàn)以往難以察覺的關聯(lián)模式。然而,當我們采用機器學習等方法去挖掘規(guī)律和模式時,若脫離了對數(shù)據(jù)來源和情境的認識,忽視了數(shù)據(jù)背后的意義,就可能會面臨“垃圾輸入、垃圾輸出”(Garbage In Garbage Out)的風險,或易受到“統(tǒng)計相關”的蒙蔽而做出對因果關系的誤讀(凌建勛等, 2003)。

鑒于定性和定量分析方法各自具有的優(yōu)勢和局限,量化民族志融合了民族志、會話分析、統(tǒng)計學、數(shù)據(jù)挖掘等研究方法和分析技術。通過建立質(zhì)性和量化研究話語間的聯(lián)系,如可信度(Trustworthiness)和信效度、理論飽和(Theoretical Saturation)和統(tǒng)計顯著、編碼和變量,量化民族志試圖構建溝通兩種研究范式的話語體系,最終實現(xiàn)由理論層面的意義和實證層面的數(shù)據(jù)所構成的實證研究閉環(huán),并使得該閉環(huán)能夠兼具可解釋性和統(tǒng)計學保證(見圖1)。

三、量化民族志的方法論:融質(zhì)性與量化研究為一體

1.構建有效用的模型

傳統(tǒng)量化研究的一個重要特征就是假設檢驗,即在明確研究問題后,根據(jù)相關理論和前人研究發(fā)現(xiàn),提出對所研究問題的預期假設(通常用來描述兩至三個構念之間的關系),再通過抽樣數(shù)據(jù)分析推斷,驗證預期假設的真?zhèn)危玫接薪y(tǒng)計證據(jù)作保證的結論(孫健敏, 2004)。Chavetz(1978)在論述社會學理論建構和檢驗時,闡述了假設在研究中的作用及假設檢驗的必要性,學界甚至出現(xiàn)了實證研究就是驗證研究假設的觀點。然而,教育學作為一門應用科學,其理論價值在于理解和解決教育實踐中的問題,促進教育的革新。研究假設只能作為對教育因素及其聯(lián)系與影響的“淺描”,其對于真實教育場域中的規(guī)范性理論創(chuàng)新的貢獻往往是不足的。這也是脫胎于教育心理學的學習科學選擇與崇尚實驗研究的教育心理學分道揚鑣的原因所在。彼時,學習科學家希望通過設計研究(Design-Based Research)的方法論創(chuàng)新,來彌補對照實驗這一量化方法在效用上的局限性。類似地,采用量化民族志的教育研究并不滿足于淺描式的研究假設,而是希望構建可以體現(xiàn)教育情境復雜性,并能夠反映特定文化境脈中專長發(fā)展的思維模式或?qū)嵺`行為的理論模型。

模型是基于研究目的和實踐需要,對現(xiàn)實世界在某種程度上的抽象。因此,站在理解和促進專長發(fā)展的角度,量化民族志這一方法論的提出,其目的是在大數(shù)據(jù)時代追求對教育情境中質(zhì)性數(shù)據(jù)的理解,從而構建可解釋和不斷迭代優(yōu)化的理論模型,即深描的認知框架模型。實用主義取向的量化民族志研究雖然以構建和完善深描的認知框架模型而非驗證淺描的研究假設為目標,這避免了教育理論研究和教學實踐的脫節(jié),也有益于解決創(chuàng)新人才培養(yǎng)和創(chuàng)新教育實踐缺少理論依據(jù)和有效指導的詬病,然而其同樣難以回避的問題是,通過質(zhì)性研究所獲得的理論缺乏可靠性和泛化能力。對此,量化民族志引入了“情境內(nèi)泛化”(Contextualized Generalization)的觀點,即認為模型的泛化能力不是無邊界的,尤其是對于復雜多元的教育研究而言,其構建的是“境脈中的理論”(Theory-in-Context)。因此,專長所處的特定社會文化情境即構成了研究對象的總體,而采用量化方法的目的則是確保模型在該情境中具有可靠性保證。具體而言,量化民族志研究的可靠性要在兩個層面得到保證,一是模型中各編碼的可靠性,二是模型本身即編碼間關聯(lián)結構的可靠性。換言之,質(zhì)性分析中的編碼和模型需要達到所謂的“理論飽和”,而不能僅作為“軼事證據(jù)”(Anecdotal Evidence)。

2.質(zhì)性數(shù)據(jù)的分割

教育研究中常見的混合方法更多是基于操作化層面的考量,強調(diào)在同一研究中并行分析質(zhì)性和量化兩類數(shù)據(jù),或是采用“先量化后質(zhì)性”或“先質(zhì)性后量化”的雙階段研究,通過定性和定量的獨立分析以實現(xiàn)相互印證,這實際得到的是定性和定量兩個相互獨立的理論模型(李剛等,2016)。而量化民族志則希望構建一個兼具可解釋性和統(tǒng)計保證的融合模型(吳忭等,2019)。然而,要實現(xiàn)對質(zhì)性數(shù)據(jù)的量化分析,首先要求數(shù)據(jù)具有整齊的格式,即要保證數(shù)據(jù)行(觀察)和列(變量)的完整性和一致性。要將質(zhì)性數(shù)據(jù)整理成結構良好的可分析數(shù)據(jù),就需要確定分割質(zhì)性數(shù)據(jù)的規(guī)則,即確定話語的結構。

在量化民族志研究中,質(zhì)性數(shù)據(jù)可以是田野觀察記錄、訪談文本、線下討論文本、論壇發(fā)帖或?qū)W生習作,在對其做數(shù)據(jù)分割時涉及行、節(jié)、會話三個層面的粒度。研究者需要根據(jù)特定情境中數(shù)據(jù)意義的關聯(lián)程度來確定行、節(jié)和會話的分割粒度。行是質(zhì)性數(shù)據(jù)中研究者所感興趣的連續(xù)行為的最小分析單位,比如訪談中的一句話、討論中每位參與者的一段發(fā)言、論壇中的一個發(fā)帖或文章作品中的一個句子。而會話則是所有相互關聯(lián)的行的集合,可以是一次訪談、一場討論、一個主題的所有發(fā)帖或一篇文章。但上述分割方式并非固定不變的,研究者完全可以根據(jù)文本中出現(xiàn)的新觀點來確定“行”的劃分,或是將圍繞某個主題的多次訪談、多場討論、學習檔案袋中體現(xiàn)學習歷程的多份習作作為會話。

相較于“行”和“會話”層面的數(shù)據(jù)分割,更為微妙的是確定“節(jié)”的分割粒度。節(jié)代表了分析單位的上下文情境,是存在內(nèi)容上緊密關聯(lián)的前后若干行。以討論文本數(shù)據(jù)為例,每位參與者的發(fā)言都是對之前發(fā)言的回應,而當前發(fā)言行所回應的最早一條發(fā)言行與當前發(fā)言行之間的所有行就構成了節(jié)。由于專長的各個維度是通過對行進行編碼所體現(xiàn)的,而不同編碼在各行的上下文情境中的共現(xiàn)(Co-occurrence)情況可以反映出編碼之間建立的關聯(lián),因此,對節(jié)的劃分是構建認知框架模型的基礎。由此可見,確定節(jié)的長度是量化民族志研究中進行數(shù)據(jù)分割的關鍵。對于討論數(shù)據(jù)而言,研究者可以通過分辨討論中話題的轉移來確定節(jié);對于文章數(shù)據(jù)而言,體現(xiàn)文章邏輯結構的段落或者小節(jié)也可以作為節(jié)的劃分方式。此外,對于質(zhì)性大數(shù)據(jù)而言,還可以采用固定節(jié)長的滑動窗(而非整個會話)來分析編碼之間關聯(lián)的建立過程(見圖2),這使得運用類似微觀生成分析(Microgenetic Analysis)方法來對學生認知框架發(fā)展模式進行建模成為可能。

3.從分野到融合何以可能

為解決學習分析面臨的黑盒挑戰(zhàn)(即模型的可解釋性問題)與質(zhì)性分析中模型的可靠性問題,量化民族志提供了兩種操作層面的技術方法,分別是為編碼提供保證的半自動編碼工具nCoder(Shaffer et al.,2015),以及為認知框架模型(編碼之間的關聯(lián)結構)提供保證的認知網(wǎng)絡分析方法。

編碼可靠性是指能否基于既定的編碼規(guī)則,正確識別不同時間、情境的會話數(shù)據(jù)中的特定編碼。為驗證編碼可靠性,傳統(tǒng)方法是讓兩位編碼者對隨機抽樣數(shù)據(jù)進行獨立編碼,而后計算編碼結果的一致性信度。常用的一致性信度檢驗方法是Cohens Kappa系數(shù)(簡稱Kappa)分析。在教育學等社會科學領域,一般將0.65作為一致性檢驗的閾值,即當兩位編碼者的抽樣編碼一致性信度達到0.65以上,則認為選擇其中一位編碼者完成所有數(shù)據(jù)的編碼,其結果是可靠的。這樣的統(tǒng)計推斷在針對小數(shù)據(jù)的分析中雖然可行,但在大數(shù)據(jù)分析中犯“第一類錯誤”(即假陰性)的概率卻會大大增加。也就是雖然抽樣數(shù)據(jù)編碼的一致性信度達到了0.65,但是總體數(shù)據(jù)編碼的一致性信度可能遠低于閾值(Eagan et al.,2017)。此外,對于質(zhì)性大數(shù)據(jù)采用人工手動編碼并不現(xiàn)實,因此需要訓練一個可以實現(xiàn)自動編碼的分類器,并且該分類器的編碼要在總體數(shù)據(jù)而非抽樣數(shù)據(jù)上滿足與人工編碼的一致性要求。而半自動編碼工具nCoder則可實現(xiàn)上述功能,其具體編碼過程如圖3所示。在nCoder中提供了檢驗總體數(shù)據(jù)一致性的指標Shaffers Rho系數(shù)(簡稱Rho),該指標類似于統(tǒng)計檢驗中的伴隨概率p,一般將0.05作為閾值?!癛ho<0.05”表示若采用人工方式和自動方式對總體數(shù)據(jù)進行編碼的一致性信度達到0.65以上時,其犯錯概率小于5%。因此,編碼本的語義內(nèi)容和一致性檢驗中的Rho值分別提供了質(zhì)性數(shù)據(jù)在編碼層面的可解釋性和統(tǒng)計層面的可靠性保證。

認知網(wǎng)絡分析為認知框架模型的構建及表征提供了具體的操作路徑,其建模流程包括:(1)根據(jù)編碼后數(shù)據(jù)創(chuàng)建體現(xiàn)編碼在各個節(jié)中是否兩兩共現(xiàn)的鄰接矩陣;(2)累加所有指定節(jié)的鄰接矩陣并轉換為鄰接向量;(3)將鄰接向量做歸一化處理;(4)通過奇異值分解的降維方法,將高維空間的網(wǎng)絡模型投影到二維平面;(5)最終形成二維投影面上的認知網(wǎng)絡模型(吳忭等,2018)。

對于認知網(wǎng)絡分析有三點值得注意的地方。首先,認知網(wǎng)絡分析提供了可以靈活比較不同個體與個體、個體與群體、群體與群體之間,以及個體或群體在專長發(fā)展不同階段之間認知框架的操作化工具,尤其是為理解協(xié)作環(huán)境中個體認知框架與群體認知框架在構建上的相互影響提供了可能。例如,當累加的鄰接矩陣來自于將同一名學生的發(fā)言作為參考行所對應的所有節(jié),即計算與該名學生所有發(fā)言緊密相關的上下文情境中的編碼共現(xiàn)情況,則可以得到該名學生的認知網(wǎng)絡;當累加的鄰接矩陣來自于將討論小組的全部發(fā)言作為參考行所對應的所有節(jié),則得到的是討論小組的整體認知網(wǎng)絡。

其次,同編碼的可解釋性有賴于研究者在編碼過程中對編碼本的迭代更新類似,對認知網(wǎng)絡的意義詮釋同樣依賴于研究者對會話內(nèi)容的理解。熟悉奇異值分解的研究者應該清楚,這種數(shù)據(jù)驅(qū)動的降維方法是為了能對模型進行可視化表征的同時,確保模型中包含的原始信息量損失最小,但這樣得到的投影后的網(wǎng)絡結構未必具有可解釋性。這也是大數(shù)據(jù)分析常被詬病的問題,即能夠發(fā)現(xiàn)變量間潛在的關聯(lián)性,但變量間的關聯(lián)是否具有意義,則需依靠研究者甚至是“局內(nèi)人”的理解和詮釋。即便如此,所獲得的網(wǎng)絡結構仍為意義建構提供了三方面的線索:一是各個編碼節(jié)點在投影平面上的相對位置;二是編碼節(jié)點之間關聯(lián)的強弱;三是可以通過編碼節(jié)點之間的關聯(lián)回溯到生成關聯(lián)的所有節(jié),進而進行會話內(nèi)容的質(zhì)性分析。

最后,我們很自然地會將認知網(wǎng)絡分析和社會網(wǎng)絡分析(Social Network Analysis,SNA)做比較。除了數(shù)據(jù)分割方法、網(wǎng)絡圖建模方法,以及網(wǎng)絡圖中節(jié)點和連線的含義存在區(qū)別之外,從對網(wǎng)絡模型做量化分析的角度來看,基于圖論的量化指標在這兩種建模方法中的適用性不同。這緣于兩種分析方法的不同研究目的和數(shù)據(jù)特性。社會網(wǎng)絡分析通常是為了揭示一個大的社群中不同子群的社交模式,以及個體在某個社群中的地位和作用類型。因此,社交網(wǎng)絡圖中的節(jié)點數(shù)量通常較多,且更關注節(jié)點間的連線及其方向性,以及與之相關的圖指標,如網(wǎng)絡密度、中心性等。而認知網(wǎng)絡分析是為了對海量質(zhì)性數(shù)據(jù)中反映出的認知框架結構進行建模,對模型的簡約性及其結構上的可解釋性要求決定了其節(jié)點(專長的維度編碼)數(shù)量不宜過多。對于認知網(wǎng)絡分析而言,節(jié)點之間關聯(lián)的強弱及其代表的意義則是研究的重點,因此其常用的量化指標是網(wǎng)絡的質(zhì)心。質(zhì)心相對于網(wǎng)絡中不同節(jié)點的位置遠近反映認知網(wǎng)絡圖側重構建了哪些編碼間的關聯(lián);檢驗認知網(wǎng)絡圖的質(zhì)心位置差異可以作為判斷認知框架差異的統(tǒng)計學依據(jù);而用認知網(wǎng)絡圖相減的方法則可以比較編碼間關聯(lián)在對應網(wǎng)絡中的差異。通過上述方法,可以對不同認知網(wǎng)絡圖的結構特征進行解釋和分析。

四、量化民族志的研究實踐與發(fā)展趨勢

1.理論構建研究:融合視角下的學習理解及理論創(chuàng)新

采用量化民族志方法的研究通過關注不同要素之間相互作用的復雜關系,驅(qū)動學習理論的創(chuàng)新,同時提供了一種融合質(zhì)性和量化研究的視角來理解實踐環(huán)境中學習的發(fā)生過程。具體的研究實踐包括:理解教師如何在學生發(fā)生認知沖突時,通過行動后反思(Reflection on Action)促進學生轉變思維模式(Bagley et al.,2015);基于玩家在游戲中自動生成的交互日志剖析學生為何退出教育游戲(Karumbaiah et al.,2019);分析探究社區(qū)理論模型中認知存在、社會存在和教學存在如何相互關聯(lián)和發(fā)展(Rolim et al.,2019);洞察全球在線學習社區(qū)形成過程中,社區(qū)成員如何從強調(diào)自我意識和信息共享轉向同儕教學和知識獲?。‥spino et al.,2020);等等。這種融合的方法論視角還體現(xiàn)在不同研究方法的聯(lián)合運用上。例如,Saint等(2020)用簡單頻率分析、認知網(wǎng)絡分析、時間過程挖掘、隨機過程挖掘四種方法對不同自我調(diào)節(jié)行為進行分析,以了解自我調(diào)節(jié)的微觀發(fā)生過程并比較不同學習群體的自我調(diào)節(jié)表現(xiàn)。研究結果表明,相較于單獨的方法,通過融合不同方法可以提供更加豐富和動態(tài)化的見解。

在理論構建過程中,量化民族志為研究者深入探究事物的現(xiàn)象和發(fā)展,進而獲得全面細致的理解并形成理論提供了方法支撐。量化民族志研究強調(diào)研究者需要細致地觀察和分析研究對象的言行數(shù)據(jù),進而審問數(shù)據(jù)背后的意義;同時要求研究者意識到在數(shù)據(jù)分割、編碼和建模等操作化過程中所做的一系列決策均可能對建模結果產(chǎn)生影響。采用量化民族志方法構建理論模型的挑戰(zhàn)在于如何進行合理的深描,從而避免分析結果的表面化和牽強附會。例如,在詮釋認知網(wǎng)絡的含義時,應當通過追溯原始數(shù)據(jù)以理解節(jié)點間共現(xiàn)的意義以及影響共現(xiàn)強弱的原因等,而不應停留在簡單分析連接的有無和強弱,或僅僅對網(wǎng)絡結構做出浮于表面的解釋。

2.應用實踐研究:從典型場景趨向多元樣態(tài)發(fā)展

量化民族志目前已被廣泛應用于在學科教學及跨學科學習中高階能力的評估(Wu et al.,2019a;Wu et al.,2019b;Espino et al.,2020)。例如,對學生在仿真學習中的設計思維、系統(tǒng)思維等復雜學科思維進行建模(Nash et al.,2013;Arastoopour et al.,2016),揭示游戲化學習環(huán)境中學生的認知發(fā)展軌跡(Nash et al.,2013),探索個體認知對協(xié)作問題解決的貢獻(Swiecki et al.,2020a),研究教師教育、醫(yī)學教育等領域的專長發(fā)展(Brown et al.,2016; Ruis et al.,2018;Wu et al.,2019a;Wu et al.,2019b;DAngelo et al.,2020)。

隨著量化民族志逐漸被更多學者所了解和熟悉,這種不滿足于簡單“編碼+計算編碼頻次”,而是關注編碼之間的連接結構和關聯(lián)強度、描繪數(shù)據(jù)背后所體現(xiàn)的復雜認知網(wǎng)絡、表征網(wǎng)絡結構隨時間變化的研究方法,其應用領域也從學習科學拓展到醫(yī)學、政治學、工業(yè)工程等跨學科研究領域。例如,應用認知網(wǎng)絡分析方法對外科醫(yī)生整合心理運動技能、程序性技能、認知技能來識別和管理醫(yī)療事故的能力進行建模(Ruis et al.,2018);針對社交媒體上網(wǎng)民的政治話題發(fā)帖,通過認知網(wǎng)絡分析探究數(shù)字社區(qū)的功能性話語模式(Hamilton et al.,2021);通過量化民族志方法分析企業(yè)不同部門領域?qū)<覍χ圃鞓I(yè)中應用傳統(tǒng)獨立工作機器人和新型合作機器人的觀點和態(tài)度(Siebert-Evenstone et al.,2021)。

此外,由于言語是人類思維過程最直接的體現(xiàn),因而討論話語、訪談記錄、反思日志等文本數(shù)據(jù)仍是量化民族志研究主要的數(shù)據(jù)來源,然而動作姿勢、眼動軌跡、在線行為等多模態(tài)數(shù)據(jù)也被越來越多地用于量化民族志研究。例如,Andrist等(2018)利用眼動數(shù)據(jù)描述了協(xié)作任務中參與者注視模式的耦合情況;Whitelock-Wainwright 等(2020)基于在線學習活動數(shù)據(jù)分析了混合學習設計中的學科差異;Singh等(2020)探索了如何整合注視識別(基于眼動數(shù)據(jù))和模型識別(基于在線行為數(shù)據(jù))兩種方法預測人的意圖。這種趨勢也為未來量化民族志方法的改進帶來了挑戰(zhàn),即如何整合多模態(tài)數(shù)據(jù),如何使異質(zhì)數(shù)據(jù)融合互補,以及如何揭示非言語數(shù)據(jù)在人類學習活動中所扮演的重要角色。

3.方法探索研究:從方法對比走向完善與創(chuàng)新

針對量化民族志這一研究方法的創(chuàng)新還遠未停止,其秉承著一種具有開放性的學習分析基因,即通過采用不同的分析方法來審視數(shù)據(jù),以獲得對數(shù)據(jù)意義和分析方法的深度理解,進而不斷完善自身的方法論體系。例如,Csanadi等(2018)比較基于編碼頻率和認知網(wǎng)絡的分析方法,指出認知網(wǎng)絡分析可以更深入地理解學生的社會認知學習,更好地解釋群體差異,但并不能代替基于編碼頻率的分析;Matcha等(2019)應用序列分析、過程挖掘、認知網(wǎng)絡分析三種方法檢測學習策略,發(fā)現(xiàn)不同方法檢測到的學習策略既存在相似也存在差異,這可以為更準確地檢測學習策略提供依據(jù)。

除單獨采用認知網(wǎng)絡分析方法外,也有研究將其與主題建模、過程挖掘等方法整合應用。例如,Ga?evi?等(2019)綜合應用認知網(wǎng)絡分析和社會網(wǎng)絡分析研究基于MOOC的協(xié)作學習,發(fā)現(xiàn)社會網(wǎng)絡分析能夠預測群體和個體層面的社會關系結構,認知網(wǎng)絡分析能夠預測學生話語內(nèi)容的差異,而集成兩種分析方法的社會認知網(wǎng)絡(Social Epistemic Network Signature,SENS)模型比基于單獨方法的模型能夠更好地預測學生的學業(yè)表現(xiàn);Swiecki等(2020b)進一步研究了SENS的網(wǎng)絡表征方式,提出了整合型社會認知網(wǎng)絡(Integrated Social Epistemic Network Signature,iSENS)分析方法,實證結果表明iSENS在預測團隊協(xié)作表現(xiàn)上相較ENA、SNA和SENS有更好的效果。

此外,量化民族志方法運用過程中對數(shù)據(jù)分割、自動編碼、多模態(tài)數(shù)據(jù)處理等問題的探討也日益受到關注。例如,Z?rg?等(2021)分析比較了關于會話和節(jié)的不同數(shù)據(jù)分割策略對于模型結果的影響;Cai等(2019)在半自動化編碼工具nCoder基礎上,進一步提出了采用潛在語義分析計算詞相似性的方法以改善編碼本,從而減少犯“第一類錯誤”的概率;針對真實情境中產(chǎn)生的多模態(tài)數(shù)據(jù),Shum等(2019)提出了多模態(tài)矩陣技術,以整合生理、認知、社會、情感維度的數(shù)據(jù),從而更全面地理解協(xié)作學習活動。應當看到的是,運用量化民族志的學者群體正在日益壯大,雖然當前大部分研究仍是有關認知網(wǎng)絡分析方法的探討和應用,但未來更多原理可靠、操作可行的基于量化民族志的衍生方法將進一步被發(fā)掘。

五、結語

歷史學家尤瓦爾·赫拉利(Yuval Harari)在《未來簡史》一書中指出,大數(shù)據(jù)時代催生出一種被稱為“數(shù)據(jù)主義”的理解世界的新方式,即相信數(shù)據(jù)是唯一真正的價值來源,我們之所以存在是因為我們正在為大數(shù)據(jù)所創(chuàng)建的數(shù)據(jù)挖掘引擎提供原材料(尤瓦爾·赫拉利,2017)。雖然機器在尋找模式上越來越展現(xiàn)出非凡的本領,但尋找模式和理解事物之間存在著本質(zhì)的區(qū)別。而在數(shù)據(jù)驅(qū)動的研究范式轉型浪潮中,體現(xiàn)研究者思維獨特性的關鍵,恰恰在于我們具有不僅能看到人們在做什么,還能理解他們?yōu)槭裁催@么做的能力。量化民族志正是這樣一種面向意義闡釋的研究方法,使我們可以理解教育境脈中數(shù)據(jù)背后的深層含義。在大數(shù)據(jù)時代,我們有機會進一步發(fā)展這種研究方法,通過使用統(tǒng)計技術來拓展我們的學科思維方式,而不是取代扎根式的理解。量化民族志不是簡單地混合定性和定量的研究方法,而是注重定性和定量分析間的相互支撐,從而建立既體現(xiàn)扎根式的理解又具有理論飽和度的理論模型。從方法論的視角來看,該研究方法也體現(xiàn)出對大數(shù)據(jù)迷思的憬悟,提醒教育研究者應當重視基于教育情境中生成的、能夠盡可能還原現(xiàn)實的“厚數(shù)據(jù)”,通過融合定性和定量分析,追求對“厚數(shù)據(jù)”背后意義的理解。

參考文獻:

[1][以色列]尤瓦爾·赫拉利(2017).未來簡史[M].林俊宏.北京:中信出版社.

[2]風笑天(2017).定性研究:本質(zhì)特征與方法論意義[J].東南學術,(3):56-61.

[3]焦建利,賈義敏(2011).學習科學研究領域及其新進展——“學習科學新進展”系列論文引論[J].開放教育研究,17(1):33-41.

[4]李剛,王紅蕾(2016).混合方法研究的方法論與實踐嘗試:共識、爭議與反思[J].華東師范大學學報(教育科學版),34(4):98-105,121.

[5]李麗華,譚素群,吳新華(2010).新手教師與專家教師課堂話語比較分析[J].中國教育學刊(11):76-79.

[6]凌建勛,凌文輇,方俐洛(2003).深入理解質(zhì)性研究[J].社會科學研究,(1):151-153.

[7]秦瑾若,傅鋼善(2017).STEM教育:基于真實問題情景的跨學科式教育[J].中國電化教育(4):67-74.

[8]任英杰,徐曉東(2012).學習科學:研究的重要問題及其方法論[J].遠程教育雜志,30(1):26-36.

[9]孫健敏(2004).研究假設的有效性及其評價[J].社會學研究,(3):30-35.

[10]吳忭,胡藝齡,趙玥穎(2019).如何使用數(shù)據(jù):回歸基于理解的深度學習和測評——訪國際知名學習科學專家戴維·謝弗[J].開放教育研究,25(1):4-12.

[11]吳忭,王戈,盛海曦(2018).認知網(wǎng)絡分析法:STEM教育中的學習評價新思路[J].遠程教育雜志,36(6):3-10.

[12]葉浩生(2008).量化研究與質(zhì)化研究:對立及其超越[J].自然辯證法研究,24(9):7-11.

[13]趙健,鄭太年,任友群等(2007).學習科學研究之發(fā)展綜述[J].開放教育研究,(2):15-20.

[14]Andrist, S., Ruis, A. R., & Shaffer, D. W. (2018). A Network Analytic Approach to Gaze Coordination During a Collaborative Task[J]. Computers in Human Behavior, 89:339-348.

[15]Arastoopour, G., Shaffer, D. W., & Swiecki, Z. et al. (2016). Teaching and Assessing Engineering Design Thinking with Virtual Internships and Epistemic Network Analysis[J]. International Journal of Engineering Education, 32(3):1492-1501.

[16]Bagley, E., & Shaffer, D. W. (2015). Learning in an Urban and Regional Planning Practicum: The View from Educational Ethnography[J]. Journal of Interactive Learning Research, 26(4):369-393.

[17]Bransford, J. D., & Brown, A. L. (1999). How People Learn: Brain, Mind, Experience, and School[M]. Washington, DC: National Academy Press.

[18]Brown, R. E., Nagar, G. G., & Orrill, C. H. et al. (2016). Coherency of a Teachers Proportional Reasoning Knowledge In and Out of the Classroom[C]// Proceedings of the 38th Annual Meeting of the North American Chapter of the International Group for the Psychology of Mathematics Education. Arizona: ERIC:450-457.

[19]Cai, Z., Siebert-Evenstone, A., & Eagan, B. et al. (2019). nCoder+: A Semantic Tool for Improving Recall of nCoder Coding[C]// Proceedings of the 1st International Conference on Quantitative Ethnography. Wisconsin: Springer:41-54.

[20]Chavetz, J. S. (1978). A Primer on the Construction and Testing of Theories in Sociology[M]. Itasca, Ill:Peacock Publishers.

[21]Chesler, N. C., Ruis, A. R., & Collier, W. et al. (2015). A Novel Paradigm for Engineering Education: Virtual Internships with Individualized Mentoring and Assessment of Engineering Thinking[J]. Journal of Biomechanical Engineering, 137(2):024701.

[22]Csanadi, A., Eagan, B., & Kollar, I. et al. (2018). When Coding-and-Counting Is Not Enough: Using Epistemic Network Analysis (ENA) to Analyze Verbal Data in CSCL Research[J]. International Journal of Computer-Supported Collaborative Learning, 13(4):419-438.

[23]DAngelo, A. L. D., Ruis, A. R., & Collier, W. et al. (2020). Evaluating How Residents Talk and What It Means for Surgical Performance in the Simulation Lab[J]. The American Journal of Surgery, 220(1):37-43.

[24]Dreyfus, S. E. (2004). The Five-Stage Model of Adult Skill Acquisition[J]. Bulletin of Science, Technology & Society, 24(3):177-181.

[25]Eagan, B. R., Rogers, B., & Serlin, R. et al. (2017). Can We Rely on IRR? Testing the Assumptions of Inter-Rater Reliability[C]// Proceedings of the 12th International Conference on Computer Supported Collaborative Learning. Philadelphia, PA:529-532.

[26]Ericsson, K. A. (2008). Deliberate Practice and Acquisition of Expert Performance: A General Overview[J]. Academic Emergency Medicine Official Journal of the Society for Academic Emergency Medicine, 15(11):988-994.

[27]Espino, D. P., Lee, S. B., & Van Tress, L. et al. (2020). Analysis of US, Kenyan, and Finnish Discourse Patterns in a Cross-Cultural Digital Makerspace Learning Community Through the IBE-UNESCO Global Competences Framework[J]. Research in Social Sciences and Technology, 5(1):86-100.

[28]Ga?evi?, D., Joksimovi?, S., & Eagan, B. R. et al. (2019). SENS: Network Analytics to Combine Social and Cognitive Perspectives of Collaborative Learning[J]. Computers in Human Behavior, 92:562-577.

[29]Hamilton, E., & Hobbs, W. (2021). Epistemic Frames and Political Discourse Modeling[C]// Proceedings of the 2nd International Conference on Quantitative Ethnography. (in Press)

[30]Karumbaiah, S., Baker, R. S., & Barany, A. et al. (2019). Using Epistemic Networks with Automated Codes to Understand Why Players Quit Levels in a Learning Game[C]// Proceedings of the 1st International Conference on Quantitative Ethnography. Wisconsin: Springer:106-116.

[31]Lajoie, S. P. (2003). Transitions and Trajectories for Studies of Expertise[J]. Educational Researcher, 32(8):21-25.

[32]Lave, J., & Wenger, E. (1991). Situated Learning: Legitimate Peripheral Participation[M]. Cambridge, UK:Cambridge University Press.

[33]Lockyer, L., Heathcote, E., & Dawson, S. (2013). Informing Pedagogical Action: Aligning Learning Analytics with Learning Design[J]. American Behavioral Scientist, 57(10):1439-1459.

[34]Matcha, W., Ga?evi?, D., & Joksimovi?, J. et al. (2019). Detection of Learning Strategies: A Comparison of Process, Sequence and Network Analytic Approaches[C]// Proceedings of the European Conference on Technology Enhanced Learning. Delft: Springer:525-540.

[35]Mislevy, R. J., Almond, R. G., & Lukas, J. F. (2003). A Brief Introduction to Evidence-Centered Design[J]. ETS Research Report Series, (1):1-29.

[36]Nash, P., & Shaffer, D. W. (2013). Epistemic Trajectories: Mentoring in a Game Design Practicum[J]. Instructional Science, 41(4):745-771.

[37]Rolim, V., Ferreira, R., & Lins, R. D. et al. (2019). A Network-Based Analytic Approach to Uncovering the Relationship Between Social and Cognitive Presences in Communities of Inquiry[J]. The Internet and Higher Education, 42:53-65.

[38]Ruis, A., Rosser, A. A., & Quandt-Walle, C. et al. (2018). The Hands and Head of a Surgeon: Modeling Operative Competency with Multimodal Epistemic Network Analysis[J]. The American Journal of Surgery, 216(5):835-840.

[39]Saint, J., Ga?evi?, D., & Matcha, W. et al. (2020). Combining Analytic Methods to Unlock Sequential and Temporal Patterns of Self-Regulated Learning[C]// Proceedings of the 10th International Conference on Learning Analytics & Knowledge. Frankfort, Germany: Association for Computing Machinery:402-411.

[40]Sawyer, R. K. (2005). The Cambridge Handbook of the Learning Sciences[M]. New York, NY: Cambridge University Press.

[41]Shaffer, D. W. (2017). Quantitative Ethnography[M]. Madison, WI: Cathcart Press.

[42]Shaffer, D. W. (2018). Big Data for Thick Description of Deep Learning[A]// Millis, K., Long, D., & Magliano, J. et al. (Eds.). Deep Comprehension[M]. New York: Routledge:265-277.

[43]Shaffer, D. W., Borden, F., & Srinivasan, A. et al. (2015). The nCoder: A Technique for Improving the Utility of Inter-Rater Reliability Statistics[R]. Games and Professional Simulations Technical Report. University of Wisconsin Madison.

[44]Shum, S. B., Echeverria, V., & Martinez-Maldonado, R. (2019). The Multimodal Matrix as a Quantitative Ethnography Methodology[C]// Proceedings of the 1st International Conference on Quantitative Ethnography. Wisconsin: Springer:26-40.

[45]Siebert-Evenstone, A., Irgens, G. A., & Collier, W. et al. (2017). In Search of Conversational Grain Size: Modelling Semantic Structure Using Moving Stanza Windows[J]. Journal of Learning Analytics, 4(3):123-139.

[46]Siebert-Evenstone, A., Michaelis, J. E., & Shaffer, D. W. et al. (2021). Safety First: Developing a Model of Expertise in Collaborative Robotics[C]// Proceedings of the 2nd International Conference on Quantitative Ethnography. (in Press)

[47]Singh, R., Miller, T., & Newn, J. et al. (2020). Combining Gaze and AI Planning for Online Human Intention Recognition[J]. Artificial Intelligence, 284:103275.

[48]Swiecki, Z., Ruis, A. R., & Farrell, C. et al. (2020a). Assessing Individual Contributions to Collaborative Problem Solving: A Network Analysis Approach[J]. Computers in Human Behavior, 104:105876.

[49]Swiecki, Z., & Shaffer, D. W. (2020b). iSENS: An Integrated Approach to Combining Epistemic and Social Network Analyses[C]// Proceedings of the 10th International Conference on Learning Analytics & Knowledge. New York: Association for Computing Machinery:305-313.

[50]Whitelock-Wainwright, A., Tsai, Y. S., & Lyons, K. et al. (2020). Disciplinary Differences in Blended Learning Design: A Network Analytic Study[C]// Proceedings of the 10th International Conference on Learning Analytics & Knowledge. New York: Association for Computing Machinery:579-588.

[51]Wu, B., Hu, Y., & Ruis, A. R. et al. (2019a). Analyzing Computational Thinking in Collaborative Programming: A Quantitative Ethnography Approach[J]. Journal of Computer Assisted Learning, 35(3):421-434.

[52]Wu, B., Hu, Y., & Wang, M. (2019b). Scaffolding Design Thinking in Online STEM Preservice Teacher Training[J]. British Journal of Educational Technology, 50(5):2271-2287.

[53]Wu, B., & Wang, M. (2012). Integrating Problem Solving and Knowledge Construction Through Dual Mapping[J]. Knowledge Management & E-Learning: An International Journal, 4(3):248-257.

[54]Z?rg?, S., Swiecki, Z., & Ruis, A. R. (2021). Exploring Effects of Various Forms of Segmentation on Semi-Structured Interview Data with Epistemic Network Analysis[C]// Proceedings of the 2nd International Conference on Quantitative Ethnography. (in Press)

收稿日期 2020-10-06 責任編輯 譚明杰

Abstract: The transformation of data-driven educational research paradigm has deepened the gap between qualitative and quantitative research. As a new educational research method that combines qualitative and quantitative analysis, Quantitative Ethnography (QE) helps to build a bridge between the two research paradigms, which consequently better explores the deep meaning behind the data. This method was proposed based on the need to model the epistemic frame that embodies expertise. It combines ethnography, conversation analysis, statistics, data mining and other methods and technologies to perform thick description of epistemic frame by analyzing the words and deeds of learners in a real field. Its essence is to construct a closed loop of empirical research composed of theoretical-level meaning interpretation and empirical-level data analysis. The iterative closed-loop investigation aims to eliminate subjective bias in qualitative research and superficiality in quantitative research, and to establish a connection between the two research discourses. QE pays special attention to the construction of “theory in context” and the realization of “theoretical saturation”. It provides two research tools, the semi-automatic coding software called nCoder and the modeling tool called epistemic network analysis (ENA), to ensure the reliability and interpretability of the modeling results. QE is mainly used for high-level competence modeling and assessment in both disciplinary and interdisciplinary learning. Its application scenarios show a trend of cross-disciplinary research and multi-modal data integration, and its methodological system has come to fruition.

Keywords: Quantitative Ethnography; Educational Research Method; Expertise; Epistemic Frame; Epistemic Network Analysis

猜你喜歡
專長
我們因為懶惰而努力
高中體育組合技能單元教學策略的優(yōu)化探討
口譯專長研究:進展與反思
所長無用
老師比美
奇貨可居
學必求其心得
尋找“自慢”絕活
核心競爭力的戰(zhàn)略應用
长岭县| 潜江市| 金堂县| 镇远县| 祁门县| 南京市| 砚山县| 广丰县| 那曲县| 如东县| 岑巩县| 昭苏县| 故城县| 蒙阴县| 烟台市| 苍南县| 铜陵市| 乐清市| 古交市| 海伦市| 和顺县| 天镇县| 莎车县| 武邑县| 德格县| 佳木斯市| 朔州市| 青海省| 沭阳县| 茌平县| 合水县| 普陀区| 公安县| 宜兰市| 新巴尔虎右旗| 山阳县| 东丽区| 汽车| 蒲城县| 八宿县| 湖北省|