李振 周東岱

[摘? ?要] 精準(zhǔn)評(píng)估學(xué)習(xí)者的知識(shí)狀態(tài)是構(gòu)建自適應(yīng)學(xué)習(xí)系統(tǒng)的基石，也是智能教育時(shí)代推進(jìn)個(gè)性化學(xué)習(xí)的根本前提。深度知識(shí)追蹤模型作為知識(shí)狀態(tài)建模的一種有效方法，已成為教育數(shù)據(jù)挖掘領(lǐng)域的研究焦點(diǎn)。然而，由于深度知識(shí)追蹤模型未能將深度學(xué)習(xí)與領(lǐng)域特征充分融合，導(dǎo)致模型的預(yù)測(cè)效果不夠精準(zhǔn)。針對(duì)此問題，研究從特征融合的視角出發(fā)，提出一種融合測(cè)評(píng)行為和知識(shí)結(jié)構(gòu)特征的深度知識(shí)追蹤模型。在該模型實(shí)現(xiàn)過程中，首先依據(jù)xAPI標(biāo)準(zhǔn)對(duì)測(cè)評(píng)行為數(shù)據(jù)進(jìn)行采集;然后，采用決策樹算法對(duì)測(cè)評(píng)行為特征進(jìn)行選擇，并利用知識(shí)傳播機(jī)制將知識(shí)結(jié)構(gòu)融入模型;最后，基于長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)對(duì)學(xué)習(xí)者的知識(shí)狀態(tài)進(jìn)行追蹤。算法對(duì)比實(shí)驗(yàn)和實(shí)際教學(xué)應(yīng)用效果表明，該模型具有有效性和實(shí)用性。該模型在助力核心素養(yǎng)導(dǎo)向的教育評(píng)價(jià)以及優(yōu)化智慧學(xué)習(xí)環(huán)境中的智能導(dǎo)學(xué)等方面具有廣闊的應(yīng)用前景。

[關(guān)鍵詞] 深度知識(shí)追蹤; 特征融合; 決策樹; 知識(shí)傳播機(jī)制; 長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)

[中圖分類號(hào)] G434? ? ? ? ? ? [文獻(xiàn)標(biāo)志碼] A

[作者簡(jiǎn)介] 李振（1989—），男，山東濟(jì)寧人。講師，博士，主要從事自適應(yīng)學(xué)習(xí)系統(tǒng)、教育知識(shí)圖譜、個(gè)性化學(xué)習(xí)路徑推薦研究。E-mail：liz666@nenu.edu.cn。

一、引? ?言

自適應(yīng)學(xué)習(xí)系統(tǒng)是信息技術(shù)驅(qū)動(dòng)下因材施教和個(gè)性化學(xué)習(xí)理念落地實(shí)施的最佳實(shí)踐，更是智能教育場(chǎng)域中教育服務(wù)模式變革和教學(xué)提質(zhì)增效的關(guān)鍵，而學(xué)習(xí)者模型是自適應(yīng)學(xué)習(xí)系統(tǒng)最核心的組件[1]。隨著認(rèn)知理論、情感計(jì)算、行為識(shí)別等技術(shù)的發(fā)展成熟，學(xué)習(xí)者模型已經(jīng)涵蓋知識(shí)狀態(tài)、能力表現(xiàn)、素養(yǎng)發(fā)展、情感態(tài)度、風(fēng)格偏好、元認(rèn)知等多維特征，旨在對(duì)學(xué)習(xí)者進(jìn)行全方位、立體化、多層次、多模態(tài)的建模分析與理解。在學(xué)習(xí)者模型的多維建構(gòu)中，精準(zhǔn)評(píng)估學(xué)習(xí)者的知識(shí)狀態(tài)依然是自適應(yīng)學(xué)習(xí)系統(tǒng)構(gòu)建的關(guān)鍵，對(duì)提升個(gè)性化服務(wù)質(zhì)量具有重要意義。

目前，對(duì)學(xué)習(xí)者知識(shí)狀態(tài)進(jìn)行建模的主流方法是知識(shí)追蹤模型[2]。該模型的基本思想是：基于學(xué)習(xí)者外在的、顯性的學(xué)習(xí)表現(xiàn)或行為序列來估測(cè)學(xué)習(xí)者內(nèi)在的、隱性的知識(shí)狀態(tài)或掌握程度，這已經(jīng)成為教育數(shù)據(jù)挖掘領(lǐng)域的研究熱點(diǎn)。隨著深度學(xué)習(xí)在圖像處理、語(yǔ)音信號(hào)處理、自然語(yǔ)言理解、機(jī)器自動(dòng)翻譯等領(lǐng)域的廣泛應(yīng)用，以深度學(xué)習(xí)為基礎(chǔ)的深度知識(shí)追蹤模型成為當(dāng)前關(guān)注的焦點(diǎn)[3]。

然而，深度學(xué)習(xí)采用的是完全數(shù)據(jù)驅(qū)動(dòng)的機(jī)器學(xué)習(xí)范式，存在數(shù)據(jù)依賴性強(qiáng)、模型可解釋性差、領(lǐng)域適用性差等弊端。中科院院士張鈸教授以及卡內(nèi)基梅隆大學(xué)的Russ教授都曾指出，人工智能將呈現(xiàn)知識(shí)驅(qū)動(dòng)與數(shù)據(jù)驅(qū)動(dòng)相互結(jié)合、深度學(xué)習(xí)與領(lǐng)域特征相互補(bǔ)充的發(fā)展態(tài)勢(shì)[4-5]。已有研究也表明，學(xué)習(xí)者層面的測(cè)評(píng)行為特征和知識(shí)層面的結(jié)構(gòu)特征對(duì)于提高知識(shí)追蹤模型的預(yù)測(cè)精度有顯著影響[6]。因此，本研究以特征融合為切入點(diǎn)，采用決策樹、知識(shí)傳播機(jī)制，將測(cè)評(píng)行為、知識(shí)結(jié)構(gòu)特征融入深度知識(shí)追蹤模型之中，構(gòu)建融合領(lǐng)域特征的深度知識(shí)追蹤模型，以期進(jìn)一步提高學(xué)習(xí)者知識(shí)追蹤的效果，為自適應(yīng)學(xué)習(xí)系統(tǒng)中的學(xué)習(xí)者建模提供技術(shù)支撐，提升個(gè)性化學(xué)習(xí)的服務(wù)質(zhì)量和學(xué)習(xí)體驗(yàn)。

二、知識(shí)追蹤模型研究現(xiàn)狀

目前，常用的知識(shí)追蹤模型主要有兩大類：一類是源于心理測(cè)量學(xué)的項(xiàng)目反應(yīng)理論模型，另一類是源于人工智能領(lǐng)域的貝葉斯知識(shí)追蹤模型和深度知識(shí)追蹤模型。

（一）項(xiàng)目反應(yīng)理論模型（Item Response Theory，IRT）

項(xiàng)目反應(yīng)理論也稱為潛在特質(zhì)理論，是現(xiàn)代測(cè)量理論的典型代表。該模型認(rèn)為，學(xué)習(xí)者的知識(shí)狀態(tài)是一種不可見的潛在心理特質(zhì)，而這種潛在特質(zhì)是可以通過測(cè)試項(xiàng)目反映出來的，其本質(zhì)是建模被試能力、題目特性（難度、區(qū)分度、猜測(cè)系數(shù)等）與作答反應(yīng)之間的關(guān)系[7]。

項(xiàng)目反應(yīng)理論模型是建立在單維性、單調(diào)性、局部獨(dú)立性三個(gè)假設(shè)之上，需要嚴(yán)格滿足以下三個(gè)基本條件：一是所有項(xiàng)目都是測(cè)量同一個(gè)潛在特質(zhì)，二是項(xiàng)目反應(yīng)函數(shù)是連續(xù)、嚴(yán)格、單調(diào)的，三是被試在測(cè)評(píng)項(xiàng)目上的反應(yīng)是相互獨(dú)立的[8]。由于這三個(gè)理論假設(shè)過于嚴(yán)苛，因而不能滿足實(shí)際應(yīng)用的需求。此外，以項(xiàng)目反應(yīng)理論為基礎(chǔ)的知識(shí)追蹤，將學(xué)習(xí)者的知識(shí)狀態(tài)視為一種概括化的“統(tǒng)計(jì)量”，目的在于從宏觀層面對(duì)學(xué)習(xí)者進(jìn)行評(píng)估[9]，缺乏對(duì)知識(shí)狀態(tài)細(xì)粒度的評(píng)估，也不能實(shí)時(shí)跟蹤知識(shí)狀態(tài)隨時(shí)間的變化過程。

（二）貝葉斯知識(shí)追蹤模型（Bayesian Knowledge Tracing，BKT）

20世紀(jì)90年代，卡內(nèi)基梅隆大學(xué)的科貝特（Corbett）和安德森（Anderson）兩位學(xué)者提出了貝葉斯知識(shí)追蹤模型，該模型以ACT-R 理論和學(xué)習(xí)過程模型為基礎(chǔ)，以概率論和統(tǒng)計(jì)學(xué)為數(shù)學(xué)建模思想，針對(duì)每個(gè)知識(shí)組件（概念、原則、事實(shí)、規(guī)則、技能等）分別建立一個(gè)兩層的隱馬爾科夫模型來評(píng)估學(xué)習(xí)者的知識(shí)狀態(tài)。具體而言，隱馬爾科夫模型中的觀察層代表學(xué)習(xí)者的答題表現(xiàn)（答對(duì)或答錯(cuò)），隱藏層代表學(xué)習(xí)者的知識(shí)狀態(tài)（掌握或未掌握），并提取出預(yù)知率、學(xué)習(xí)率、猜對(duì)率和粗心率四個(gè)關(guān)鍵參數(shù)來對(duì)該建模過程進(jìn)行量化[10]。

標(biāo)準(zhǔn)的BKT模型未考慮學(xué)習(xí)者的個(gè)體差異性（先驗(yàn)知識(shí)、學(xué)習(xí)速率等），未考慮學(xué)習(xí)者對(duì)知識(shí)結(jié)構(gòu)的短時(shí)記憶與遺忘過程，也不能面向多知識(shí)點(diǎn)進(jìn)行應(yīng)用。因此，許多研究者提出了一些貝葉斯知識(shí)追蹤模型的變體：（1）學(xué)習(xí)者個(gè)體差異方面，Pardos等人在標(biāo)準(zhǔn)BKT模型中為每個(gè)學(xué)習(xí)者加入不同的先驗(yàn)知識(shí)參數(shù)，提出了學(xué)習(xí)者先驗(yàn)知識(shí)模型[11];Yudelson等人在標(biāo)準(zhǔn)BKT模型中加入學(xué)習(xí)者個(gè)性差異參數(shù)，提出了個(gè)性化知識(shí)追蹤模型[12]。（2）知識(shí)遺忘方面，Nedungadi等人將指數(shù)衰減函數(shù)融入標(biāo)準(zhǔn)BKT模型中來解決遺忘問題[13]。（3）多知識(shí)點(diǎn)方面，吳文峻等人使用Logistic回歸方法對(duì)BKT進(jìn)行擴(kuò)展，提出了面向多知識(shí)點(diǎn)的改進(jìn)模型[14]。上述改進(jìn)雖然取得了一定成效，但貝葉斯知識(shí)追蹤模型在復(fù)雜特征融合、記憶機(jī)制等方面存在天然缺陷，因此，無法模擬學(xué)習(xí)者知識(shí)狀態(tài)的復(fù)雜變化過程。

（三）深度知識(shí)追蹤模型（Deep Knowledge Tracing，DKT）

2015年，斯坦福大學(xué)的Piech等人將具有時(shí)序建模能力的深度神經(jīng)網(wǎng)絡(luò)應(yīng)用到知識(shí)追蹤中，提出了深度知識(shí)追蹤模型。該模型采用豐富的“神經(jīng)元”來對(duì)學(xué)習(xí)者潛在的知識(shí)狀態(tài)進(jìn)行建模，克服了BKT模型所存在的缺陷，能對(duì)向量化的學(xué)習(xí)者測(cè)評(píng)數(shù)據(jù)進(jìn)行自動(dòng)化建模，也能更好地對(duì)復(fù)雜的學(xué)習(xí)者知識(shí)狀態(tài)進(jìn)行預(yù)測(cè)[15]。

在人工智能與教育教學(xué)深度融合的大背景下，深度知識(shí)追蹤模型的研究吸引了大批來自計(jì)算機(jī)科學(xué)、教育技術(shù)學(xué)以及心理測(cè)量學(xué)領(lǐng)域?qū)＜业年P(guān)注。通過文獻(xiàn)調(diào)研發(fā)現(xiàn)，現(xiàn)有研究主要集中在以下幾個(gè)方面：（1）記憶與遺忘機(jī)制優(yōu)化方面，由認(rèn)知心理學(xué)的基本理論可知，學(xué)習(xí)者在學(xué)習(xí)過程中的記憶與遺忘行為是相互交織的，因此，學(xué)者們提出了基于學(xué)習(xí)過程的深度知識(shí)追蹤模型[16]、融合學(xué)習(xí)與遺忘的深度知識(shí)追蹤模型[17]。（2）知識(shí)狀態(tài)顯性化方面，由于基于神經(jīng)網(wǎng)絡(luò)的深度知識(shí)追蹤模型采用隱藏層來表示潛在的知識(shí)掌握程度，無法實(shí)現(xiàn)知識(shí)狀態(tài)的顯性化表達(dá)，因此，Zhang等人引入靜態(tài)矩陣（鍵）和動(dòng)態(tài)矩陣（值）分別存儲(chǔ)已追蹤的知識(shí)點(diǎn)和對(duì)應(yīng)的知識(shí)狀態(tài)，提出了用于知識(shí)追蹤的動(dòng)態(tài)鍵值記憶網(wǎng)絡(luò)[18]。（3）學(xué)習(xí)者個(gè)體差異化方面，由于學(xué)習(xí)者的學(xué)習(xí)動(dòng)機(jī)、學(xué)習(xí)起點(diǎn)、學(xué)習(xí)情緒等個(gè)性特征對(duì)學(xué)習(xí)績(jī)效有顯著影響，因此，研究者們將個(gè)體的先驗(yàn)知識(shí)、個(gè)性化學(xué)習(xí)率、學(xué)習(xí)情緒、學(xué)習(xí)態(tài)度融入深度知識(shí)追蹤模型中來獲得更加精準(zhǔn)的追蹤效果[19-21]。（4）預(yù)測(cè)結(jié)果可解釋性方面，為了更好地促進(jìn)深度知識(shí)追蹤模型的實(shí)際教學(xué)應(yīng)用，Lu等人針對(duì)深度學(xué)習(xí)模型的“黑箱”問題，采用相關(guān)性逐層傳播算法對(duì)基于循環(huán)神經(jīng)網(wǎng)絡(luò)的深度知識(shí)追蹤模型進(jìn)行了可解釋性研究，并證明了深度知識(shí)追蹤模型決策的有效性[22]。（5）測(cè)評(píng)行為特征嵌入方面，Zhang、Yang等人分別提出了基于特征工程和基于決策樹的深度知識(shí)追蹤模型[23-24]。前者需要大量的人工參與和專家知識(shí)，而后者能夠?qū)崿F(xiàn)自動(dòng)特征嵌入。

綜合而言，既有深度知識(shí)追蹤模型的研究在記憶與遺忘機(jī)制優(yōu)化、知識(shí)狀態(tài)顯性化、學(xué)習(xí)者個(gè)體差異化、預(yù)測(cè)結(jié)果可解釋性、測(cè)評(píng)行為特征嵌入等方面已取得一定的進(jìn)展，但已有研究較少關(guān)注測(cè)評(píng)行為特征（學(xué)習(xí)者層面）和知識(shí)結(jié)構(gòu)特征（知識(shí)層面）的協(xié)同融合問題。因此，本研究以此為切入點(diǎn)，對(duì)深度知識(shí)追蹤模型進(jìn)行改進(jìn)優(yōu)化，以提高模型追蹤結(jié)果的精準(zhǔn)性。

三、基于特征融合的深度知識(shí)追蹤模型設(shè)計(jì)與實(shí)現(xiàn)

（一）基于特征融合的深度知識(shí)追蹤模型設(shè)計(jì)

深度知識(shí)追蹤主要依據(jù)學(xué)習(xí)者的測(cè)評(píng)數(shù)據(jù)來自動(dòng)化、動(dòng)態(tài)化地追蹤學(xué)習(xí)者知識(shí)狀態(tài)的變化過程，其基本過程可以抽象化地描述為如下形式：假設(shè)待追蹤的知識(shí)狀態(tài)包含M個(gè)知識(shí)點(diǎn)，測(cè)評(píng)題庫(kù)Q覆蓋這M個(gè)知識(shí)點(diǎn)，t時(shí)刻某學(xué)習(xí)者X所作答的測(cè)評(píng)題目為qt，作答結(jié)果為at（作答正確或錯(cuò)誤），則t時(shí)刻的作答可表示為xt={qt，at}，學(xué)習(xí)者歷史所有的作答序列可表示為Xt=（x1，x2，……，xt），知識(shí)追蹤模型的目標(biāo)是利用學(xué)習(xí)者歷史的作答序列來預(yù)測(cè)下一時(shí)刻正確作答題目qt+1的概率，即P（at+1=1丨qt+1，Xt），進(jìn)而根據(jù)題目與知識(shí)點(diǎn)之間的關(guān)系判斷學(xué)習(xí)者的當(dāng)前知識(shí)狀態(tài)。

如前文所述，本研究重點(diǎn)關(guān)注學(xué)習(xí)者層面的測(cè)評(píng)行為特征和知識(shí)層面的知識(shí)結(jié)構(gòu)特征，將這兩方面的領(lǐng)域特征融入深度知識(shí)追蹤模型中，需要解決兩方面的問題：一是測(cè)評(píng)行為特征的選擇問題，二是知識(shí)結(jié)構(gòu)的融合問題。對(duì)此，本研究引入決策樹算法和知識(shí)傳播機(jī)制解決上述問題。在此基礎(chǔ)上，按照“數(shù)據(jù)采集—數(shù)據(jù)處理—數(shù)據(jù)表征—數(shù)據(jù)應(yīng)用”的思路，設(shè)計(jì)了基于特征融合的深度知識(shí)追蹤模型（Deep Knowledge Tracing based on Features Fusion，DKT-FF）。

如圖1所示，該模型主要包括測(cè)評(píng)數(shù)據(jù)采集、行為特征選擇、知識(shí)結(jié)構(gòu)融合、數(shù)據(jù)向量化表示、知識(shí)狀態(tài)追蹤五大模塊。其中，測(cè)評(píng)數(shù)據(jù)采集模塊采用xAPI標(biāo)準(zhǔn)對(duì)測(cè)評(píng)過程中的行為數(shù)據(jù)和結(jié)果數(shù)據(jù)進(jìn)行獲取;行為特征選擇模塊采用決策樹算法評(píng)估、篩選有效的測(cè)評(píng)行為特征;知識(shí)結(jié)構(gòu)融合模塊采用知識(shí)傳播機(jī)制將學(xué)科知識(shí)結(jié)構(gòu)特征融入深度知識(shí)追蹤中;數(shù)據(jù)向量化表示模塊負(fù)責(zé)將測(cè)評(píng)過程產(chǎn)生的結(jié)果數(shù)據(jù)、行為數(shù)據(jù)、知識(shí)結(jié)構(gòu)進(jìn)行向量化，并對(duì)其進(jìn)行降維;知識(shí)狀態(tài)追蹤模塊通過長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)追蹤學(xué)習(xí)者的知識(shí)狀態(tài)，并采用學(xué)習(xí)儀表盤對(duì)知識(shí)追蹤的結(jié)果進(jìn)行可視化呈現(xiàn)。

（二）基于特征融合的深度知識(shí)追蹤模型實(shí)現(xiàn)

1. 基于xAPI標(biāo)準(zhǔn)的測(cè)評(píng)數(shù)據(jù)采集

測(cè)評(píng)數(shù)據(jù)是指測(cè)評(píng)活動(dòng)中所產(chǎn)生的行為數(shù)據(jù)和結(jié)果數(shù)據(jù)，是學(xué)習(xí)者知識(shí)狀態(tài)追蹤和學(xué)習(xí)反饋設(shè)計(jì)的基礎(chǔ)，而測(cè)評(píng)數(shù)據(jù)采集的標(biāo)準(zhǔn)化是后續(xù)處理分析與高效應(yīng)用的重要保障。本研究參考xAPI標(biāo)準(zhǔn)提出的語(yǔ)義結(jié)構(gòu)，采用“行為主體—行為動(dòng)作—行為對(duì)象—行為場(chǎng)景”模式對(duì)測(cè)評(píng)活動(dòng)流進(jìn)行采集。

2. 基于決策樹的行為特征選擇

特征選擇是根據(jù)一定的評(píng)價(jià)標(biāo)準(zhǔn)從全部特征中選取最優(yōu)特征子集的過程，其目的是使分類、預(yù)測(cè)等機(jī)器學(xué)習(xí)任務(wù)更加精確，泛化能力更強(qiáng)。決策樹是大數(shù)據(jù)時(shí)代處理分類和預(yù)測(cè)問題最常用的機(jī)器學(xué)習(xí)算法之一，具有很強(qiáng)的特征選擇能力。因此，本研究采用決策樹算法來選取對(duì)測(cè)評(píng)數(shù)據(jù)具有強(qiáng)分類能力的行為特征。在決策樹構(gòu)建中，非葉子節(jié)點(diǎn)分裂是以測(cè)評(píng)行為特征為條件，葉子節(jié)點(diǎn)表示測(cè)評(píng)結(jié)果變量（答對(duì)或答錯(cuò)），其過程主要包括以下三個(gè)基本步驟：

（1）基尼指數(shù)計(jì)算階段

決策樹作為一種樹形結(jié)構(gòu)，其構(gòu)建的關(guān)鍵是如何選擇節(jié)點(diǎn)分裂時(shí)的特征。本研究采用信息論中的基尼指數(shù)（Gini）作為量化策略對(duì)其進(jìn)行篩選。對(duì)于本研究中的測(cè)評(píng)數(shù)據(jù)，假設(shè)作答行為數(shù)據(jù)集為D，數(shù)據(jù)集D中的行為特征集合為A=（A1，A2，A3，……，An），則基于行為特征A對(duì)數(shù)據(jù)集D進(jìn)行劃分后的基尼指數(shù)為：

其中，V表示行為特征的取值數(shù)量，Dv表示數(shù)據(jù)集D被行為特征A所劃分成的子集。

（2）決策樹生成階段

以測(cè)評(píng)結(jié)果為目標(biāo)變量，以各類測(cè)評(píng)行為特征為預(yù)測(cè)因子，采用“自上而下”的思想，從根節(jié)點(diǎn)開始逐層向下選擇基尼指數(shù)最小的節(jié)點(diǎn)進(jìn)行分裂，遞歸構(gòu)建決策樹，直至深度達(dá)到設(shè)定的樹深為止。

（3）決策樹剪枝階段

為提高決策樹在測(cè)評(píng)數(shù)據(jù)上的適應(yīng)能力、降低過擬合的風(fēng)險(xiǎn)，需通過剪枝操作對(duì)其進(jìn)行優(yōu)化。剪枝操作的好壞需通過代價(jià)函數(shù)進(jìn)行衡量，其目標(biāo)是使得代價(jià)函數(shù)最小化。本研究在剪枝過程中采用的代價(jià)函數(shù)為：

其中，C（T ）表示子樹T的基尼指數(shù)，|T |表示子樹T的葉結(jié)點(diǎn)個(gè)數(shù)。

3. 基于知識(shí)傳播機(jī)制的知識(shí)結(jié)構(gòu)融合

知識(shí)結(jié)構(gòu)融合是指依據(jù)測(cè)評(píng)知識(shí)點(diǎn)在網(wǎng)絡(luò)中的傳播機(jī)理，將知識(shí)點(diǎn)所在的局部網(wǎng)絡(luò)結(jié)構(gòu)融入知識(shí)追蹤的過程。本研究基于知識(shí)在網(wǎng)絡(luò)中的傳播機(jī)制——波紋式傳播[25]，設(shè)計(jì)了如圖2所示的知識(shí)結(jié)構(gòu)融合方法，具體包括知識(shí)擴(kuò)散和知識(shí)聚合兩個(gè)階段。

知識(shí)擴(kuò)散階段的過程如下：首先，根據(jù)知識(shí)追蹤所涉及的學(xué)科，通過知識(shí)抽取、關(guān)系挖掘構(gòu)建學(xué)科的知識(shí)圖譜[26];其次，使用圖譜的查詢語(yǔ)言在學(xué)科知識(shí)圖譜中定位當(dāng)前測(cè)評(píng)題目所考查的知識(shí)點(diǎn)（如圖中的知識(shí)點(diǎn)A和B）;然后，在學(xué)科知識(shí)圖譜中分別以A和B為中心點(diǎn)，根據(jù)前驅(qū)后繼關(guān)系逐層向外擴(kuò)散，當(dāng)漣漪第一次到達(dá)新節(jié)點(diǎn)時(shí)完成一次擴(kuò)散，接著以這些1階鄰居節(jié)點(diǎn)為中心點(diǎn)繼續(xù)進(jìn)行第2次擴(kuò)散，直至達(dá)到設(shè)定的最大擴(kuò)散次數(shù)n，擴(kuò)散過程所經(jīng)過的節(jié)點(diǎn)和邊一起構(gòu)成了待追蹤知識(shí)點(diǎn)的k階鄰居知識(shí)結(jié)構(gòu)，記為N（v）。

知識(shí)聚合階段則按照“由外而內(nèi)”的方向?qū)階鄰居知識(shí)結(jié)構(gòu)信息聚集到當(dāng)前知識(shí)點(diǎn)上。為簡(jiǎn)化計(jì)算過程，本研究采用平均聚合法，對(duì)鄰居節(jié)點(diǎn)每個(gè)維度的特征信息取平均值，然后與目標(biāo)節(jié)點(diǎn)進(jìn)行拼接。假設(shè)k表示目標(biāo)知識(shí)點(diǎn)能夠聚合的鄰接節(jié)點(diǎn)跳數(shù)，hkN（v）表示第k層中知識(shí)點(diǎn)v所有鄰居節(jié)點(diǎn)的特征信息，hvk表示知識(shí)點(diǎn)v在第k層的特征信息，則

其中，MEAN表示平均聚合函數(shù)，CONCAT表示拼接函數(shù)。

4. 數(shù)據(jù)向量化表示

深度知識(shí)追蹤模型一般采用長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)，因此，需要將學(xué)習(xí)者的歷史測(cè)評(píng)數(shù)據(jù)轉(zhuǎn)換成網(wǎng)絡(luò)能夠處理和識(shí)別的形式，即對(duì)輸入數(shù)據(jù)進(jìn)行向量化表示。

針對(duì)本研究所提出的模型，其輸入數(shù)據(jù)類別及向量化表示方式如下：（1）測(cè)評(píng)結(jié)果類數(shù)據(jù)，主要包括題目的編號(hào)、題目的作答結(jié)果、題目所考察的知識(shí)點(diǎn)。對(duì)于該類數(shù)據(jù)，其類型為離散型變量，主要采用獨(dú)熱碼形式對(duì)其進(jìn)行向量化。（2）測(cè)評(píng)行為類數(shù)據(jù)，包括作答時(shí)間、嘗試次數(shù)、提示次數(shù)、作答第一反應(yīng)等，這些特征依據(jù)決策樹進(jìn)行選擇，主要選擇位于決策樹根節(jié)點(diǎn)、分叉較早的特征，最后將篩選出的重要特征通過多位0、1編碼進(jìn)行向量化表示。（3）知識(shí)結(jié)構(gòu)類數(shù)據(jù)，即與測(cè)評(píng)題目知識(shí)點(diǎn)相關(guān)聯(lián)的知識(shí)結(jié)構(gòu)，該類數(shù)據(jù)基于知識(shí)傳播機(jī)制進(jìn)行獲取，并結(jié)合圖嵌入方式進(jìn)行向量化表示。

多特征數(shù)據(jù)的向量化表示會(huì)帶來維數(shù)災(zāi)難問題，因此，特征降維是DKT-FF模型必不可少的環(huán)節(jié)。在對(duì)多種特征降維方法（如PCA、NMF、tSNE等）進(jìn)行對(duì)比分析基礎(chǔ)上，本研究采用自編碼器（AutoEncoder）對(duì)上述向量進(jìn)行降維處理[27]。

5. 基于LSTM網(wǎng)絡(luò)的知識(shí)狀態(tài)追蹤

長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)（Long Short-Term Memory Neural Network，簡(jiǎn)稱LSTM網(wǎng)絡(luò)）是人工智能領(lǐng)域解決時(shí)間序列問題最常用的深度學(xué)習(xí)模型[28]。而知識(shí)追蹤任務(wù)的本質(zhì)是基于測(cè)評(píng)數(shù)據(jù)追蹤學(xué)習(xí)者知識(shí)狀態(tài)隨時(shí)間變化的過程，因此，LSTM網(wǎng)絡(luò)對(duì)于解決知識(shí)追蹤問題具有較好的適用性。

如圖3所示，基于LSTM網(wǎng)絡(luò)的知識(shí)狀態(tài)追蹤包括輸入層、隱藏層、輸出層。其中，輸入層輸入的是經(jīng)過向量化表示和降維處理后的測(cè)評(píng)數(shù)據(jù);隱藏層通過學(xué)習(xí)、記憶和遺忘機(jī)制隱式建模學(xué)習(xí)者的知識(shí)狀態(tài)與測(cè)評(píng)數(shù)據(jù)的關(guān)聯(lián);輸出層輸出的是一個(gè)與題庫(kù)知識(shí)點(diǎn)數(shù)量一致的多維向量，表示下一時(shí)刻學(xué)習(xí)者對(duì)各個(gè)知識(shí)點(diǎn)的掌握狀況。LSTM網(wǎng)絡(luò)的核心是隱藏層中負(fù)責(zé)記憶管理的記憶單元，每個(gè)記憶單元通過輸入門、遺忘門、輸出門三種門結(jié)構(gòu)來精細(xì)調(diào)節(jié)信息的存入、遺忘、輸出。

LSTM網(wǎng)絡(luò)所具備的追蹤能力由各網(wǎng)絡(luò)層的參數(shù)決定，而這些參數(shù)需要以測(cè)評(píng)數(shù)據(jù)為樣本進(jìn)行訓(xùn)練獲得。目前，訓(xùn)練LSTM網(wǎng)絡(luò)的常用方法是反向傳播算法，即將網(wǎng)絡(luò)的預(yù)測(cè)值和測(cè)評(píng)結(jié)果的實(shí)際值進(jìn)行比較，將二者的誤差從輸出層開始反向向前傳播，并按照梯度下降法調(diào)整各網(wǎng)絡(luò)層的內(nèi)部參數(shù)，以期使LSTM網(wǎng)絡(luò)的預(yù)測(cè)值與真實(shí)值之間的差值最小化。在具體計(jì)算中，采用下面的損失函數(shù)來估算預(yù)測(cè)值和真實(shí)值之間的差異程度：

其中，？詛代表交叉熵?fù)p失函數(shù)，？啄代表編碼方式，a■表示t+1時(shí)刻測(cè)評(píng)結(jié)果的真實(shí)值，編碼向量？啄（q■）表示t+1時(shí)刻作答的題目，OT表示長(zhǎng)度為知識(shí)點(diǎn)總數(shù)的輸出向量。

四、基于特征融合的深度知識(shí)追蹤模型

驗(yàn)證實(shí)驗(yàn)

為了驗(yàn)證融合領(lǐng)域特征的深度知識(shí)追蹤模型具有有效性和實(shí)用性，本研究依托團(tuán)隊(duì)研發(fā)的智慧教育云平臺(tái)，設(shè)計(jì)并開發(fā)了深度知識(shí)追蹤系統(tǒng)原型（如圖4所示），并通過算法對(duì)比實(shí)驗(yàn)和實(shí)際教學(xué)應(yīng)用效果對(duì)模型進(jìn)行了驗(yàn)證。實(shí)驗(yàn)對(duì)象為使用該系統(tǒng)的X中學(xué)初一年級(jí)學(xué)生，共計(jì)208名。

（一）算法對(duì)比實(shí)驗(yàn)

本研究采集了實(shí)驗(yàn)對(duì)象在使用深度知識(shí)追蹤系統(tǒng)過程中產(chǎn)生的測(cè)評(píng)數(shù)據(jù)，共計(jì)162701條數(shù)據(jù)記錄。按照8∶2的比例將數(shù)據(jù)集隨機(jī)劃分為訓(xùn)練集和測(cè)試集，選取AUC（Area Under Curve）值作為模型的評(píng)價(jià)指標(biāo)，將提出的DKT-FF模型與項(xiàng)目反應(yīng)理論模型IRT、貝葉斯知識(shí)追蹤模型BKT、原始深度知識(shí)追蹤模型DKT進(jìn)行了對(duì)比分析，實(shí)驗(yàn)結(jié)果如圖5所示。

從圖中可以得出如下結(jié)論：（1）源于心理測(cè)量領(lǐng)域的IRT模型在預(yù)測(cè)效果上要優(yōu)于BKT模型和DKT模型。這是因?yàn)镮RT模型在預(yù)測(cè)學(xué)生的知識(shí)掌握程度時(shí)，考慮到了項(xiàng)目的難度、區(qū)分度和猜測(cè)系數(shù)等題目特征，而原始的BKT模型和DKT模型尚未考慮這些特征。（2）對(duì)BKT模型和DKT模型進(jìn)行對(duì)比可以發(fā)現(xiàn)，DKT模型的預(yù)測(cè)效果優(yōu)于BKT模型。這說明采用長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)的深度知識(shí)追蹤模型能夠更好地學(xué)習(xí)測(cè)評(píng)數(shù)據(jù)的時(shí)間序列特征，但DKT模型整體效果稍遜色于IRT模型，究其原因是DKT模型未能充分考慮領(lǐng)域特征和領(lǐng)域知識(shí)。（3）本研究提出的DKT-FF模型在本實(shí)驗(yàn)數(shù)據(jù)集上的表現(xiàn)明顯優(yōu)于其他各模型，這表明融合測(cè)評(píng)行為特征和知識(shí)結(jié)構(gòu)特征的DKT-FF模型具有有效性。

（二）教學(xué)應(yīng)用效果分析

教學(xué)應(yīng)用效果分析實(shí)驗(yàn)采用對(duì)照實(shí)驗(yàn)法，將X中學(xué)初一年級(jí)208名學(xué)生隨機(jī)分成實(shí)驗(yàn)組和對(duì)照組，實(shí)驗(yàn)組使用深度知識(shí)追蹤系統(tǒng)實(shí)時(shí)診斷自己的知識(shí)狀態(tài)，而對(duì)照組則根據(jù)教師反饋判斷自己的知識(shí)狀態(tài)。教學(xué)應(yīng)用的實(shí)施周期為8周，在第1周開始和第8周結(jié)束時(shí)，分別對(duì)實(shí)驗(yàn)組和對(duì)照組學(xué)生進(jìn)行前測(cè)和后測(cè)，通過獨(dú)立樣本t檢驗(yàn)和協(xié)方差分析，比較兩組學(xué)生在實(shí)驗(yàn)前后的知識(shí)水平差異，統(tǒng)計(jì)分析結(jié)果見表1。

獨(dú)立樣本t檢驗(yàn)的結(jié)果顯示，實(shí)驗(yàn)組的前測(cè)成績(jī)（83.66）和對(duì)照組的前測(cè)成績(jī)（84.06）并無顯著差異（p=0.462>0.05）。這表明在開展系統(tǒng)的實(shí)際應(yīng)用前，兩組學(xué)生的知識(shí)水平相當(dāng)，避免了由于學(xué)生初始知識(shí)水平差異而導(dǎo)致的后測(cè)偏差。

協(xié)方差分析中，分別以前測(cè)成績(jī)和后測(cè)成績(jī)?yōu)閰f(xié)變量和因變量，判斷兩組的后測(cè)差異。經(jīng)方差同質(zhì)性檢驗(yàn)，使用協(xié)方差分析后測(cè)成績(jī)是可行的。協(xié)方差分析結(jié)果顯示，實(shí)驗(yàn)組和對(duì)照組調(diào)整后的均值分別為92.170和85.887，兩者相差6.283，兩組學(xué)生的學(xué)習(xí)成績(jī)存在顯著性差異（p<0.05）。由此可見，使用深度知識(shí)追蹤系統(tǒng)實(shí)時(shí)報(bào)告學(xué)生的知識(shí)狀態(tài)能夠提高學(xué)生的學(xué)習(xí)績(jī)效。通過對(duì)對(duì)照組學(xué)生的訪談發(fā)現(xiàn)，對(duì)照組學(xué)生缺少實(shí)時(shí)的知識(shí)狀態(tài)反饋，在進(jìn)行補(bǔ)救學(xué)習(xí)時(shí)目標(biāo)模糊、缺乏針對(duì)性，故其學(xué)習(xí)效率較低、學(xué)習(xí)進(jìn)階緩慢。由以上對(duì)比實(shí)驗(yàn)可知，深度知識(shí)追蹤系統(tǒng)對(duì)學(xué)習(xí)績(jī)效具有促進(jìn)作用，表明本研究提出的改進(jìn)型深度知識(shí)追蹤模型具有實(shí)用性。

五、基于特征融合的深度知識(shí)追蹤模型未來應(yīng)用前景

（一）助力核心素養(yǎng)導(dǎo)向的教育評(píng)價(jià)

隨著學(xué)科教學(xué)本質(zhì)的回歸，當(dāng)今世界各國(guó)的育人目標(biāo)體系正經(jīng)歷從“三維目標(biāo)”到“核心素養(yǎng)”的發(fā)展變化過程，教育評(píng)價(jià)也由傳統(tǒng)的知識(shí)掌握和能力發(fā)展評(píng)價(jià)向“素養(yǎng)導(dǎo)向、能力為重、知識(shí)為基”的評(píng)價(jià)方向轉(zhuǎn)變。然而，學(xué)科核心素養(yǎng)具有內(nèi)隱性特征，難以通過可觀察的外顯行為指標(biāo)進(jìn)行測(cè)量與評(píng)價(jià)，需要根據(jù)學(xué)習(xí)者在真實(shí)情境或模擬情境中解決復(fù)雜問題的交互數(shù)據(jù)進(jìn)行推斷，而深度知識(shí)追蹤模型為這種表現(xiàn)性評(píng)價(jià)提供了交互行為特征抽取、問題解決任務(wù)追蹤以及測(cè)評(píng)結(jié)果推理的能力，對(duì)于面向核心素養(yǎng)的教育測(cè)量與評(píng)價(jià)具有重要作用。

在具體操作層面，首先，應(yīng)厘清學(xué)科核心素養(yǎng)內(nèi)涵及其所包含的知識(shí)、能力要素，構(gòu)建涵蓋知識(shí)—能力—素養(yǎng)的關(guān)系圖譜;其次，依據(jù)“以證據(jù)為中心的設(shè)計(jì)”理論，按照“任務(wù)設(shè)計(jì)、情境構(gòu)建、獲取證據(jù)”的邏輯鏈條進(jìn)行測(cè)驗(yàn)設(shè)計(jì)與開發(fā);然后，借助本研究提出的改進(jìn)型深度知識(shí)追蹤模型抽取行為特征，進(jìn)而從評(píng)價(jià)學(xué)習(xí)者對(duì)學(xué)科知識(shí)的掌握狀態(tài)開始，逐步提高層次，推斷出學(xué)習(xí)者學(xué)科能力的運(yùn)用水平、學(xué)科核心素養(yǎng)的達(dá)成度，最終為學(xué)習(xí)者提供涵蓋知識(shí)掌握狀態(tài)、能力發(fā)展?fàn)顩r以及學(xué)科素養(yǎng)表現(xiàn)的“學(xué)習(xí)儀表盤”。

（二）優(yōu)化智慧學(xué)習(xí)環(huán)境中的智能導(dǎo)學(xué)

智能導(dǎo)學(xué)是智慧學(xué)習(xí)環(huán)境的基本特征，已成為當(dāng)前人工智能賦能教育的重要實(shí)踐場(chǎng)域[29]。智能導(dǎo)學(xué)是在融合認(rèn)知科學(xué)理論和人工智能技術(shù)基礎(chǔ)上，由扮演專家指導(dǎo)者的教學(xué)代理或智能體為學(xué)習(xí)者設(shè)計(jì)個(gè)性化的學(xué)習(xí)方案，并全過程跟蹤學(xué)習(xí)方案的實(shí)施，實(shí)時(shí)量化分析學(xué)習(xí)者的過程數(shù)據(jù)，適時(shí)提供個(gè)性化的教學(xué)指導(dǎo)和有效的助學(xué)支架。

一般而言，智能導(dǎo)學(xué)的基本體系架構(gòu)包括學(xué)習(xí)者知識(shí)模型、領(lǐng)域知識(shí)模型、適應(yīng)性指導(dǎo)模型、人機(jī)交互模型，而本研究提出的改進(jìn)型深度知識(shí)追蹤模型不僅有助于智能導(dǎo)學(xué)系統(tǒng)中學(xué)習(xí)者知識(shí)模型的快速、精準(zhǔn)構(gòu)建，而且能夠結(jié)合聚類分析挖掘出知識(shí)之間隱含的語(yǔ)義關(guān)系，為領(lǐng)域知識(shí)建模打下基礎(chǔ);同時(shí)，改進(jìn)型深度知識(shí)追蹤模型還具有很好的特征融合能力，為導(dǎo)學(xué)系統(tǒng)人機(jī)交互模型的行為特征和情感特征提取提供支撐，實(shí)現(xiàn)對(duì)學(xué)習(xí)者“知識(shí)—認(rèn)知—情感—交互”多層次的建模分析，進(jìn)而推動(dòng)編程教育類、游戲化學(xué)習(xí)類、STEAM教育類等互動(dòng)型、情感型智能導(dǎo)學(xué)系統(tǒng)的研發(fā)和推廣應(yīng)用。

[參考文獻(xiàn)]

[1] 李振，董曉曉，周東岱，童婷婷.自適應(yīng)學(xué)習(xí)系統(tǒng)中知識(shí)圖譜的人機(jī)協(xié)同構(gòu)建方法與應(yīng)用研究[J].現(xiàn)代教育技術(shù)，2019，29（10）：80-86.

[2] 李振，周東岱，王勇.“人工智能+”視域下的教育知識(shí)圖譜：內(nèi)涵、技術(shù)框架與應(yīng)用研究[J].遠(yuǎn)程教育雜志，2019，37（4）：42-53.

[3] 朱佳，張麗君，梁婉瑩.數(shù)據(jù)驅(qū)動(dòng)下的個(gè)性化自適應(yīng)學(xué)習(xí)研究綜述[J].華南師范大學(xué)學(xué)報(bào)（自然科學(xué)版），2020，52（4）：17-25.

[4] 鄭勤華，熊潞穎，胡丹妮.任重道遠(yuǎn)：人工智能教育應(yīng)用的困境與突破[J].開放教育研究，2019，25（4）：10-17.

[5] RUSS S. Integrating domain-knowledge into deep learning[EB/OL]. （2019-04-14）[2021-09-18]. http：//www.cs.cmu.edu/～rsalakhu/10 707/Lectures/Lecture_domain.pdf.

[6] 李菲茗，葉艷偉，李曉菲，史丹丹.知識(shí)追蹤模型在教育領(lǐng)域的應(yīng)用：2008—2017年相關(guān)研究的綜述[J].中國(guó)遠(yuǎn)程教育，2019（7）：86-91.

[7] 戴海琦，羅照盛.項(xiàng)目反應(yīng)理論原理與當(dāng)前應(yīng)用熱點(diǎn)概覽[J].心理學(xué)探新，2013，33（5）：392-395.

[8] 路鵬.計(jì)算機(jī)自適應(yīng)測(cè)試若干關(guān)鍵技術(shù)研究[D].長(zhǎng)春：東北師范大學(xué)，2012：24-29.

[9] 劉聲濤，戴海崎，周駿.新一代測(cè)驗(yàn)理論—認(rèn)知診斷理論的源起與特征[J].心理學(xué)探新，2006（4）：73-77.

[10] CORBETT A T， ANDERSON J R. Knowledge tracing： modeling the acquisition of procedural knowledge[J]. User modeling and user-adapted interaction， 1995，4（4）：253-278.

[11] PARDOS Z A， HEFFERNAN N T. Modeling individualization in a bayesian networks implementation of knowledge tracing[C]//User Modeling， Adaptation， & Personalization， International Conference. Berlin： Springer， 2010：255-266.

[12] YUDELSON M V， KOEDINGER K R， GORDON G J. Individualized bayesian knowledge tracing models[C]//16th International Conference on Artificial Intelligence in Education. Berlin： Springer， 2013：171-180.

[13] NEDUNGADI P， REMYA M S. Incorporating forgetting in the personalized， clustered， bayesian knowledge tracing（pc-bkt） model[C]//International Conference on Cognitive Computing and Information Processing. New York： ACM Press， 2015：1-5.

[14] 徐墨客，吳文峻，周萱，蒲彥均.多知識(shí)點(diǎn)知識(shí)追蹤模型與可視化研究[J].電化教育研究，2018，39（10）：53-59.

[15] PIECH C， SPENCER J， HUANG J， et al. Deep knowledge tracing[J]. Computer science， 2015， 3（3）：19-23.

[16] ZOU Y， YAN X D， LI W. Knowledge tracking model based on learning process[J]. Journal of computer and communications，2020，8（10）：7-17.

[17] 李曉光，魏思齊，張昕，等.LFKT：學(xué)習(xí)與遺忘融合的深度知識(shí)追蹤模型[J].軟件學(xué)報(bào)，2021，32（3）：818-830.

[18] ZHANG J， SHI X， KING I， et al. Dynamic key-value memory networks for knowledge tracing[C]//International Conference on World Wide Web. New York： ACM Press， 2017：765-774.

[19] SHEN S H， LIU Q， CHEN E， et al. Convolutional knowledge tracing： modeling individualization in student learning process[C]//43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. New York： ACM Press， 2020：1857-1860.

[20] 葉韻.融合學(xué)習(xí)情緒的學(xué)習(xí)者知識(shí)狀態(tài)建模及在中學(xué)生在線學(xué)習(xí)中的應(yīng)用[D].杭州：浙江工業(yè)大學(xué)，2020：25-28.

[21] 閭漢原，申麟，漆美.基于“態(tài)度”的知識(shí)追蹤模型及集成技術(shù)[J].徐州師范大學(xué)學(xué)報(bào)（自然科學(xué)版），2011，29（4）：54-57.

[22] LU Y， WANG D， MENG Q， et al. Towards interpretable deep learning models for knowledge tracing[C]//International Conference on Artificial Intelligence in Education. Berlin： Springer， 2020：185-190.

[23] ZHANG L， XIONG X， ZHAO S， et al. Incorporating rich features into deep knowledge tracing[C]//ACM Conference on Learning @ Scale. New York： ACM Press， 2017：169-172.

[24] YANG H， CHEUNG L. Implicit heterogeneous features embedding in deep knowledge tracing[J]. Cognitive computation， 2018，10（1）：3-14.

[25] 易成岐.社會(huì)網(wǎng)絡(luò)的信息傳播機(jī)制及控制方法研究[D].哈爾濱：哈爾濱理工大學(xué)，2016：33-34.

[26] 李振，周東岱.教育知識(shí)圖譜的概念模型與構(gòu)建方法研究[J].電化教育研究，2019，40（8）：78-86，113.

[27] 劉思媛.深層稀疏自編碼器的人臉識(shí)別降維研究[D].西安：西安理工大學(xué)，2018：35-44.

[28] SCHMIDHUBER J， HOCHREITER S. Long short-term memory[J]. Neural comput， 1997， 9（8）： 1735-1780.

[29] 鄭慶華，董博，錢步月，田鋒，魏筆凡，張未展，劉均.智慧教育研究現(xiàn)狀與發(fā)展趨勢(shì)[J].計(jì)算機(jī)研究與發(fā)展，2019，56（1）：209-224.