[摘 要] 國家人工智能發(fā)展戰(zhàn)略的實(shí)施及深度學(xué)習(xí)技術(shù)的火熱,引發(fā)了研究生對(duì)“深度學(xué)習(xí)”課程的學(xué)習(xí)熱潮。深度學(xué)習(xí)技術(shù)日新月異的變化和大量前沿英文資料的涌現(xiàn),使得“深度學(xué)習(xí)”課程的雙語教學(xué)勢(shì)在必行。系統(tǒng)闡述了“深度學(xué)習(xí)”研究生課程雙語教學(xué)的課程內(nèi)容設(shè)計(jì)、講授方式、考核方式、教學(xué)效果的反饋和評(píng)價(jià)等。授課過程采用教師講授和學(xué)生互動(dòng)相結(jié)合的方式進(jìn)行,設(shè)計(jì)了算法應(yīng)用示例演示與復(fù)現(xiàn)、文獻(xiàn)翻譯與交流、課堂提問與分組討論、項(xiàng)目類作業(yè)與討論、開放暢想等環(huán)節(jié),以提高學(xué)生的參與度和教學(xué)效果。
[關(guān)鍵詞] 深度學(xué)習(xí);雙語教學(xué);文獻(xiàn)閱讀能力;知識(shí)更新
[基金項(xiàng)目] 2019年度上海市經(jīng)信委人工智能發(fā)展專項(xiàng)“面向宇航員行為意圖理解的多模態(tài)人機(jī)交互技術(shù)研究”(2019-RGZN-01077);2018.01—2020.12上海理工大學(xué)研究生實(shí)踐基地建設(shè)項(xiàng)目“上海理工大學(xué)‘光學(xué)工程全日制專業(yè)學(xué)位研究生聯(lián)合培養(yǎng)基地”(10-18-115-003)
[作者簡介] 秦曉飛(1982—),男,河北石家莊人,博士,上海理工大學(xué)高級(jí)工程師,主要從事智能控制和人工智能算法研究。
[中圖分類號(hào)] G642.0? ? [文獻(xiàn)標(biāo)識(shí)碼] A? ? [文章編號(hào)] 1674-9324(2021)27-0013-04? ? [收稿日期] 2021-03-03
一、引言
隨著人工智能技術(shù)的廣泛應(yīng)用和快速發(fā)展,社會(huì)各個(gè)行業(yè)對(duì)人工智能人才的需求越來越迫切。據(jù)不完全統(tǒng)計(jì),2019年我國人工智能相關(guān)人才缺口超過500萬[1]。資本的涌入和人才的短缺使得社會(huì)上人工智能人才的薪資水平急劇提升,同時(shí)人工智能技術(shù)為我們的工作和生活帶來了翻天覆地的變化,這激發(fā)了高校學(xué)生學(xué)習(xí)人工智能技術(shù)的極大熱情。人工智能技術(shù)主要分為三個(gè)學(xué)派,即以“專家系統(tǒng)”為代表的符號(hào)主義;以“自適應(yīng)控制”為代表的行為主義;以“神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)”為代表的連接主義[2]。自1956年達(dá)特茅斯會(huì)議正式提出人工智能框架以來,人工智能技術(shù)經(jīng)歷了3次浪潮,現(xiàn)在正處在第3次浪潮,掀起這次浪潮的主要技術(shù)就是深度神經(jīng)網(wǎng)絡(luò),即人們常說的深度學(xué)習(xí)技術(shù)。
深度學(xué)習(xí)技術(shù)目前處于快速發(fā)展的階段,相關(guān)技術(shù)日新月異。根據(jù)谷歌學(xué)術(shù)的統(tǒng)計(jì),全球深度學(xué)習(xí)相關(guān)論文近幾年的年增長率約50%,2020年約有3萬篇關(guān)于深度學(xué)習(xí)的論文發(fā)布。這些最新的文獻(xiàn)資料大部分是以英文呈現(xiàn)的,因此開展“深度學(xué)習(xí)”研究生課程的雙語教學(xué),提高學(xué)生對(duì)英文文獻(xiàn)的閱讀能力,保持學(xué)生對(duì)相關(guān)技術(shù)的知識(shí)更新速度顯得尤為重要。
二、“深度學(xué)習(xí)”研究生課程雙語教學(xué)背景
雖然自2018年以來,國內(nèi)已經(jīng)有幾十所高校開設(shè)了人工智能本科專業(yè)[3],但目前在校的很多研究生由于本科階段沒有學(xué)過相關(guān)課程,對(duì)深度學(xué)習(xí)基本概念了解較少。深度學(xué)習(xí)技術(shù)的熱潮和社會(huì)對(duì)相關(guān)人才的迫切需求造成現(xiàn)階段研究生對(duì)“深度學(xué)習(xí)”課程高漲的選課熱情。以筆者作為主講教師在上海理工大學(xué)開設(shè)的“深度學(xué)習(xí)”研究生課程為例,近兩年每年選課人數(shù)都超過了100人,以至于不得不分成兩個(gè)班教學(xué)。同時(shí),本課程面向全校研究生開放,因此選課學(xué)生來自多個(gè)不同的專業(yè)。比如2019年選課學(xué)生中有30%來自控制專業(yè),24%來自計(jì)算機(jī)專業(yè),20%來自生物醫(yī)學(xué)專業(yè),13%來自儀器儀表專業(yè),13%來自機(jī)械、電氣、管理等專業(yè)。2020年選課學(xué)生中有40%來自計(jì)算機(jī)專業(yè),24%來自生物醫(yī)學(xué)專業(yè),21%來自控制專業(yè),15%來自儀器儀表、電氣、管理等專業(yè)。選課學(xué)生不同的專業(yè)知識(shí)背景,以及較短的學(xué)時(shí)限制,使得“深度學(xué)習(xí)”研究生課程雙語教學(xué)方案需要進(jìn)行精心的設(shè)計(jì)與思考。
三、“深度學(xué)習(xí)”研究生課程雙語教學(xué)內(nèi)容設(shè)置
本課程以斯坦福大學(xué)吳恩達(dá)(Andrew Ng)教師在網(wǎng)易公開課開設(shè)的“深度學(xué)習(xí)工程師”課程內(nèi)容為基礎(chǔ),介紹了深度學(xué)習(xí)的基礎(chǔ)知識(shí)和工程經(jīng)驗(yàn)。分五部分講授:(1)神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí),此部分學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)的基礎(chǔ)與案例;(2)改善深層神經(jīng)網(wǎng)絡(luò),此部分學(xué)習(xí)前沿的深度學(xué)習(xí)方法,學(xué)會(huì)搭建自己的神經(jīng)網(wǎng)絡(luò),并學(xué)習(xí)網(wǎng)絡(luò)上經(jīng)常出現(xiàn)的各種問題的解決方法;(3)結(jié)構(gòu)化機(jī)器學(xué)習(xí),此部分學(xué)習(xí)診斷機(jī)器學(xué)習(xí)系統(tǒng)中的錯(cuò)誤,介紹部分工程經(jīng)驗(yàn),訓(xùn)練屬于自己的AI系統(tǒng);(4)卷積神經(jīng)網(wǎng)絡(luò),此部分學(xué)習(xí)搭建卷積神經(jīng)網(wǎng)絡(luò)并將其應(yīng)用于計(jì)算機(jī)視覺識(shí)別;(5)序列模型,此部分學(xué)習(xí)搭建循環(huán)神經(jīng)網(wǎng)絡(luò)并應(yīng)用于自然語言處理和音頻識(shí)別等序列數(shù)據(jù)場合。這五部分內(nèi)容由淺入深,循序漸進(jìn),但各章節(jié)之間的內(nèi)容又有一定的獨(dú)立性。各部分內(nèi)容之間的關(guān)系如圖1所示。
“深度學(xué)習(xí)”課程的教學(xué)目的是通過教學(xué)與課后作業(yè),使學(xué)生掌握以下知識(shí):神經(jīng)網(wǎng)絡(luò)、深層神經(jīng)網(wǎng)絡(luò)的基本概念;神經(jīng)網(wǎng)絡(luò)中的計(jì)算過程和推導(dǎo);工程實(shí)踐中的常見問題和對(duì)策;卷積神經(jīng)網(wǎng)絡(luò)基本概念和應(yīng)用示例;循環(huán)神經(jīng)網(wǎng)絡(luò)的基本概念和應(yīng)用示例。通過學(xué)習(xí)此課程,學(xué)生在后續(xù)的科研工作中能夠?qū)Ω呒?jí)的深層神經(jīng)網(wǎng)絡(luò)觸類旁通,快速應(yīng)用。
“深度學(xué)習(xí)”課程是一門27學(xué)時(shí)的研究生課程,具體教學(xué)內(nèi)容與安排如下:(1)深度學(xué)習(xí)概論1學(xué)時(shí);(2)神經(jīng)網(wǎng)絡(luò)基礎(chǔ)2學(xué)時(shí);(3)淺層神經(jīng)網(wǎng)絡(luò)2學(xué)時(shí);(4)深層神經(jīng)網(wǎng)絡(luò)2學(xué)時(shí);(5)深度學(xué)習(xí)實(shí)用技巧2學(xué)時(shí);(6)優(yōu)化算法、超參調(diào)試與深度學(xué)習(xí)框架3學(xué)時(shí);(7)機(jī)器學(xué)習(xí)策略3學(xué)時(shí);(8)卷積神經(jīng)網(wǎng)絡(luò)3學(xué)時(shí);(9)卷積神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺中的應(yīng)用3學(xué)時(shí);(10)序列模型3學(xué)時(shí);(11)課程總結(jié)與討論3學(xué)時(shí)。
由于“深度學(xué)習(xí)”課程廣泛的教學(xué)內(nèi)容和快速的知識(shí)更新速度,因此不能采用單一的固定教材,同時(shí)為了兼顧中英文雙語教學(xué)的需求,給出如下書目作為教學(xué)參考書和教學(xué)過程的閱讀材料。
(1)Ian Goodfellow & Yoshua Bengio,Deep learning;(2)Michael Nielsen,Neural Networks and Deep Learning;(3)Francois Chollet,Deep Learning with Python;(4)周志華,《機(jī)器學(xué)習(xí)》;(5)李航,《統(tǒng)計(jì)學(xué)習(xí)方法》;(6)邱錫鵬,《神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)》。以上書目都是行業(yè)內(nèi)廣泛認(rèn)可的經(jīng)典教材,有的內(nèi)容細(xì)致深刻,有的內(nèi)容深入淺出,為本課程的雙語教學(xué)實(shí)踐提供了充分的參考內(nèi)容。另外,目前上海理工大學(xué)已經(jīng)得到了華為公司“沃土計(jì)劃”的支持,以后課程內(nèi)容還將加入華為昇騰AI處理器、昇騰全棧應(yīng)用、MindSpore框架、ModelArt開發(fā)工具等內(nèi)容,因此梁曉峣著的《昇騰AI處理器架構(gòu)與編程》、陳雷著的《深度學(xué)習(xí)與MindSpore實(shí)踐》等華為智能計(jì)算技術(shù)叢書也會(huì)成為課程的參考書目。