国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

深度學習在自然語言處理NLP中的應用研究

2021-04-04 11:32葉符明
信息記錄材料 2021年11期
關鍵詞:向量神經(jīng)網(wǎng)絡深度

葉符明

(貴州商學院 貴州 貴陽 550014)

1 引言

對于自然語言處理技術而言,其先進性的優(yōu)勢十分突出,在人工智能領域當中發(fā)揮出了良好的作用。在深度學習概念形成以后,可以將其運用到語言、圖像、文本數(shù)據(jù)信息的處理過程當中。通過在自然語言處理過程當中加以利用,能夠使從前的處理方式出現(xiàn)很大的變化,完成辨識命名、意圖、句法以及語音等方面的任務,使得相應的計算效率得以提升[1]。鑒于此,如何將深度學習運用到自然語言處理過程當中變得尤為必要,擁有一定的研究意義與實踐價值。

2 深度學習與自然語言處理技術的概念闡釋

2.1 深度學習的概念及其內(nèi)涵

對于深度學習而言,屬于以機器學習作為基礎所提出的全新概念,借助模擬人腦神經(jīng)網(wǎng)絡的方式,開展了相應的探究、分析以及解釋等工作,此類學習結(jié)構(gòu)涵蓋了多層與隱層。對比淺層學習來說,由于構(gòu)建的模型結(jié)構(gòu)較深,通常情況下,包含了超過三層的隱層節(jié)點,最多為十層,能夠進行科學分析十分復雜的函數(shù)工作。與此同時,突顯出特征學習的優(yōu)勢,鑒于深度學習不需要進行監(jiān)督,在合理利用非監(jiān)督預訓練算法的過程當中,可以把原有的樣本以輸入的形式映射到全新的特征空間當中,有助于完成預測和分類的任務。另外,深層學習也擁有良好的有效性,能夠借助深層結(jié)構(gòu)解釋相關函數(shù),所以,使其得到了有效地運用,發(fā)揮出良好的作用。

2.2 自然語言處理技術介紹

自然語言處理技術常見于實驗室,通過運用相關統(tǒng)計學、機器學習算法等理論與方式,完成科學處理圖片、文本的任務。在深度學習誕生以后,在工業(yè)化應用方面的相關條件變得更加完善,從當前的發(fā)展情況而言,已經(jīng)獲得了很大的進步,并且被運用到不同的行業(yè)領域當中,發(fā)揮出良好的功效和作用。實際上,早在2015年時,Word2ve算法便已經(jīng)誕生,作為全新的構(gòu)建詞向量方式,其主要將深度學習當作重要的基礎,屬于自然語言處理技術的一種。此類方法包含了兩種不同的模型,其一為Skip-gram模型,其二為CBOW模型,前者主要借助輸入某個單詞的方式,達到對上下文語境有效預測的效果,后者則主要借助輸入某個詞語上下文語境的方式,達到有效預測詞語含義的目的,形成的詞向量即為神經(jīng)網(wǎng)絡模型具體的輸入向量[2]。所以,從中不難獲悉,Word2ve的理解能力較為突出,在運用自然語言處理技術的過程當中,不必采用人工處理干預的方式便能夠?qū)ξ谋菊Z境加以深入闡釋。并且,對于我國來說,加快了對自然語言處理算法進行探究的速度,使得模擬word2vec詞向量計算模型得以誕生,加大了對深度學習的推廣和運用力度。

3 基于人工智能下的自然語言處理深度學習方式說明

3.1 合理運用前饋神經(jīng)網(wǎng)絡

針對前饋神經(jīng)網(wǎng)絡而言,也叫做多層感知機模型,可以將此類神經(jīng)網(wǎng)絡模型運用到多任務的環(huán)境中,不過因為環(huán)境處于動態(tài)變化當中,導致其模型的內(nèi)部結(jié)構(gòu)隨之十分復雜,因而,容易增加神經(jīng)網(wǎng)絡的訓練難度。面對圖形處理技術不斷進步的情況,使得前饋神經(jīng)網(wǎng)絡得以誕生,與此同時,也在自然語言處理過程當中發(fā)揮出良好的作用。從計算機技術的角度而言,利用前饋神經(jīng)網(wǎng)絡中的反向傳播算法,可以使其進行深度學習時,不斷優(yōu)化各個層級間出現(xiàn)的不同錯誤驅(qū)動,以便達到科學改進網(wǎng)絡參數(shù)的目的。作為前饋神經(jīng)網(wǎng)絡當中的一種類型,卷積神經(jīng)網(wǎng)絡是屬于其中重要的模型,能夠借助卷積核達到對描述空間加以擴展的效果,使模型自身的深度得以增加,并且,具體進行訓練時,無需對相關參數(shù)加以改進,進行自然語言處理的過程當中,一般需要把文本中的句子向量變成矩陣,經(jīng)過卷積以后,獲取相應的句向量特征。為此,合理運用前饋神經(jīng)網(wǎng)絡可謂十分關鍵。

3.2 神經(jīng)網(wǎng)絡詞向量分析

對人工智能神經(jīng)網(wǎng)絡自然語言處理技術加以運用的過程中,能夠借助神經(jīng)網(wǎng)絡的形式,科學分析文本中那些稀疏性很小、具有大規(guī)模的語料,一方面,能夠獲得十分復雜的上下文關系;另一方面,則能夠充分發(fā)揮出詞編碼技術的良好作用,體現(xiàn)出其擁有的分布式特點,即神經(jīng)網(wǎng)絡中的詞向量,能夠當成分詞工作,可謂是十分關鍵的準備工作。

3.3 遞歸神經(jīng)網(wǎng)絡說明

對于遞歸神經(jīng)網(wǎng)絡而言,目前受限于技術方面的發(fā)展,造成僅可以單獨的形式有效處理一個輸入?;谶M一步增強神經(jīng)網(wǎng)絡處理系統(tǒng)數(shù)據(jù)方面能力的目的,有關技術工作者能夠借助遞歸神經(jīng)網(wǎng)絡表達出時間的遞歸結(jié)構(gòu),以便進行學習相關數(shù)據(jù)時,可以得到具體的序列關系,并且有效提升了訓練模型方面的記憶力,實現(xiàn)前后輸入之間的密切關聯(lián)?;谶f歸神經(jīng)網(wǎng)絡下,以構(gòu)建相應深度學習模型作為目的,一般會運用涵蓋三個隱含層的神經(jīng)網(wǎng)絡完成構(gòu)建模型的任務。假如失去信息時刻之后,則需要結(jié)合隱含層中遞歸,以便產(chǎn)生由輸入層至隱含層連接權的相應權值參數(shù)矩陣,與此同時,可以對具體的偏置向量、激活函數(shù)加以準確計算。參考遞歸神經(jīng)網(wǎng)絡特點的基礎上,能夠達到反向傳播相關損失函數(shù)實例的效果,并且依靠低度降低方式,明確相關網(wǎng)絡參數(shù)[3]。所以,通過合理運用遞歸神經(jīng)網(wǎng)絡方法,能夠在元模型的學習、機器翻譯等過程當中發(fā)揮出一定的作用。

4 深度學習在自然語言處理NLP中的具體運用

4.1 運用流程說明

深度學習在自然語言處理中運用的過程當中,需要科學應用梯度下降法,實際的運用流程為:(1)建立相應的模型框架。結(jié)合應該進行處理的相關內(nèi)容,確保所選用神經(jīng)網(wǎng)絡結(jié)構(gòu)的合理性,達到建立相應深度學習模型框架的目的。(2)仔細檢查模型。合理運用梯度下降法,完成檢查模型的任務,對存在的有關漏洞加以檢查和分析,明確其滿足相關規(guī)定與否。(3)實現(xiàn)模型的初始化效果。在仔細檢查之后,科學優(yōu)化相關模型,以便達到彌補其中的漏洞與缺陷的目的,科學改進有關模型的參數(shù)。(4)不斷改進相關模型。合理運用正則化方法,針對不符合相關規(guī)定的模型參數(shù)及時加以改進,以便達到相關擬合規(guī)定。

4.2 運用措施分析

4.2.1 做好分詞、詞性的標注工作

對于分詞來說,依據(jù)有關規(guī)定,達到重新組合來連續(xù)字序的效果,同時把其組合為全新的詞序列。在標注詞性時,則確保詞性標注的準確性,比如,此詞為形容詞、動詞等。通過加大對深度學習法的運用力度,能夠進行詞性的標注、語義角色的標注、命名實體的辨識等工作。

4.2.2 科學分析句法

即合理分析句子的語法、不同語法間存在的關系情況??茖W運用深度學習法,能夠達到以自動的形式,辨識句子句法單位的目的,梳理不同句法單位間存在的聯(lián)系,通過科學輸入某個已經(jīng)給定的句子,合理運用語法的特點,完成對短語結(jié)構(gòu)樹建立的任務,有效加以處理。

4.2.3 認真學習詞義

運用深度學習的過程中,需要重視對詞義的學習,發(fā)揮出相關無監(jiān)督學習制度的良好作用。在對深度神經(jīng)網(wǎng)絡模型建立的過程中,應該科學運用此模型,并且參考文本中的上下文情況,科學加以分析,以便獲取到最佳的詞義表達形式,同時掌握詞義隱含的詞匯,達到準確解析同名歧義詞的目的。假如為多個多義性的詞向量,則能夠采用對模型優(yōu)化的方法,使詞向量的語義得到豐富,確保表達的準確性。

4.2.4 加強對情感的科學分析

在合理運用深度學習方式分析情感的過程中,需要建立相應的情感分析模型,并且借助深度神經(jīng)網(wǎng)絡的訓練部分,有效完成標注相關情感標簽句子的任務,同時參考相應的規(guī)律和上下文的特點,可以達到預測所標注外句子情感特點的效果,然后進一步深入分析文檔級、語句級等方面的情感色彩情況。顯然,此項措施可以發(fā)揮出高級情感分析的良好功效,通過有效利用深度學習方法,提升了自然語言處理的整體效率。

5 當前呈現(xiàn)出來的不足與未來發(fā)展形勢

5.1 相關學習模型存在的不足和發(fā)展形勢

盡管進行自然語言處理的過程當中,運用了先進的深度學習算法模型,比如,循環(huán)神經(jīng)網(wǎng)絡和遞歸神經(jīng)網(wǎng)絡等等,并且獲得了明顯的成效。不過,現(xiàn)階段,國內(nèi)在自然語言處理深度學習方面的研究時間較短,依然呈現(xiàn)出諸多不同方面的不足,諸如深度網(wǎng)絡層數(shù)、正則化問題等等,所以,在未來的發(fā)展前景非常良好,對于網(wǎng)絡訓練速度應該進一步加快。

5.2 自動學習存在的不足和發(fā)展形勢

基于深度學習下的無監(jiān)督學習制度,現(xiàn)階段被廣泛運用到自然語言處理過程當中,同時包含了相關數(shù)據(jù)說明、特征提取等方面的內(nèi)容,不過實際應用的過程當中,假如把通過人工選用的顯著特點規(guī)律和整個訓練的過程加以有效結(jié)合,卻提高了相應的困難程度[4]。所以,應該結(jié)合自然語言語義的選取情況,構(gòu)建相應的深度模型結(jié)構(gòu),實現(xiàn)知識結(jié)合的過程當中,應該將首層當作主要融合的進入點,進而達到增強模型的自主學習能力。

6 結(jié)語

綜上所述,作為全新的機器學習技術之一,深度學習的重要性與價值是毋庸置疑的。依靠對人腦機制的有效模擬,構(gòu)建相應的深層神經(jīng)網(wǎng)絡,能夠有效闡釋與分析相應圖像、文本等信息,所以獲得了合理運用。從當前的情況來看,進行自然語言處理的過程當中,提高了對深度學習的利用率,不過實際應用的過程當中仍然呈現(xiàn)出很大的不足,有待進一步加以分析與完善。

猜你喜歡
向量神經(jīng)網(wǎng)絡深度
向量的分解
聚焦“向量與三角”創(chuàng)新題
深度理解一元一次方程
神經(jīng)網(wǎng)絡抑制無線通信干擾探究
深度觀察
深度觀察
深度觀察
向量垂直在解析幾何中的應用
基于神經(jīng)網(wǎng)絡的拉矯機控制模型建立
向量五種“變身” 玩轉(zhuǎn)圓錐曲線