楊樂雨

【摘? 要】 隨著時(shí)代的迅速發(fā)展，各領(lǐng)域的技術(shù)水平都在不斷提高。大語言模型作為人工智能領(lǐng)域的重點(diǎn)研究對象，因其獨(dú)特的優(yōu)勢在發(fā)展過程中備受關(guān)注。大語言模型不僅具備理解生成文本的能力，還能對文本進(jìn)行深入的分析與推理。未來，大語言模型的發(fā)展速度將會不斷加快，其應(yīng)用范圍也將進(jìn)一步拓寬。文章對大語言模型進(jìn)行了概述，闡述了大語言模型的應(yīng)用優(yōu)勢和發(fā)展現(xiàn)狀，并對當(dāng)前熱門的大語言模型的性能進(jìn)行了對比分析，以期加速大語言模型的發(fā)展。

【關(guān)鍵詞】 機(jī)器翻譯；大語言模型；性能分析

隨著技術(shù)的飛速進(jìn)步，當(dāng)前市場上涌現(xiàn)出眾多大語言模型，它們各具優(yōu)勢，性能多樣。合理應(yīng)用大語言模型不僅能提升翻譯質(zhì)量，還能提高各項(xiàng)評價(jià)指標(biāo)。然而，從當(dāng)前使用效果來看，各個(gè)模型都存在一些需要優(yōu)化和完善的地方。為了更加科學(xué)合理地評估大語言模型的性能，可以考慮從生成質(zhì)量、使用性能以及安全合規(guī)等多個(gè)維度進(jìn)行深入分析與評估。

一、大語言模型概述

大語言模型（Large Language Model，簡稱LLM）是一種基于深度學(xué)習(xí)技術(shù)構(gòu)建的語言理解和生成模型。它最大的特點(diǎn)是通過訓(xùn)練大量文本數(shù)據(jù)，生成具有正確語義和語法連貫性的文本，具有強(qiáng)大的遷移理解能力?；谧⒁饬C(jī)制的序列模型，大語言模型能夠全面捕捉文本的上下文，并在各種自然語言處理任務(wù)中進(jìn)行應(yīng)用，例如目前較為常見的系統(tǒng)、文本翻譯以及情感分析等。

大語言模型領(lǐng)域的研究在國內(nèi)外得到快速發(fā)展。2022年11月，ChatGPT問世，以對話模式為主，能夠響應(yīng)各種請求，也能拒絕不合理的請求；2023年2月，谷歌官宣了Bard；同年3月，多模態(tài)模型GPT-4推出，該產(chǎn)品具備閱讀文字、圖像識別以及文本生成功能。國內(nèi)在大語言模型領(lǐng)域的研究也取得了顯著進(jìn)步。2023年2月，復(fù)旦大學(xué)推出國內(nèi)首個(gè)對話式大語言模型MOSS；同年3月，清華大學(xué)唐杰團(tuán)隊(duì)發(fā)布基于千億參數(shù)大模型的對話機(jī)器人ChatGLM；2023年5月，科大訊飛推出了火認(rèn)知大模型。這些研究成果有效推進(jìn)了大語言模型領(lǐng)域的發(fā)展。

二、機(jī)器翻譯的工作原理

機(jī)器翻譯（Machine Translation，簡稱MT）是將一種自然語言（源語言）轉(zhuǎn)換為另一種自然語言（目標(biāo)語言）的技術(shù)。其基本工作原理可以分為兩個(gè)階段：語言分析階段和翻譯階段。

語言分析階段：在這個(gè)階段，輸入的源語言文本首先會被解析成更小的語言單位，如詞匯、短語和句子。這一步通常涉及詞法分析、句法分析和語義分析等任務(wù)。語言分析的目標(biāo)是理解輸入文本的結(jié)構(gòu)和意義，為接下來的翻譯階段做好準(zhǔn)備。

翻譯階段：在翻譯階段，分析后的語言單位被轉(zhuǎn)換成目標(biāo)語言的對應(yīng)單位。這個(gè)過程通常包括兩個(gè)子任務(wù)：詞匯翻譯和句子翻譯。詞匯翻譯是將源語言的詞匯映射為目標(biāo)語言的詞匯，這需要一個(gè)詞匯庫（如詞典）來輔助進(jìn)行轉(zhuǎn)換。句子翻譯則需要將源語言的句子結(jié)構(gòu)轉(zhuǎn)換為目標(biāo)語言的句子結(jié)構(gòu)，這可能涉及句子的重排、成分添加或刪除等操作。

三、機(jī)器翻譯的評估指標(biāo)

機(jī)器翻譯質(zhì)量的評價(jià)指標(biāo)很多，常見的有如下幾種：

BLEU（Bilingual Evaluation Understudy）指標(biāo)：BLEU是當(dāng)前最廣泛使用的一種自動評估指標(biāo)，它通過比較機(jī)器翻譯結(jié)果與參考翻譯的相似度來評價(jià)翻譯質(zhì)量。BLEU指標(biāo)的取值范圍是0-1，值越接近1，表示翻譯質(zhì)量越好。

NIST（National Institute of Standards and Technology）評價(jià)指標(biāo)：NIST評價(jià)指標(biāo)與BLEU類似，是通過比較機(jī)器翻譯結(jié)果與多個(gè)參考翻譯的相似度來評價(jià)翻譯質(zhì)量。不同的是，NIST 采用了一種加權(quán)平均的方法，對不同參考翻譯的相似度進(jìn)行加權(quán)計(jì)算。

TER（Translation Edit Rate）指標(biāo)：TER指標(biāo)是一種基于編輯距離的評估方法，它通過計(jì)算機(jī)器翻譯結(jié)果與參考翻譯之間的編輯距離來評價(jià)翻譯質(zhì)量。編輯距離越小，表示翻譯質(zhì)量越好。

METEOR（Metric for Evaluation of Translation with Explicit ORdering）指標(biāo)：METEOR指標(biāo)綜合考慮了詞匯、句子結(jié)構(gòu)和語義三個(gè)方面的因素，通過計(jì)算機(jī)器翻譯結(jié)果與參考翻譯之間的相似度來評價(jià)翻譯質(zhì)量。

J.44（Joshi-44）指標(biāo)：J.44指標(biāo)是一種基于統(tǒng)計(jì)的方法，它通過計(jì)算機(jī)器翻譯結(jié)果與參考翻譯之間的統(tǒng)計(jì)相似度來評價(jià)翻譯質(zhì)量。

以上指標(biāo)均是專門針對機(jī)器翻譯任務(wù)的評估指標(biāo)，其中BLEU側(cè)重于詞匯和語法方面的評估，而NIST、TER、METEOR和J.44則采用了編輯距離或統(tǒng)計(jì)方法來評價(jià)翻譯質(zhì)量。

隨著技術(shù)的不斷發(fā)展進(jìn)步，研究者逐步引入了基于預(yù)訓(xùn)練語言模型的評估方法，它們綜合考慮了詞匯、語法和語義等方面的因素，適用于評價(jià)各種NLG任務(wù)，比較典型的就是BERTScore和GPTScore評估。

BERTScore評估是一種基于預(yù)訓(xùn)練BERT模型的評估方法，它通過計(jì)算生成文本與參考文本在詞向量空間中的相似度來評價(jià)翻譯質(zhì)量。BERTScore 綜合考慮了詞匯、語法和語義三個(gè)方面的因素。

GPTScore評估是另一種基于預(yù)訓(xùn)練GPT模型的評估方法，它通過計(jì)算生成文本與參考文本在GPT模型生成的詞向量空間中的相似度來評價(jià)翻譯質(zhì)量。與BERTScore類似，GPTScore也綜合考慮了詞匯、語法和語義等方面的因素。

在實(shí)際應(yīng)用中，可以根據(jù)具體任務(wù)和需求選擇合適的評估指標(biāo)。對于多種任務(wù)和場景的評估，可以考慮使用BERTScore或GPTScore這類綜合性的評估指標(biāo)。而對于專門針對機(jī)器翻譯任務(wù)的評估，可以考慮使用BLEU、NIST、TER、METEOR或J.44等專門針對翻譯任務(wù)的指標(biāo)。

四、人工智能在機(jī)器翻譯中的應(yīng)用

近年來，隨著人工智能技術(shù)的發(fā)展，機(jī)器翻譯領(lǐng)域出現(xiàn)了許多新的方法和模型。其中，神經(jīng)機(jī)器翻譯（Neural Machine Translation，簡稱NMT）模型取得了顯著的進(jìn)展。與傳統(tǒng)的基于規(guī)則和統(tǒng)計(jì)的機(jī)器翻譯方法不同，神經(jīng)機(jī)器翻譯采用深度神經(jīng)網(wǎng)絡(luò)（如循環(huán)神經(jīng)網(wǎng)絡(luò)、長短時(shí)記憶網(wǎng)絡(luò)等）作為模型結(jié)構(gòu)，通過端到端的學(xué)習(xí)實(shí)現(xiàn)源語言到目標(biāo)語言的映射。

在神經(jīng)機(jī)器翻譯模型中，輸入的源語言文本首先被編碼成一個(gè)連續(xù)的向量表示，然后通過解碼器進(jìn)行解碼，生成目標(biāo)語言的文本。為了提高翻譯質(zhì)量，神經(jīng)機(jī)器翻譯模型通常需要大量的訓(xùn)練數(shù)據(jù)和高質(zhì)量的平行語料庫（包含源語言和目標(biāo)語言對應(yīng)文本的數(shù)據(jù)集）。

在實(shí)際應(yīng)用中，機(jī)器翻譯系統(tǒng)還需要進(jìn)行一些額外的優(yōu)化，如錯(cuò)誤處理、譯文評估和用戶反饋等。這些優(yōu)化可以幫助提高翻譯質(zhì)量，滿足不同場景和應(yīng)用的需求。總之，機(jī)器翻譯工作原理可以概括為通過分析輸入語言的結(jié)構(gòu)和意義，然后將其轉(zhuǎn)換為目標(biāo)語言的對應(yīng)結(jié)構(gòu)。

五、機(jī)器翻譯任務(wù)中大語言模型應(yīng)用的優(yōu)勢

大語言模型在機(jī)器翻譯領(lǐng)域具有顯著的優(yōu)勢，主要體現(xiàn)在以下幾個(gè)方面：

更準(zhǔn)確的翻譯質(zhì)量：大語言模型具有強(qiáng)大的語言理解能力和豐富的知識儲備，能夠有效提高機(jī)器翻譯的準(zhǔn)確性和質(zhì)量。在許多自然語言處理任務(wù)中，大語言模型已經(jīng)取得了顯著的進(jìn)展，如GPT-3等。

變長序列處理能力：大語言模型可以處理變長的序列輸入，適用于自然語言這種通常是變長的序列數(shù)據(jù)，這使大語言模型在機(jī)器翻譯任務(wù)中具有很強(qiáng)的適應(yīng)性。

編碼器－解碼器結(jié)構(gòu)：在機(jī)器翻譯中，大語言模型通常采用編碼器－解碼器結(jié)構(gòu)。編碼器將源語言句子轉(zhuǎn)換為一個(gè)向量表示，并將其輸入到解碼器中，解碼器根據(jù)向量表示生成目標(biāo)語言句子，這種結(jié)構(gòu)有助于提高翻譯的準(zhǔn)確性和流暢度。

多語言處理能力：大語言模型在大規(guī)模多語言翻譯數(shù)據(jù)上進(jìn)行訓(xùn)練，因此具備較強(qiáng)的多語言處理能力，這使機(jī)器翻譯系統(tǒng)可以同時(shí)處理多個(gè)不同語言之間的翻譯任務(wù)，提高了系統(tǒng)的效率和靈活性。

跨語言資源共享：大語言模型可以實(shí)現(xiàn)不同語言之間的知識共享，幫助低資源語言的機(jī)器翻譯系統(tǒng)。這種跨語言資源共享能力有助于解決低資源語言雙語數(shù)據(jù)稀少或缺失的問題。

六、機(jī)器翻譯任務(wù)中大語言模型應(yīng)用的不足

盡管大語言模型（LLM）在機(jī)器翻譯領(lǐng)域具有很多優(yōu)勢，但仍然存在一些不足之處，主要包括以下幾點(diǎn)：

數(shù)據(jù)依賴性：大語言模型需要大量的高質(zhì)量訓(xùn)練數(shù)據(jù)，但在某些低資源語言中，可能難以獲得足夠多的有效數(shù)據(jù)，這可能導(dǎo)致模型在某些特定任務(wù)或語言上的性能不佳。

計(jì)算資源需求：大語言模型通常需要大量的計(jì)算資源進(jìn)行訓(xùn)練，這對許多個(gè)人或小型組織來說可能是一個(gè)限制因素。此外，隨著模型規(guī)模的增長，計(jì)算資源需求也會相應(yīng)增加，可能導(dǎo)致訓(xùn)練過程變得漫長或難以負(fù)擔(dān)。

無法解決歧義問題：由于自然語言中的歧義現(xiàn)象，大語言模型可能會在某些情況下生成不準(zhǔn)確或模糊的翻譯。盡管模型可以捕捉到一定程度的歧義消除，但仍然無法完全解決這一問題。

語言風(fēng)格和詞匯限制：大語言模型可能受到訓(xùn)練數(shù)據(jù)中的語言風(fēng)格和詞匯限制的影響。如果模型在訓(xùn)練數(shù)據(jù)中沒有接觸過特定的語言風(fēng)格或詞匯，那么在實(shí)際應(yīng)用中可能會出現(xiàn)翻譯質(zhì)量下降的情況。

七、機(jī)器翻譯任務(wù)中大語言模型未來發(fā)展建議

伴隨大語言模型技術(shù)的快速發(fā)展，機(jī)器翻譯領(lǐng)域的發(fā)展速度也會不斷加快。大語言模型技術(shù)的應(yīng)用能夠有效提高機(jī)器翻譯的質(zhì)量和準(zhǔn)確性，但目前機(jī)器翻譯領(lǐng)域在發(fā)展過程中仍面臨著許多挑戰(zhàn)，例如多義詞、歧義詞、語言文化差異等，這些問題都需要進(jìn)一步進(jìn)行解決，筆者就這些問題提出如下發(fā)展建議：

一是不斷強(qiáng)化跨語言遷移學(xué)習(xí)，在發(fā)揮本土語料優(yōu)勢的同時(shí)，最大程度減少語言偏向，注重提高模型在非母語語言上的理解能力。二是擴(kuò)大訓(xùn)練數(shù)據(jù)范圍，充分利用互聯(lián)網(wǎng)大數(shù)據(jù)資源，采用教科書、文學(xué)以及多領(lǐng)域的數(shù)據(jù)進(jìn)行補(bǔ)充訓(xùn)練，通過該種方式進(jìn)一步對模型知識面進(jìn)行擴(kuò)展。三是對敏感錯(cuò)誤信息進(jìn)行精準(zhǔn)過濾，需要標(biāo)注更多真實(shí)的例子，開發(fā)漸進(jìn)和語境化的過濾方式。

八、結(jié)語

大語言模型技術(shù)的發(fā)展給機(jī)器翻譯帶來了全新的發(fā)展機(jī)遇，在未來發(fā)展過程中，機(jī)器翻譯有著更多的可能性。機(jī)器翻譯會逐漸與人類翻譯進(jìn)行結(jié)合，翻譯質(zhì)量在提升的同時(shí)，隱私安全及合規(guī)性均能得到保證。通過對多種大語言模型的性能進(jìn)行分析，能夠明確不同產(chǎn)品的優(yōu)劣勢，在選用時(shí)可以揚(yáng)長避短，充分發(fā)揮產(chǎn)品的優(yōu)勢。

■ 參考文獻(xiàn)：■

［1］ 郭利敏，付雅明. 以大語言模型構(gòu)建智慧圖書館：框架和未來［J/OL］. 圖書館雜志：1-11［2023-10-14］. http：//kns.cnki.net/kcms/detail/31.1108.G2.20231011.1616.006.html.

［2］ 張宏玲，沈立力，韓春磊，等. 大語言模型對圖書館數(shù)字人文工作的挑戰(zhàn)及應(yīng)對思考［J/OL］. 圖書館雜志，1-11. http：//kns.cnki.net/kcms/detail/31.1108.G2.20231011.1556.004.html.

［3］ 李源，馬新宇，楊國利，等. 面向知識圖譜和大語言模型的因果關(guān)系推斷綜述［J/OL］. 計(jì)算機(jī)科學(xué)與探索，1-20. http：//kns.cnki.net/kcms/detail/11.5602.TP.20231011.1107.002.html.

［4］ 嚴(yán)豫，楊笛，尹德春. 融合大語言模型知識的對比提示情感分析方法［J/OL］. 情報(bào)雜志，1-9. http：//kns.cnki.net/kcms/detail/ 61.1167.g3.20230803.0748.008.html.

［5］ 王敏. 基于循環(huán)神經(jīng)網(wǎng)絡(luò)的漢語語言模型效率與性能的優(yōu)化與實(shí)現(xiàn)［D］. 重慶：重慶郵電大學(xué)，2017.

［6］ 高俊濤，林煜熙，姚建民. 基于語言模型的機(jī)器翻譯評價(jià)方法及其性能評價(jià)方法研究［J］. 中國科技信息，2008（20）：108+111.