大模型理解與應(yīng)用研討會(huì)在北京大學(xué)召開

2024年11月24日，由跨媒體通用人工智能全國重點(diǎn)實(shí)驗(yàn)室與北京大學(xué)王選計(jì)算機(jī)研究所共同主辦的大模型理解與應(yīng)用研討會(huì)在北京大學(xué)鏡春園 79 號甲多功能教室舉行。北京大學(xué)王選計(jì)算機(jī)研究所趙東巖研究員主持了此次研討會(huì)，并致開幕辭。

本次研討會(huì)聚焦于大規(guī)模語言模型，對通用人工智能的實(shí)現(xiàn)方式，大模型的編解碼方法，大模型價(jià)值觀對齊，垂域模型，科學(xué)智能大模型以及大模型知識(shí)調(diào)用等方向的前沿研究進(jìn)行了討論與交流，邀請了清華大學(xué)孫茂松教授,北京理工大學(xué)黃河燕教授，中科院自動(dòng)化所宗成慶研究員，復(fù)旦大學(xué)黃萱菁教授，哈爾濱工業(yè)大學(xué)秦兵教授，中科院軟件所韓先培研究員等國內(nèi)自然語言處理與大模型相關(guān)領(lǐng)域的優(yōu)秀學(xué)者進(jìn)行了精彩報(bào)告，分享了團(tuán)隊(duì)在相關(guān)領(lǐng)域的前沿研究工作、創(chuàng)新成果及發(fā)展趨勢，并與參會(huì)者深入探討了大規(guī)模語言模型領(lǐng)域當(dāng)前面臨的挑戰(zhàn)以及未來的發(fā)展方向。

中科院自動(dòng)化所宗成慶研究員作題為《大語言模型與腦神經(jīng)編解碼方法探索》的報(bào)告。宗成慶研究員首先介紹了為探索腦神經(jīng)編解碼機(jī)制而建立的多個(gè)數(shù)據(jù)集，揭示了神經(jīng)機(jī)制與語言理解之間的聯(lián)系。接著，他展示了一種基于預(yù)訓(xùn)練語言模型的連續(xù)文本神經(jīng)解碼方法，并介紹了一種受腦認(rèn)知機(jī)制啟發(fā)的大語言模型改進(jìn)方案。宗成慶研究員認(rèn)為，跨學(xué)科的融合，尤其是自然語言處理與神經(jīng)語言學(xué)的結(jié)合，將有助于推動(dòng)相關(guān)科學(xué)問題的解決和技術(shù)的突破。

復(fù)旦大學(xué)黃萱菁教授作題為《面向科學(xué)智能的大模型知識(shí)拓展與能力增強(qiáng)》的報(bào)告。黃萱菁教授指出，盡管大模型通過海量數(shù)據(jù)預(yù)訓(xùn)練存儲(chǔ)了大量知識(shí)，但由于其訓(xùn)練目標(biāo)僅限于下一個(gè)詞的預(yù)測，生成式框架下不可避免地存在幻覺現(xiàn)象。黃萱菁教授從知識(shí)存儲(chǔ)和認(rèn)知兩方面分析了大模型知識(shí)邊界與幻覺現(xiàn)象的潛在關(guān)聯(lián)，并提出了探測大模型知識(shí)邊界的創(chuàng)新方法。此外，黃教授還以垂直領(lǐng)域大模型、數(shù)學(xué)推理大模型和智能體大模型為例，探討了如何通過思維鏈、指令微調(diào)、強(qiáng)化學(xué)習(xí)和自我進(jìn)化等手段，注入領(lǐng)域知識(shí)，增強(qiáng)大模型在處理領(lǐng)域數(shù)據(jù)、理解用戶意圖和進(jìn)行知識(shí)推理方面的能力。

哈爾濱工業(yè)大學(xué)秦兵教授作題為《大模型多元價(jià)值觀對齊》的報(bào)告。秦兵教授指出，隨著大模型在各行業(yè)的廣泛應(yīng)用，價(jià)值觀對齊已成為學(xué)術(shù)界和產(chǎn)業(yè)界關(guān)注的焦點(diǎn)。報(bào)告中，秦兵教授從大模型多元價(jià)值觀體系的構(gòu)建、不同層次價(jià)值觀的對齊方法，以及不同語言文化和價(jià)值觀之間的關(guān)系三個(gè)方面進(jìn)行了深入探討，并進(jìn)一步介紹了如何在全球化和多元文化背景下，確保大模型能夠有效對齊各種價(jià)值觀，促進(jìn)跨文化和跨語言的理解與合作。

中科院軟件所韓先培研究員作題為《RAG：從外部記憶增強(qiáng)到知識(shí)自組織》的報(bào)告。韓先培研究員介紹了如何進(jìn)行RAG實(shí)現(xiàn)大模型與外部知識(shí)的有效交互的評估，提出了RGB Benchmark作為衡量該交互性能的標(biāo)準(zhǔn)。此外，他還闡述了如何將外部知識(shí)轉(zhuǎn)化為參數(shù)化記憶（Self-Retrieval），以及如何按需結(jié)構(gòu)化組織知識(shí)（StructRAG）以幫助大模型進(jìn)行推理。報(bào)告的最后，韓研究員分析了RAG技術(shù)當(dāng)前面臨的挑戰(zhàn)，并展望了其未來的發(fā)展方向。

清華大學(xué)孫茂松教授作題為《從圖靈到維納——通用人工智能走向“知行合一”的新探索》的報(bào)告。孫茂松教授指出，人工智能從圖靈測試走向維納控制論，標(biāo)志著其進(jìn)入了全新的探索階段，智能體技術(shù)正成為OpenAI的核心戰(zhàn)略。報(bào)告總結(jié)了大模型的四項(xiàng)關(guān)鍵能力：語言生成、代碼生成、圖文及視頻生成能力，以及3D建模，為智能體技術(shù)的進(jìn)步奠定了基礎(chǔ)。孫茂松教授還通過可交互數(shù)字人、元社會(huì)、RAG、ChatDev及交互式3D具身智能體平臺(tái)LEGENT等技術(shù)，探討了智能體的應(yīng)用場景，展望了“知行合一”的人工智能未來。

研討會(huì)的最后，趙東巖研究員組織了Panel Disscussion，與參會(huì)者一起討論大模型理解與應(yīng)用領(lǐng)域的重點(diǎn)問題。討論期間與會(huì)老師同學(xué)積極交流，氣氛活躍，提出了眾多深刻的問題并進(jìn)行有效的探討。

大模型理解與應(yīng)用研討會(huì)的召開，旨在深入探討大模型理解與應(yīng)用領(lǐng)域的前沿問題。研討會(huì)涵蓋了多個(gè)領(lǐng)域的前沿技術(shù)，各位與會(huì)嘉賓提出了多個(gè)技術(shù)創(chuàng)新與應(yīng)用展望，對于熱點(diǎn)問題進(jìn)行深入交流，共同展望大模型技術(shù)發(fā)展的未來。

同時(shí)，本次研討會(huì)為大模型的學(xué)術(shù)研究與應(yīng)用推廣提供了寶貴的思想碰撞平臺(tái)，推動(dòng)大模型理解與應(yīng)用的進(jìn)步與創(chuàng)新。