文件從提升算力資源統(tǒng)籌供給能力、提升高質(zhì)量數(shù)據(jù)要素供給能力、系統(tǒng)構(gòu)建大模型等通用人工智能技術(shù)體系、推動通用人工智能技術(shù)創(chuàng)新場景應(yīng)用、探索營造包容審慎的監(jiān)管環(huán)境五個方面,推動通用人工智能創(chuàng)新發(fā)展。
其中,系統(tǒng)構(gòu)建大模型等通用人工智能技術(shù)體系,包括以下措施:
(七)開展大模型創(chuàng)新算法及關(guān)鍵技術(shù)研究
圍繞模型構(gòu)建、訓(xùn)練、調(diào)優(yōu)對齊、推理部署等環(huán)節(jié),積極探索基礎(chǔ)模型架構(gòu)創(chuàng)新,研究大模型高效并行訓(xùn)練技術(shù)和認知推理、指令學(xué)習、人類意圖對齊等調(diào)優(yōu)方法,研發(fā)支持百億參數(shù)模型推理的高效壓縮和端側(cè)部署技術(shù),形成完整高效的技術(shù)體系,鼓勵開源技術(shù)生態(tài)建設(shè)。
(八)加強大模型訓(xùn)練數(shù)據(jù)采集及治理工具研發(fā)
圍繞訓(xùn)練數(shù)據(jù)“采、存、管、研、用”等環(huán)節(jié),研究互聯(lián)網(wǎng)數(shù)據(jù)全量實時更新技術(shù)、多源異構(gòu)數(shù)據(jù)整合與分類方法,構(gòu)建數(shù)據(jù)管理平臺相關(guān)系統(tǒng),研發(fā)數(shù)據(jù)清洗、標注、分類、注釋及內(nèi)容審查等算法及工具。
(九)建設(shè)大模型評測開放服務(wù)平臺
鼓勵第三方非盈利機構(gòu)構(gòu)建多模態(tài)多維度的基礎(chǔ)模型評測基準及評測方法;研究人工智能輔助的模型評測算法,開發(fā)包括通用性、高效性、智能性、魯棒性在內(nèi)的多維度基礎(chǔ)模型評測工具集;建設(shè)大模型評測開放服務(wù)平臺,建立公平高效的自適應(yīng)評測體系,根據(jù)不同目標和任務(wù),實現(xiàn)大模型自動適配評測。
(十)構(gòu)建大模型基礎(chǔ)軟硬件體系
支持研發(fā)大模型分布式訓(xùn)練系統(tǒng),實現(xiàn)訓(xùn)練任務(wù)高效自動并行。研發(fā)適用于模型訓(xùn)練場景的新一代人工智能編譯器,實現(xiàn)算子自動生成和自動優(yōu)化。推動人工智能訓(xùn)練推理芯片與框架模型的廣泛適配,研發(fā)人工智能芯片評測系統(tǒng),實現(xiàn)基礎(chǔ)軟硬件自動化評測。
(十一)探索通用人工智能新路徑
發(fā)展面向通用人工智能的基礎(chǔ)理論體系,加強人工智能數(shù)學(xué)機理、自主協(xié)同與決策等基礎(chǔ)理論研究,探索通用智能體、具身智能和類腦智能等通用人工智能新路徑。支持價值與因果驅(qū)動的通用智能體研究,打造統(tǒng)一理論框架體系、評級標準及測試平臺,研發(fā)操作系統(tǒng)和編程語言,推動通用智能體底層技術(shù)架構(gòu)應(yīng)用。推動具身智能系統(tǒng)研究及應(yīng)用,突破機器人在開放環(huán)境、泛化場景、連續(xù)任務(wù)等復(fù)雜條件下的感知、認知、決策技術(shù)。支持探索類腦智能,研究大腦神經(jīng)元的連接模式、編碼機制、信息處理等核心技術(shù),啟發(fā)新型人工神經(jīng)網(wǎng)絡(luò)模型建模和訓(xùn)練方法。