期刊VIP學術指導 符合學術規范和道德
保障品質 保證專業,沒有后顧之憂
6月16日,在人工智能框架生態峰會2023上,中國科學院自動化研究所(以下簡稱自動化所)所長、研究員徐波正式發布“紫東太初”全模態大模型。
徐波介紹,“紫東太初”全模態大模型是在千億參數多模態大模型“紫東太初”1.0基礎上升級打造的2.0版本,其在語音、圖像和文本三模態的基礎上,加入視頻、傳感信號、3D點云等模態數據,研究突破了認知增強的多模態關聯等關鍵技術,具備全模態理解能力、生成能力和關聯能力。
中國科學院自動化所發布“紫東太初”全模態大模型
6月16日,在人工智能框架生態峰會2023上,中國科學院自動化研究所(以下簡稱自動化所)所長、研究員徐波正式發布“紫東太初”全模態大模型。
徐波介紹,“紫東太初”全模態大模型是在千億參數多模態大模型“紫東太初”1.0基礎上升級打造的2.0版本,其在語音、圖像和文本三模態的基礎上,加入視頻、傳感信號、3D點云等模態數據,研究突破了認知增強的多模態關聯等關鍵技術,具備全模態理解能力、生成能力和關聯能力。
徐波發布“紫東太初”全模態大模型。自動化所 供圖
值得一提的是,“紫東太初”2.0以自動化所自研算法為核心,以昇騰AI硬件及昇思MindSpore AI框架為基礎,依托武漢人工智能計算中心算力支持,著力打造全棧國產化通用人工智能底座。
會上,徐波與工作人員首次對外實時展示了“紫東太初”全模態大模型在音樂理解與生成、三維場景導航、信號理解、多模態對話等方面的新功能,并邀請現場觀眾與大模型即時互動。互動中,大模型展示了其能在三維場景里實現精準定位,還能夠通過圖像與聲音的結合完成場景分析。
據了解,自動化所自2019年起就確立了多模態大模型布局,整合所內圖像、文本、語音等研究方向的優勢資源開展集團式攻關,并于2021年9月成功打造“紫東太初”1.0多模態大模型,助推人工智能從“一專一能”邁向“多專多能”。“紫東太初”2.0從技術架構上實現了結構化和非結構化數據的全模態開放式接入,突破了能對信息理解和生成的多模態分組認知編解碼技術、能融合多個任務的認知增強多模態關聯技術等,多模態認知能力大幅提升。
徐波表示,目前,“紫東太初”大模型已展現出廣闊的產業應用前景,在神經外科手術導航、短視頻內容審核、法律咨詢、醫療多模態鑒別診斷、交通違規圖像研讀等領域已開始了一系列引領性、示范性應用。例如,在醫療場景,“紫東太初”大模型部署于神經外科機器人MicroNeuro,可實現在術中實時融合視覺、觸覺等多模態信息,協助醫生對手術場景進行實時推理判斷。
作者:趙廣立 來源:中國科學報 發布時間:2023/6/16 13:41:43