速途網訊 9月5日,阿里云牽頭建設的AI模型社區魔搭(ModelScope)又上新了,推出適配開源大語言模型的AI Agent開發框架ModelScope-Agent。借助ModelScope-Agent,所有開發者都可基于開源 LLM 搭建屬于自己的智能體應用,最大限度釋放想象力和創造力。ModelScope-Agent的代碼現已開源。
AI Agent(AI智能體、AI代理)可謂當前大模型領域最熱門的研究方向,它是指基于LLM的、能夠使用工具自主完成特定任務的智能體。眾所周知,目前階段的LLM存在能力邊界,主要擅長處理文本任務。AI Agent將LLM與其他模型、軟件等外部工具協同,便能處理真實世界中的各種復雜任務,比如接入視頻生成模型,自主生產視頻;接入外部軟件,幫人類寫郵件、訂票、購物等等。
AI Agent類應用正在成為大模型創業的重要賽道,AI Agent 開發框架也應運而生。但業界現有的AI Agent 開發框架大多基于閉源 LLM 構建。為了充分釋放開源 LLM 的生產力,魔搭社區自研了適配開源 LLM 的AI Agent開發框架ModelScope-Agent。簡而言之,ModelScope-Agent是pilot(領航員)而非copilot(副駕駛員)。
此前,魔搭已用這套框架在社區做了“打樣”,搭建 ModeScopeGPT,它能通過自然語言與用戶交互、接受用戶指令,通過“中樞模型”通義千問調用社區的眾多AI模型API,自主完成人類布置的任務。ModeScopeGPT的調用量已超過?25?萬。

(ModelScope-Agent系統架構圖)
AI Agent的工作流程一般包括任務的理解、規劃和執行,其中,LLM 負責任務規劃、工具調用以及回復生成,是整個流程的智能中樞,好比人類的大腦。ModelScope-Agent允許開發者自由選擇智能體的“大腦”,適配百川、通義千問等各類開源模型。主流LLM能夠做到“即插即用”,開發者如需專門訓練LLM 以增強其工具調用能力,可以參考ModelScope-Agent開源的訓練數據、訓練方法、優化方案、評估方法。
ModelScope-Agent開發框架還包含記憶控制、工具使用等模塊,記憶控制模塊支持知識檢索以及 prompt (提示詞)管理,工具使用模塊支持工具庫、工具檢索、工具定制。為了增強開源大模型工具調用能力,魔搭社區還自研了一個包含60w樣本的MSAgent-Bench工具調用數據集。
大多數 AI Agent 開發框架需要手動添加工具,而ModelScope-Agent 通過調用魔搭社區上開源的文本向量模型,打造API 工具檢索引擎,能讓AI Agent根據用戶指令自動檢索相關工具。如果開發者想要新增外部工具/API,只需要在ModelScope-Agent上注冊工具,即可直接調用。
開源正在成為很多頭部大模型玩家的選擇。未來,ModelScope-Agent 會適配更多新增的開源LLM,并將推出更多基于ModelScope-Agent開發的應用,如個人助理 Agent、Story Agent、Multi-Agent等。魔搭鼓勵開發者用ModelScope-Agent探索工業制造、游戲開發、智能互聯等行業的應用。
魔搭社區表示,作為國內規模最大、用戶最活躍的AI模型開源社區,魔搭將持續通過開源開放推進大模型技術和應用發展。此前,阿里云曾表示要把促進中國大模型生態的繁榮作為首要目標,并將魔搭建設成為中國最大的大模型自由市場。(梔橙)