文心與飛槳聯合優化 降推理成本

【明報專訊】人工智能大型語言模型推出予公眾應用已有一年半時間，對於文心模型的發展主要會遇什麼挑戰，百度（9888）首席技術官王海峰表示，技術仍在快速發展，產業應用也處於早期階段，無論是技術上，還是實際應用都面臨挑戰。不少投資者關注模型營運成本，王海峰表示通過飛槳與文心模型的聯合優化，至去年底文心一言的推理成本已降至去年3月推出時的1%。

技術上，王海峰表示，百度自2010年起開始發展人工智能技術，在自然語言處理、知識圖譜、語音、計算機視覺、機器學習與深度學習等方向上都有深厚技術積累，加上該行在晶片、框架、模型和應用四個層面都有佈局，有助支持研發文心模型。

如何將模型產業化成挑戰

在應用方面， 王海峰則認為挑戰會來自如何將模型產業化，因為模型體積大，訓練難度高；算力規模大，性能要求高；數據規模大，數據質量參差不齊。在產業實踐上，百度會以「集約化生產，平台化應用」的大模型產業模式，將複雜的模型生產流程封裝，通過低門檻、高效率的生產平台，為不同行業提供大模型服務，並通過應用和用戶反饋，增強文心模型能力，進而降低模型及人工智能原生應用開發門檻，形成良性循環。