中證報中證網訊(記者 劉楊)湯姆貓公司3月24日宣佈,與光羽芯辰近日達成合作意向,雙方將結合各自的技術優勢和專業能力,共同開發高性能、低功耗且適用於多種場景的AI端側大語言模型軟體和硬體應用。同時,雙方已對初步的分工和階段性目標進行規劃,雙方計劃在低延時、隱私保護、存算一體化等領域進行深入的技術探索,以增強雙方未來在AI智慧應用市場的競爭力。
端側AI,即終端側人工智慧,指的是在終端設備(如智能手機、智慧手錶、車載終端等)上直接運行人工智慧演算法和模型,而不需要將數據全部上傳到雲端進行處理的技術模式。
業內預計,2024-2030年全球端側AI晶片市場規模將從180億美元裂變為850億美元,年均複合增長率達24.8%;2028年中國端側AI市場規模將達到19071億元人民幣,年均複合增長率達58%。
2024年12月,湯姆貓推出了其首款AI智慧硬體產品——湯姆貓AI情感陪伴機器人。該產品採用前沿性的MoE(混合專家模型)架構,在其自研的“技術中間層”上實現了“湯姆貓情感陪伴垂直模型”,與豆包、DeepSeek等模型協同工作,是市面上率先推出的具備使用場景的AI硬體產品。
據介紹,該產品定位於家庭陪伴場景,不僅能雙向聊天交互,還能夠在聊天中精準感知用戶情緒,共情使用者的喜怒哀樂,此外還擁有長期記憶功能,可記錄家庭使用者偏好與對話歷史,並通過AI的自學習演算法,提供個人化的、千人千面的交互。
湯姆貓表示,此次與光羽芯辰的合作,旨在利用其在端側大模型晶元上的研發優勢,開發低延時、高性能且適配多場景應用的專屬AI端側大模型軟硬體,為未來“會聊天的湯姆貓”系列矩陣產品部署端側AI解決方案。
據介紹,光羽芯辰是由兆易創新及騰訊投資的燧原科技等合資設立,該公司以其創新性3D堆疊架構結合PIM技術,大幅提升了存儲頻寬和計算效率,有效緩解了傳統端側設備在運行大模型時面臨的存儲瓶頸與計算效率低下難題,為AI模型走向端側開闢了新路徑。
湯姆貓相關負責人稱,端側AI模型晶片有望實現1秒以內的端對端回應,將極大地提升AI智慧產品的用戶體驗。同時,AI智慧硬體的多場景應用也將有望提速。
【來源:中國證券報·中證網】