第四範式今日推出大模型推理一體機解決方案SageOne Lite,8.8萬元可運行滿血版DeepSeek,以極致性價比幫助企業乃至個人實現本地使用DeepSeek。該方案基於 KTransformers ,支援單機運行滿血模型服務。此外,一體機解決方案還整合了ModelHub平台實現模型管理及不同模型服務的靈活切換,內置智慧算力池化管理平臺提升GPU資源使用效率,並搭載了大模型開發平臺及開箱即用AI應用套件,幫助企業及開發者體驗滿血強大智能同時,快速創建生成式AI應用。
SageOne Lite大模型推理一體機解決方案,具備三大核心優勢:
1) 低成本,單機體驗滿血版DeepSeek。
2) 集成ModelHub、大模型工具鏈,內置SageSuite AI應用套件:包含數百個開放模型服務供給及模型全生命週期管理、可視化workflow流程編排等,並預裝AI應用套件,包括AIGC、智能辦公、數字員工、智慧問答等。
3) 智慧算力池化,資源動態調度:通過業界領先的第四範式GPU資源池化(vGPU)技術,可對算力和顯存進行智慧切分,對計算任務智慧調度,靈活在不同尺寸的大模型中進行切換。