News

商湯大裝置SenseCore 2.0全新升級

  •  
  •  
  •  

商湯科技於上星期四舉辦的2025技術交流日上宣佈商湯大裝置SenseCore 2.0全新升級,以極致性價比推動大模型技術的高效落地與規模化應用,同時擁抱開源,打造零成本、零門檻、零開發的一站式模型服務。商湯還發佈了面向具身智能、AIGC、AI4S以及傳統企業智能化轉型的四大行業解決方案,為企業提供全流程AI服務支持,全棧賦能各行業智能化升級。

商湯科技聯合創始人大裝置事業群總裁楊帆。

商湯科技聯合創始人、大裝置事業群總裁楊帆表示:「商湯大裝置SenseCore 2.0希望依託更敏捷、更靈活、更可靠的平台能力,積極擁抱開源生態,通過提供更高性價比的產品服務和一系列行業解決方案,將商湯多年積累的核心能力與生態夥伴的行業優勢充分整合,為不同行業、不同場景的客戶提供貼身的解決方案,切實幫助客戶解決技術、產品和商業化問題,從而推動人工智能產業的長遠發展。」

商湯大裝置通過基礎設施、模型優化和動態負載均衡優化,實現了多模態大模型推理成本與大語言模型持平。同時,其在線推理性能較頭部廠商提升15%,離線推理Prefill階段實現提速5倍、Decode階段提速3.5倍,為大模型技術的應用提供極致性價比的基礎設施服務。

性價比是大模型應用的生死線。目前AI產業發展面臨多重成本壓力:供應鏈成本變化快導致算力供需波動大,國產芯片亦存在產能有限、種類繁多以及利用率較低等挑戰;模型參數量的指數級增長,使訓練成本持續增加;推理成本大幅下降帶動需求爆發增長,導致總算力消耗進一步加劇。商湯大裝置實現了異構算力混合計算利用率和推理成本的顯著突破,以極致性價比幫助客戶更早突破成本限制。

在國產芯片方面,商湯大裝置異構訓練效率可達同構訓練的95%。同時,商湯大裝置聯合某頭部客戶進行了大規模異構混訓,基於異構算力調度、自動並行策略、跨芯通信、自動容錯恢復等核心技術,在5,000張國產GPU集群上實現1個月穩定異構混訓,算力利用率達到80%,成功突破單一GPU限制,有力推動國產算力的規模化商用進程。

此外,商湯大裝置通過基礎設施、模型優化和動態負載均衡優化,實現了多模態大模型推理成本與大語言模型持平。同時,其在線推理性能較頭部廠商提升15%,離線推理Prefill階段實現提速5倍、Decode階段提速3.5倍,為大模型技術的應用提供極致性價比的基礎設施服務。

商湯大裝置積極擁抱開源主流趨勢,通過OpenAPI兼容、K8S原生平台適配、開源大模型託管服務、全棧開源工具鏈及豐富的開源組件等,實現了技術棧的無縫整合與敏捷迭代,滿足快速發展的技術棧應用需求。

數據顯示,開源模型能力已接近閉源模型,這帶動了企業應用需求快速湧現。商湯大裝置積極擁抱開源主流趨勢,通過OpenAPI兼容、K8S原生平台適配、開源大模型託管服務、全棧開源工具鏈及豐富的開源組件等,實現了技術棧的無縫整合與敏捷迭代,滿足快速發展的技術棧應用需求。

面向不同客戶群體,商湯大裝置可提供「零成本遷移、零門檻使用、零開發部署」的一站式模型服務。其中,極客創業團隊可通過標準化的k8s API直接對接商湯大裝置,完成應用組件、日誌、監控等無縫遷移並實現彈性擴展;應用企業可在模型廣場中直接選擇DeepSeek等開源主流模型,一鍵部署和微調,實現模型託管與零門檻使用;互聯網平台企業則可借助JuiceFS緩存和Volcano優化等技術,提升開源方案在生產環境的穩定性等。

多模態大模型的突破,正快速激活各類新場景、新模式,比如席捲全球的GPT-4o「吉卜力風、形態各異的AI機器人等,激發行業大量跨模態能力需求。打通從產品到多模態場景的端到端行業解決方案,是AI 2.0時代新興行業加速技術落地,傳統行業實現數智升級的「快車道」。此次,商湯大裝置面向具身智能、AIGC、AI4S以及傳統企業智能化轉型推出四大行業解決方案,針對不同行業客戶提供從場景定義到業務落地的全鏈路賦能,真正解決智能化落地最後一公里難題。

商湯大裝置面向具身智能、AIGC、AI4S以及傳統企業智能化轉型推出四大行業解決方案,提供從場景定義到業務落地的全鏈路賦能,解決智能化落地最後一公里難題。

其中,具身智能解決方案能夠端到端賦能技術研發,覆蓋數據生產、工具支撐及模型研發全流程。針對具身智能數據生產需求,可提供「仿真+真機」雙通道,雲上通過全棧工具鏈實現仿真數據生成、模型驗證;並依託商湯全國智算佈局支持跨地域數據採集匯聚,實現分鐘級同步,並結合智能分級存儲有效控制成本。會上,商湯與松應科技簽署戰略合作協議,雙方將在數據仿真、研發管線、客戶服務層面展開全面合作。

商湯與松應科技簽署戰略合作協議。

  •  
  •  
  •