這份名為《AI變革正在推動終端側推理創新》的白皮書說，該模型凸顯科技行業在打造高質量小語言模型和多模態推理模型方面的創新，以及這些創新正在為AI的商業應用和終端側推理落地做好準備。
白皮書說，在訓練成本下降、快速推理部署和針對邊緣環境的創新推動下，AI正經歷重要變革。科技行業不再僅僅聚焦于競相構建更大的模型，而是轉向如何在邊緣側實際應用中高效地部署模型。對大型基礎模型的蒸餾已催生大量更智能、更小型、更高效的模型，使各行業能夠更快地規模化集成AI，特別是在終端側加速集成。
高通公司總裁兼首席執行官安蒙表示，近期發布的DeepSeek-R1及其他類似模型展示了AI模型發展速度越來越快，它們變得更小、更強大、更高效，并且可以直接在終端側運行。DeepSeek-R1的蒸餾模型在發布僅幾天內就能在搭載高通驍龍平臺的智能手機和個人電腦上運行。隨著人類進入AI推理時代，預計推理將越來越多地在終端側運行，使AI變得更便捷、可定制且高效。
共0條 [查看全部] 網友評論