高通發布白皮書,DeepSeek將推動AI推理時代到來
DeepSeek R1的推出標志著AI行業的一次重大變革。以DeepSeek R1蒸餾模型為代表的新一代終端側推理模型性能獲得了極大的提升,如今,我們已經可以在終端側看到過去只能在云端實現的AI性能,這將開啟安全、可靠的終端側AI處理未來。
高通技術公司發布最 新白皮書
《AI變革正在推動終端側推理創新》,深入闡述DeepSeek R1推出這一關鍵時刻背后所代表的更廣泛的AI行業大潮。在訓練成本下降、快速推理部署和針對邊緣環境的創新推動下,AI正在經歷重要變革。科技行業不再僅僅聚焦于競相構建更大的模型,而是轉向如何在邊緣側實際應用中高效地部署模型。對大型基礎模型的蒸餾已催生大量更智能、更小型、更高效的模型,使各行業能夠更快地規模化集成AI,特別是在終端側加速集成。

以下為《AI變革正在推動終端側推理創新》白皮書的內容摘要。
尖端AI推理模型DeepSeek R1一經問世,便在整個科技行業引起波瀾。因其性能能夠媲美甚至超越先進的同類模型,顛覆了關于AI發展的傳統認知。
這一關鍵時刻是更廣泛趨勢的一部分,凸顯了行業在打造高質量小語言模型和多模態推理模型方面的創新,以及這些創新正在為AI的商用應用和終端側推理落地做好準備。這些新模型能夠在終端側運行,將加速強大邊緣側芯片的規模化擴展,并創造對此類芯片的需求。
四大趨勢正在顯著提高目前可在終端側運行的AI模型的質量、性能和效率,從而推動上述變革:
· 當前先進的AI小模型已具有卓越性能。模型蒸餾和新穎的AI網絡架構等新技術能夠在不影響質量的情況下簡化開發流程,讓新模型的表現超越一年前推出的僅能在云端運行的更大模型。
· 模型參數規模正在快速縮小。先進的量化和剪枝技術使開發者能夠在不對準確性產生實質影響的情況下,縮小模型參數規模。
· 開發者能夠在邊緣側打造更豐富的應用。高質量AI模型快速激增,意味著文本摘要、編程助手和實時翻譯等特性在智能手機等終端上的普及,讓AI能夠支持跨邊緣側規模化部署的商用應用。
· AI正在成為新的UI。個性化多模態AI智能體將簡化交互,高效地跨越各種應用完成任務。
高通技術公司在引領并利用從AI訓練向大規模推理轉型,以及AI計算處理從云端向邊緣側擴展方面具有戰略優勢。公司在開發定制CPU、NPU、GPU和低功耗子系統領域取得了廣泛的成就。通過與模型廠商展開合作,以及面向跨不同邊緣終端領域的模型部署提供工具、框架和SDK,高通技術公司賦能開發者在邊緣側加速采用AI智能體和應用。
近期對AI模型訓練方式的顛覆變革和重新評估驗證了AI格局即將向大規模推理轉變的趨勢,這將形成全新邊緣側推理計算的創新和升級周期。盡管模型訓練仍將在云端進行,但推理將受益于采用高通?技術的廣泛終端規模,并催生更多邊緣側AI賦能處理器的需求。
高通公司總裁兼CEO安蒙(Cristiano Amon)也在高通公司2025財年第 一季度的財報電話會議中分享了他對當前AI行業發展趨勢的看法。
他表示,“高通先進的連接、計算和邊緣AI技術以及產品組合持續保持著高度差異化,在多個行業中越發重要。高通對業務中不斷增長的邊緣側AI機遇保持樂觀、積極的態度,尤其是在我們迎來新一輪AI創新和規模化擴展周期之際。近期的DeepSeek R1及其他類似模型展示了AI模型的發展速度越來越快,它們變得更小、更強大、更高效,并且可以直接在終端側運行。事實上,DeepSeek R1的蒸餾模型在發布僅幾天內就能在搭載驍龍平臺的智能手機和PC上運行。隨著我們進入AI推理時代,我們期待模型訓練仍將在云端進行,但推理將越來越多地在終端側運行,使AI變得更便捷、可定制且高效。這將促進更多有針對性的專用模型和應用的開發和采用,并因此推動各類終端對高通平臺的需求。憑借行業最強大和高效的邊緣側AI處理器,我們對推動這一轉型獨具優勢,并將從即將到來的變革中受益。”
關注我們


