輕薄型筆記本也能高效運行大模型！英特爾實力推動生成式AI場景在個人電腦落地

　　以第12代、第13代英特爾酷睿處理器和英特爾銳炫A系列顯卡為代表的英特爾多款客戶端芯片均能提供強勁性能，以滿足生成式AI(AIGC)對于高算力的需求，在此基礎上，英特爾還通過軟件生態的構建和模型優化，進一步推動新興的生成式AI場景在個人電腦的落地，廣泛覆蓋輕薄本、全能本、游戲本等。目前，英特爾正與PC產業眾多合作伙伴通力合作，致力于讓廣大用戶在日常生活和工作中，通過AI的輔助來提高效率，進而帶來革新性的PC體驗。

　　英特爾積極擁抱AI社區，基于OpenVINO PyTorch后端的方案，通過Pytorch API讓社區開源模型能夠很好地運行在英特爾的客戶端處理器、集成顯卡、獨立顯卡和專用AI引擎上。以圖形視覺領域為例， Stable Diffusion的實現Automatic1111 WebUI，已經能通過上述方式，在英特爾客戶端平臺的CPU和GPU(包括集成顯卡和獨立顯卡)上運行FP16精度的模型，用戶可以在文字生成圖片、圖片生成圖片以及局部修復等功能上獲得良好的使用體驗。

　　不僅如此，英特爾通過模型優化，降低了模型對硬件資源的需求，進而提升了模型的推理速度，讓社區開源模型能夠很好地運行在個人電腦上。以大語言模型為例，英特爾通過第13代英特爾酷睿處理器XPU的加速、low-bit量化以及其它軟件層面的優化，可讓高達160億參數的大語言模型，通過BigDL-LLM框架運行在16GB及以上內存容量的個人電腦上。這也彰顯了英特爾能夠適應當下快速發展的大語言模型生態，快速對接新興模型，并兼容目前HuggingFace上的Transformers模型。已經驗證過的模型包括但不限于：LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等。此外，英特爾還提供了易用的API接口(Transformers、LangChain)，并支持Windows、Linux的操作系統。

　　英特爾的下一代處理器Meteor Lake具備獨特的分離式模塊架構的優勢，為PC用戶提供了以AI驅動的新功能，包括像Adobe Premiere Pro中的自動重新構圖和場景編輯檢測等多媒體功能，并實現更有效的機器學習加速。英特爾與PC產業合作伙伴此刻正站在旅程的起點，向著規模化應用AI加速轉型的方向前行。隨著英特爾后續幾代產品進一步擴展，規模和數量的大幅增長將讓數億人輕松享受AI加速體驗，并實現更優的智能協作、更快的處理速度和更強的功能特性實現前所未有的體驗變革。

　　編輯點評：讓輕薄型筆記本也能高效運行大模型，筆者認為這是英特爾非常厲害的地方。對于英特爾自身來說，在輕薄本市場上，英特爾又多了一大賣點。對于從事生成式AI項目的用戶們來說，很多工作現在僅需一臺輕薄本就夠了，如此美妙的體驗，筆者在以前是不曾想象的。不得不感嘆，科技進步有時候就是這么的快！