開發(fā)者如何掘金 AI 2.0？零一萬物上線 Yi 大模型 API 開放平臺

　　2024 年初推出的 Sora 讓 AIGC 與大模型業(yè)界持續(xù)火爆。一方面,基礎大模型 Top 廠商在持續(xù)研發(fā)長文本、視頻、多模態(tài)等模型核心技術實力,在另一面,更多開發(fā)者在加入大模型落地與 AI 2.0 應用開發(fā)賽道。在 2023 年底 CSDN 發(fā)起的 AI 2.0 開發(fā)者生態(tài)調研中,問卷結果顯示開發(fā)者群體認為“深耕模型技術”與“挖掘應用場景”的機遇和前景同等重要。

　　AI 2.0 黑馬——零一萬物 Yi 大模型

　　長文本突破 200K、多模態(tài)增強場景支持

　　由國際 AI 專家李開復博士所帶隊孵化的 AI 2.0 公司零一萬物,目標是全球大模型第一梯隊,攻堅基礎大模型與 AI 2.0 核心技術,發(fā)布了 Yi 系列開源大模型。在當時斯坦福、伯克利等全球多項權威評測榜單中,Yi 大模型均表現(xiàn)優(yōu)異,性能直追 GPT-4。目前 Yi 大模型已實現(xiàn) 200K 上下文(可處理約 30 萬中英文字符)的長文本推理實力,以及增強支持多種應用場景的多模態(tài)模型。

　　大模型的長文本推理被看作通用人工智能 AGI 非常重要的核心實力之一。零一萬物 Yi 大模型的 200K 上下文推理能力,適合用于多篇文檔內容理解、海量數(shù)據(jù)分析挖掘和跨領域知識融合,為各行業(yè) AI 2.0 應用提供極大的便利。例如,金融分析師可以使用 Yi 大模型快速閱讀報告并預測市場趨勢、律師可用它精準解讀法律條文、科研人員可用它高效提取論文要點、文學愛好者可以用它快速掌握作品精髓等,應用場景非常廣泛。

　　另外零一萬物的 Yi-34B-Chat-200K 大模型經過優(yōu)化,大海撈針評測的性能可提升至 99.8%。“大海撈針”測試的設計是:將一個目標句子(針)放進一個隨機文檔語料庫(大海),然后提出一個只能使用“針”(目標句子)中的信息才能回答的問題來測試模型的回憶能力。在“大海撈針”測試中,Yi-34B-Chat-200K 的性能提高了 10.5%,從 89.3%提升到 99.8%。

　　星云愛店是知識探索服務先行者,包含2C的“學術科研助手”,2B的兒童心理健康診療、青少年科學素養(yǎng)培養(yǎng)三大領域。

　　星云愛店CTO大董和團隊參加了零一萬物API邀測,他在文獻綜述的實際應用中,采用其他大模型推理生成的被拒率為 40%(下圖),而切換到 Yi 大模型,任務未發(fā)生拒絕執(zhí)行。

　　星云愛店測試demo顯示,使用某大模型時,被拒率 40%

　　采用 Yi 大模型執(zhí)行復雜任務,拒絕任務率低、完成度好

　　在另一個 18 萬字報告集合的閱讀分析中,Yi 大模型未遺漏任務:

　　星云愛店采用其他模型遺漏未指出,Yi 大模型完成 prompt 任務

　　零一萬物開發(fā)的多模態(tài)模型 Yi-VL-Plus,可支持文本、視覺多模態(tài)輸入,面向實際應用場景大幅增強:

　　? 增強Charts, Table, Inforgraphics, Screenshot 識別能力,支持復雜圖表理解、信息提取、問答以及推理。中文圖表體驗超過GPT4V。

　　? 在 Yi-VL 基礎上進一步提高了圖片分辨率,模型支持 1024*1024 分辨率輸入,顯著提高生產力場景中的文字、數(shù)字 OCR 的準確性。

　　? 保持了 LLM 通用語言、知識、推理、指令跟隨等能力。

　　中文圖表識別功能評測:Yi-VL-Plus 可準確識別圖表對應數(shù)據(jù),GPT-4V 有 3 處數(shù)據(jù)識別錯誤

　　Yi-VL-Plus 模型在中文圖表理解場景,準確率高于 GPT-4V

　　優(yōu)化推理速度、兼容 OpenAI API

　　Yi 大模型 API 開放平臺正式上線!

　　取得了上述的大模型核心技術實力,零一萬物也在投入貢獻 AI 2.0 生態(tài)。在內測,零一萬物正式推出了 Yi 大模型 API 開放平臺,希望幫助開發(fā)者,共同挖掘更多應用場景,持續(xù)創(chuàng)新。

　　針對 API 側的實際開發(fā)需求,零一萬物投入了大量優(yōu)化和兼容能力的研發(fā)工作,去提升開發(fā)者研發(fā)效率和最終用戶的產品體驗。具體來說:

　　? 優(yōu)化推理速度

　　為了提升 API 性能,零一萬物團隊在 API 側進行了推理優(yōu)化,因此 Yi-34B-Chat 系列 API 具備較快的推理速度,這不僅縮短了處理時間,同時也保持了出色的模型效果。

　　? 降低接口延遲

　　優(yōu)化的 API 接口顯著降低模型回復的延遲,進一步提高用戶體驗的流暢性和響應速度。

　　? 兼容 OpenAI API,實現(xiàn)平滑遷移

　　Yi 大模型 API 與 OpenAI API 完全兼容,開發(fā)者只需修改少量代碼,可以平滑遷移,即刻享受 Yi 大模型的超凡魅力。

　　目前 API 開放平臺已經提供 3 個零一萬物核心重磅的大模型產品,分別是可支持通用聊天、問答、對話、寫作、翻譯等功能的 Yi-34B-Chat-0205,可支持 200K 上下文,多文檔閱讀理解、超長知識庫構建小能手的 Yi-34B-Chat-200K,還有多模態(tài)模型 Yi-VL-Plus,支持文本、視覺多模態(tài)輸入,中文圖表體驗超過 GPT-4V。更多零一萬物的大模型也將持續(xù)發(fā)布和提供到 API 開放平臺中。

　　從專業(yè)開發(fā)者到大模型發(fā)燒友

　　Yi 大模型 API 開放平臺的創(chuàng)新 AI 2.0 應用正在涌現(xiàn)

　　正式發(fā)布前,零一萬物已經在開發(fā)者群體進行了 API 邀請內測和開發(fā),實測性能和效果超出預期。具體測試的企業(yè)與個人 C 端應用場景包括使用 Yi Chat 模型構建智能對話助手(類似 ChatGPT);使用 Yi 多模態(tài)模型,識別圖片中存在的表格,文字,并進行深層次的問答;將 Yi 系列模型整合到現(xiàn)有產品,實現(xiàn)類 Copilot 工具;使用 Yi 超長上下文模型構建知識庫問答,用于客服、培訓等特定知識的問答場景等等。

　　已經體驗 API 的開發(fā)者中就有對長文本要求非常高的專業(yè)團隊星云愛店,其產品涉及文獻解讀與科研寫作、青少年教育與健康類助手等。星云愛店的開發(fā)負責人希望大模型產品的長文本精確摘要,對話文案專業(yè)化、精細化,拒答率低,因為對于教育和心理健康的大模型,更需要兼具“智商”和“情商”,而不是冷冰冰和嚴肅的工作問答工具。

　　例如心理咨詢場景,在線拒答率、回答文案的溫暖程度極大影響用戶體驗。“某些大模型 API 接入后,動不動就拒答或者回答文本‘降智偷懶’,Yi 大模型 IQ 在線且 EQ 出色,測試期間幾乎沒有拒答,能持續(xù)輸出高質量有溫度的文案,我們相當滿意。”星云愛店的技術負責人表示。

　　內測開發(fā)者中除了專業(yè)的企業(yè)級應用開發(fā)團隊,還有不會代碼編程的大模型發(fā)燒友。一位叫“聞”的網友本身是 HiFi 音樂發(fā)燒友,并運營了一個分享古典音樂的公眾號。雖然他自稱不懂寫代碼,但已經可以使用 Lobe-chat 這樣的工具去實現(xiàn)開發(fā)。借助 Yi 大模型 API,他實現(xiàn)了翻譯英文長視頻和翻譯古典音樂介紹兩個 AI 2.0 場景應用的功能。正是有了易用的 API,讓他從對技術的熱情和對新事物的好奇,可以更進一步去探索開發(fā)、并真正落地了具有創(chuàng)意的 AI 2.0 應用。

　　網友“聞”優(yōu)化翻譯古典音樂科普流程后的最終輸出結果

　　“Yi-34B-Chat-200K 面對幾萬字的超長提示詞,10 秒鐘就反饋回來了結果,較高提升大家工作效率。”,“接入 Yi 大模型 API 代碼修改量極少,幾乎是分分鐘就可以搞定。”。這些都是內測中收到的眾多開發(fā)者反饋中的真實聲音,也讓我們看到基于 API 的 AI 2.0 應用開發(fā)需求的火熱。

　　對于 AI 2.0 開發(fā)生態(tài)的工作,零一萬物表示,近期零一萬物將為開發(fā)者提供更多更強模型和 AI 開發(fā)框架。包括:

　　? 推出一系列的模型 API,覆蓋更大的參數(shù)量、更強的多模態(tài),更專業(yè)的代碼/數(shù)學推理模型等;

　　? 突破更長的上下文,目標 100 萬 tokens;支持更快的推理速度,顯著降低推理成本;

　　? 基于超長上下文能力,構建向量數(shù)據(jù)庫、RAG、Agent 架構在內的全新開發(fā)者 AI 框架。旨在提供更加豐富和靈活的開發(fā)工具,以適應多樣化的應用場景。

　　AI 2.0 正在進一步發(fā)展,并深入千行百業(yè)。作為新質生產力核心的 AI 2.0 技術,是開發(fā)者需要重點關注的領域。借助優(yōu)質 AI 2.0 廠商的 API 和開發(fā)工具,開發(fā)者可以提高研發(fā)效率,加速 AI 2.0 的應用落地,正在成為 2024 年全新的 AI 2.0 研發(fā)趨勢。目前 Yi 大模型 API 開放平臺推出了上新優(yōu)惠活動,名額限量開放中,新用戶即贈送60元。機會難得,點擊閱讀原文了解詳情~

　　零一萬物API開放平臺鏈接:https://platform.lingyiwanwu.com/

　　零一萬物邀請具有創(chuàng)造力的開發(fā)者并肩作戰(zhàn),助力加速開發(fā) AI 2.0 應用生態(tài),一同探索 LLM 的廣闊應用場景!