從 ChatGPT 發布至今，已經有半年之久，國內各大廠商都在如火如荼地訓練著各自的大模型。在大模型的開源世界里，也紛紛涌現出各種各樣的大模型，效果卻不盡相同。據中信所等機構的報告，截至2023年5月，國內已發布79個大模型。

GPT大模型正逐漸成為新一代的智能化基礎設施，許多人將其類比 Windows、iOS，但其真正帶來的，是一個全新的智能應用生態。這一點，我們從 OpenAI 將發布“App Store”便可見端倪。OpenAI 產品和合作副總裁 Peter Welinder 這樣表示：“大部分（AI 生態）的價值會在不同應用領域的應用層中產生，這也是 OpenAI 的策略。”

未來，不僅是個人開發者，更多的企業、個人都將能夠利用大模型進行智能應用的構建。具備技術能力的開發者或企業可以自己訓練或微調模型，而還將有更多的個人及企業使用 MaaS（模型即服務）所提供的 API 及一站式服務來完成。

(相關資料圖)

如何使用大模型構建智能應用？

舉個例子，我是一個 SaaS 服務的開發者，對客戶提供著我的 SaaS 服務，關于 SaaS 服務有很多介紹文檔以及使用文檔。為了讓客戶能夠更友好、更快速地了解 SaaS 服務的內容，此時我想使用大模型來構建一個智能助理，客戶通過聊天的方式，就能快速地進行深入了解。

在構建這個智能助理時，我可以將現有的文檔全部都給到大模型，客戶提出問題，大模型經過推理返回答案。在這個流程中，存在一些問題，當前大模型都有 Token 數量限制，如 GPT-4-32K 模型最大支持 32768 個 Token，如文檔內容過多，便無法處理，并且隨著使用到的 Token 數量逐漸接近最大限制時，其推理速度及準確性也會出現不同程度的下降。

當前，我們可以看到絕大部分開發者構建智能應用都是通過情境學習（In-context Learning）的模式去實現的。具體步驟如下：

1. 數據預處理，此步驟會處理的是自有知識庫數據（如上例中提到的各種文檔），將這些知識庫中的數據分解成大小相近的數據塊，然后通過 embedding 的模型將數據進行轉化，并將轉換后的數據存儲在向量數據庫中去。

2. 構建 Prompt，當用戶進行提問時，此時會通過查詢的 API 將向量數據庫中相似的內容查詢出來，某些場景下，可能還需要根據一些模板去構建 Prompt，也可能通過一些 API 去網絡上搜索最新的信息。將這些信息進行拼接，構建出一個更好的 Prompt。

3. 模型推理，從第二步中拿到的 Prompt ， 將之提交給 MaaS 服務或者是自己的 LLM 模型進行推理，最終拿到相應的結果。當然，這些結果可以直接返回給用戶，也可能需要再進行二次處理，變成一個指令或動作。

在這個基礎的智能應用構建模式中，還存在諸多問題，如模型的選擇、數據安全、AGI 基建等問題。全球各大云廠商都紛紛入局大模型的軍備競賽，為應用開發企業提供各種各樣的服務。在這浪潮之下，火山引擎發布了火山方舟平臺，致力于解決眼下存在的問題，提供最佳解決方案。

選取趁手利器！火山方舟一站式實現

在構建智能應用時，模型是重中之重，如何選擇更高效和更具性價比模型是模型使用者最關注的問題之一。

就目前來看，一兩個超大的基座模型不可能搞定所有的通用需求，在一些垂直領域中，雖然大模型可以很好地工作，但其成本可能會很高。如果基于其特定領域數據，對模型進行精調和壓縮，使之生成一個比它小 10 倍或小 100 倍的小模型，在特定任務上可能會表現得更好，大幅降低推理成本，具有極高的性價比。

在眾多模型之中，除了模型大小，它們可能還使用了不同的模型結構。不同的模型結構可能一些場景表現得更好，其它場景中可能會相對平庸一點。因此，模型使用者可能需要在不同的場景應用不同的模型，以達到最佳的算法效果。

面對如此多的模型， 我們是否有一個答案，告訴我們，今天或者未來的一段時間內，哪個模型最好？關于這個問題，火山引擎智能算法負責人吳迪表示，企業需要在不同的智能應用場景，選擇最適合自己場景的大模型。“大模型的整個社區以及技術都在不斷地變化，現階段我們甚至都無法預測到明年大模型的發展趨勢。我們需要和時間做朋友，跟著大模型時代的浪潮一起往前發展。”吳迪如是說道。

火山引擎總裁譚待公布“火山方舟”首批大模型合作伙伴

為此，火山方舟實現了統一的工作流，對接多家模型提供商，讓開發者在不同場景下選擇最適合的模型。截止目前，已經接入了百川智能、出門問問、復旦大學MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI（以拼音首字母排序）等多家AI科技公司及科研院所的大模型，開發者可以通過統一的 API ，很方便地去選擇合適當前業務的模型。據了解，火山方舟還將持續與模型提供方合作，上線更多更優質的模型，供大模型應用企業選擇和使用。

當然，直接選擇并使用對應模型可以滿足多數需求，但對于有技術能力的企業，還會存在模型微調的需求，讓模型能夠更好地去滿足特定的需求場景，讓其優于通用的大基座模型。為此，火山方舟也提供了便捷的工具鏈，賦能企業，讓企業能夠方便的在火山引擎提供的高性價比算力上，快速方便的進行模型微調和訓練。

火山方舟平臺在模型選擇及使用上，為開發者提供了一站式的解決方案，從體驗到精調，再到上線以及后續的監控與運維，都提供有豐富的工具鏈供企業客戶使用。

剛提到的用于精調模型的數據集、數據預處理中使用到的企業知識庫以及在調用模型時的查詢信息，隨著企業在細分領域中持續發展和積累，它們成為企業的重要資產。據了解，為客戶保護這些數據資產，也是火山方舟平臺致力要解決的問題。

解決大模型最關鍵的數據安全問題

在今年 4 月份，三星員工在使用 ChatGPT 處理工作時，無意間泄露了公司的絕密數據，這是三星引入 ChatGPT 后引起第三起數據泄漏的問題。 可見在大模型興起的初期，各個方面安全配套設施都還不夠完善。

數據的安全問題深深觸動著模型使用方的神經，對于很多有開發能力的企業，可以通過自研大模型的方式，自產去自銷，從而避免數據泄漏的問題。大模型與之前的那些深度學習模型不一樣，當前的訓練門檻已經被提到一個相當高的水平，更多的開發者或企業并不具備相應的開發能力，一定會使用外部廠商提供的模型服務去實現自己的業務需求。因此要讓這些企業放心使用 MaaS 服務，解決安全互信問題，是模型提供方需要解決首要問題。而對于模型提供者來說，模型的安全也至關重要，也不希望自己投入海量資源訓練的模型被拷貝走了。

在這之中，信任問題至關重要，它將深深地影響大模型應用市場的格局。火山方舟作為模型使用者與模型提供者的橋梁，作為一個中立的第三方，為解決安全互信的問題也付出了巨大的努力。

當前為解決安全問題存在三種流派：安全沙箱和三方審計、 硬件支持、聯邦學習。火山方舟基于火山引擎現有的云基礎能力、探索軟硬件的安全方案，首創大模型“安全互信計算架構”，以先進的技術手段，解決多方互信的問題。

讓專業的人做專業的事，通過火山方舟，模型提供方不需要在關注模型安全的問題，將更多的資源投入到模型研發中去，做出更好更優的模型。對于模型使用者，同樣不用擔心數據資產泄漏，將更多的資源放應用開發及創新上。

大模型進入千行百業！

大模型的能力將進入千行百業。但在此過程中，模型本身僅為其中的一小部分，更為關鍵的是，大模型運行所依賴的基礎設施，以及看不見的模型上下游之間的連接。火山方舟致力于補全拼圖中不足的模塊，幫助模型上下游客戶解決問題。對于一個健康而蓬勃的大模型生態來說，用于模型推理和調優的算力，在未來的某一時刻，必然會超過模型訓練所使用的算力。

我們正處在大模型高速發展的窗口期，但同時也面臨著各種挑戰。而火山方舟則將火山引擎和字節多年積累的基礎能力對外輸出，助力大模型基建建設。同時，火山引擎完整的 ToB 服務體系和團隊不僅能讓模型應用開發企業一站式實現智能應用的搭建與運營，同時也幫助大模型服務商實現成功的商業閉環。

ChatGPT正在形成新一輪的生產力革命，業界高呼這是第四次工業革命的到來。將大模型的選取、使用、上下游都集中到一站式的平臺，火山方舟有望加速行業智能化升級。

一如火山引擎智能算法負責人吳迪所言：“火山引擎深信這波大模型不僅是一次風潮，更是一個全新的技術時代的窗口。未來，大模型將滲透到千行百業，而火山方舟的使命便是去縮短這個時間軸，幫助第一增長曲線的創業者們獲得資金，加速模型研發，也幫助應用開發企業更快地用到這些大模型，并把它用好，創造更大的價值。”

#七款國產大模型登陸火山方舟#

關鍵詞：