云天勵飛亮相2023世界人工智能大會 首次公開“天書”大模型動態(tài)
發(fā)布時間：2023-07-08 05:02:13
來源：證券日報
2023世界人工智能大會于7月6日至8日在上海舉辦。本次大會上，云天勵飛展示了自主設計開發(fā)的新一代邊緣計算芯片DeepEdge10系列SoC芯片，并公布了“天書”大模型的最新動態(tài)。
大模型與芯片全面亮相
本次世界人工智能大會上，云天勵飛展示了新一代邊緣計算芯片DeepEdge10系列SoC芯片。
(資料圖片)
該芯片于2022年底成功流片，采用國內(nèi)先進工藝，支持多芯粒擴展的Chiplet技術，可提供12TOPS（INT8）整型計算和2TFLOPS（FP16）浮點計算的深度學習推理計算算力，滿足市場對處理芯片在算法的多樣性、準確性、算力密度及效能方面的要求，可廣泛應用于AIoT邊緣視頻、移動機器人等場景。預計今年量產(chǎn)投入使用。
圖為云天“天書”基礎大模型架構公司/供圖
此外，云天勵飛還在大會上首次披露大模型“云天天書”的情況。據(jù)介紹，“云天天書”基礎大模型架構包含三個層級：通用大模型、行業(yè)大模型、場景大模型。云天勵飛基于算法開發(fā)平臺和算法芯片化平臺，并通過海量高質量數(shù)據(jù)預訓練生產(chǎn)通用大模型；在通用大模型基礎上，引入高質量行業(yè)數(shù)據(jù)，生產(chǎn)行業(yè)大模型；再在行業(yè)大模型的基礎上，通過細分場景數(shù)據(jù)微調研發(fā)場景大模型。通過這樣的三級架構，讓大模型為千行百業(yè)賦能。
據(jù)悉，基于“云天天書”大模型，云天勵飛與深圳龍崗政數(shù)局共同探索了大模型在政務咨詢服務系統(tǒng)的應用。通過對海量的政策、法規(guī)、辦理流程等文本進行結構化梳理和分析，形成易于查閱的知識庫，幫助服務人員快速查詢和獲取準確的信息，減少查閱時間，提高政務服務工作效率。目前該系統(tǒng)在行政服務大廳探索應用，未來計劃逐步拓展到其他政府機構和公共服務領域，如法務、金融、教育、醫(yī)療、交通等。
云天勵飛與龍崗政數(shù)局合作探索打造的“大模型政務咨詢服務系統(tǒng)”還入選了中國信通院《通用人工智能創(chuàng)新應用案例集》。
“算法芯片化”能力加速AI落地
據(jù)現(xiàn)場工作人員介紹，云天勵飛核心能力是“算法芯片化”。所謂“算法芯片化”，不是“算法+芯片”，而是云天勵飛基于對場景的深刻理解，以及對算法關鍵計算任務在應用場景中的量化分析，將芯片設計者的理念、思想與算法相融合的AI芯片設計流程。
這一理念同樣在本次展出的DeepEdge10芯片和“云天天書”大模型上有所體現(xiàn)。DeepEdge10可為大模型在邊側推理場景提供充足算力，可以解決大模型應用和部署過程中的各類挑戰(zhàn)，包括新的神經(jīng)網(wǎng)絡計算范式、高帶寬傳輸、分布式并行計算、低精度混合計算等，能夠為大模型和實際應用場景嫁接起橋梁，讓大模型技術能夠高效、低成本地部署到終端，幫助場景探索更多大模型的創(chuàng)新應用。
“應用產(chǎn)生數(shù)據(jù)、數(shù)據(jù)訓練算法、算法定義芯片、芯片賦能應用”——這是云天勵飛一直以來堅持的人工智能發(fā)展之路。基于這個思路，云天勵飛于2020年正式提出“自進化城市智能體”的戰(zhàn)略目標。在戰(zhàn)略目標的指引下，云天勵飛已經(jīng)在深圳、東莞、青島、成都、杭州、上海、北京等多個城市實現(xiàn)項目落地，成功打造了一系列標桿式項目。
值得一提的是，2021年至2023年，深圳市政府工作報告連續(xù)3年提及要建設“鵬城自進化智能體”。今年6月份發(fā)布的《深圳市數(shù)字孿生先鋒城市建設行動計劃（2023）》也明確提到，“圍繞分步有序建設鵬城自進化智能體，推進以數(shù)字孿生為特點的深圳智慧城市和數(shù)字政府建設。”
（文章來源：證券日報）
更多相關文章
