游客發(fā)表
發(fā)帖時間:2024-12-29 14:36:58
12月18日消息,智譜a專國內(nèi)領(lǐng)先的酷睿大模型廠商智譜官方發(fā)布了智譜清言的Intel酷睿Ultra專享版,無需聯(lián)網(wǎng),享版須即可在PC本地離線運行智譜的發(fā)布端側(cè)模型,有利于保護(hù)隱私安全。無需
智譜清言是聯(lián)網(wǎng)一款涵蓋移動端、PC端的但必AI助手,附加功能豐富,智譜a專但以往必須依賴云端大模型才能運行??犷?/p>
酷睿Ultra系列處理器通過CPU+NPU+iGPU三者合作,享版須可以為不同的發(fā)布AI負(fù)載提供合適的算力引擎,其中CPU適合對延遲要求較高的無需AI應(yīng)用,NPU適合持續(xù)性的聯(lián)網(wǎng)、低負(fù)載的但必AI應(yīng)用,iGPU適合大吞吐量的智譜a專AI運算。
智譜與Intel深度合作,在本地模型的選擇上確保了模型參數(shù)、準(zhǔn)確性的平衡,同時采用合理的量化技術(shù),確保合理的模型文件尺寸,還在性能調(diào)優(yōu)上選取了優(yōu)秀的工具鏈,確保本地模型高效第運行酷睿Ultra之上。
本次發(fā)布的智譜清言酷睿Ultra專享版,會自動檢測PC配置,自動下載合適的端側(cè)模型,提供知識問答、文檔撰寫、創(chuàng)意生成等服務(wù)。
比如,可以將若干篇存在PC本地的文檔通過在RAG形成專有的知識庫,并通過自然語言查詢,輸出內(nèi)容可包含來自本地文檔的專業(yè)信息,而且更加自然、有邏輯。
再比如,可以完成本地長文檔的摘要等工作,提升生產(chǎn)效率。
不過注意,它對內(nèi)存容量也有一定的要求,不得低于24GB。
下載地址:
https://sfile.chatglm.cn/apk/xinyu/windows/endside/chatglm_setup_win32_1.0.81_default_full.exe
相關(guān)內(nèi)容
隨機(jī)閱讀
熱門排行
友情鏈接