omniture

浪潮信息"源2.0"大模型YuanChat支持英特爾最新商用AI PC

2024-03-27 18:03 3365

北京2024年3月27日 /美通社/ -- 3月26日,浪潮信息與英特爾正式宣布,浪潮信息"源2.0系列基礎(chǔ)大模型"已和最新的英特爾® 酷睿? Ultra處理器平臺(tái)完成適配,本地推理速度提升100%。企業(yè)可以在全新的英特爾商用客戶端AI PC上,使用AI PC大模型效率工具"YuanChat"快速本地化部署和運(yùn)行"源2.0"大模型, 以更快的訪問(wèn)速度、更高的性能和更好的數(shù)據(jù)安全控制,輕松完成自動(dòng)編程、商業(yè)數(shù)據(jù)計(jì)算、公文寫作等任務(wù),釋放大模型在企業(yè)應(yīng)用場(chǎng)景中的生產(chǎn)力和創(chuàng)新力。


  • 安全靈活高效,YuanChat基于英特爾® 酷睿? Ultra 處理器打造商用AI PC效率工具

2024年是 "大模型落地應(yīng)用的元年",AI PC(人工智能個(gè)人電腦),作為一種能夠在本地運(yùn)行大模型及AIGC應(yīng)用的PC終端,已經(jīng)成為AI實(shí)現(xiàn)規(guī)?;瘮U(kuò)展及應(yīng)用落地的重要載體。英特爾基于酷睿 Ultra 處理器強(qiáng)悍的 CPU+GPU+NPU 三大 AI 引擎,為商用客戶端AI PC提供強(qiáng)勁性能,滿足經(jīng)濟(jì)、物理、數(shù)據(jù)保密這三大生成式AI on AI PC 法則,可支持200億規(guī)模大語(yǔ)言模型的本地化運(yùn)行,加速大模型應(yīng)用落地。

浪潮信息與英特爾合作,針對(duì)"源2.0系列基礎(chǔ)大模型",實(shí)現(xiàn)酷睿Ultra AI PC平臺(tái)推理優(yōu)化,并推出為AI PC而生的大模型效率工具"YuanChat"。浪潮信息"源2.0系列基礎(chǔ)大模型"作為首個(gè)全面開(kāi)源的千億參數(shù)模型,包含1026億、518億、21億等三種參數(shù)規(guī)模。"YuanChat"是基于"源2.0系列基礎(chǔ)大模型"設(shè)計(jì)的應(yīng)用工具,旨在以對(duì)話形式調(diào)用大模型,幫助用戶完成數(shù)據(jù)計(jì)算、公文寫作、編程設(shè)計(jì)、知識(shí)問(wèn)答、會(huì)議紀(jì)要、文本總結(jié)與摘要等任務(wù)導(dǎo)向型應(yīng)用,真正實(shí)現(xiàn)重塑工作模式,提高生產(chǎn)力水平。


基于酷睿 Ultra AI PC上所部署的"YuanChat",用戶能夠流暢地使用"源2.0-2B模型(Yuan2-2B-Februa-hf)"。作為業(yè)界最強(qiáng)的小規(guī)模語(yǔ)言模型,"源2.0-2B模型"具有領(lǐng)先的自動(dòng)編程、數(shù)值計(jì)算和邏輯推理能力,在Python編程測(cè)試(Humaneval)、數(shù)學(xué)計(jì)算測(cè)試(GSM8K)中展現(xiàn)出超越ChatGPT3.5及其他百億(>10B)參數(shù)模型的評(píng)測(cè)結(jié)果,已成為最具競(jìng)爭(zhēng)力的開(kāi)源可商用模型。

  • 在編程方面,"YuanChat"提供強(qiáng)大的自動(dòng)編程、代碼分析、代碼優(yōu)化與測(cè)試用例生成能力,支持Python、C++、Java等多種編程語(yǔ)言,每分鐘可生成50+行參考代碼,10分鐘即可開(kāi)發(fā)出小型軟件項(xiàng)目;
  • 在數(shù)據(jù)分析領(lǐng)域,"YuanChat"同樣可以完成復(fù)雜的數(shù)學(xué)計(jì)算與問(wèn)題推理,能夠滿足企業(yè)在不同場(chǎng)景下的復(fù)雜數(shù)據(jù)計(jì)算需求;
  • 在文本創(chuàng)作領(lǐng)域,"YuanChat"支持十余種公文寫作,可協(xié)助完成智能問(wèn)答、會(huì)議紀(jì)要、文本摘要等高級(jí)文本處理任務(wù),這意味著 "YuanChat" 不僅能夠生成標(biāo)準(zhǔn)的公文,還能夠理解和處理復(fù)雜的文本信息,提取關(guān)鍵信息,大大提高了文本創(chuàng)作的效率和質(zhì)量。

基于英特爾商用客戶端AI PC強(qiáng)大的獨(dú)立運(yùn)算能力,"YuanChat"能解決數(shù)據(jù)傳輸過(guò)程中的延遲問(wèn)題與泄露風(fēng)險(xiǎn),能夠?qū)崿F(xiàn)更高的數(shù)據(jù)安全性、性能和控制權(quán)。同時(shí),"YuanChat"支持離線狀態(tài)下的自主操作,這使得終端用戶能夠擺脫網(wǎng)絡(luò)限制,在任何時(shí)間、任何地點(diǎn)都能夠進(jìn)行創(chuàng)造性的工作,享受更靈活的大模型交互體驗(yàn)。

在英特爾商用客戶端AI PC上,可以基于BigDL-LLM大模型加速庫(kù)實(shí)現(xiàn)對(duì)"YuanChat"的模型量化處理,進(jìn)一步提高模型的可移植性并加快計(jì)算速度,減少資源占用,彌合終端有限的算力與對(duì)高精度模型和實(shí)時(shí)智能應(yīng)用的需求之間的差距。實(shí)測(cè)數(shù)據(jù)顯示,在處理復(fù)雜任務(wù)時(shí),"YuanChat"在保證精度的同時(shí),本地推理效率及性能提升達(dá)到100%,進(jìn)一步降低了企業(yè)應(yīng)用大模型的成本。

  • 共建AI PC 應(yīng)用,惠及千行百業(yè)智能變革

未來(lái),浪潮信息與英特爾將持續(xù)攜手構(gòu)建活躍的AIPC生態(tài)。雙方將聯(lián)合基于英特爾® 酷睿? Ultra處理器平臺(tái)進(jìn)行"源2.0系列基礎(chǔ)大模型"的進(jìn)一步適配與優(yōu)化,不斷完善"YuanChat"應(yīng)用系統(tǒng),將大模型和商用平臺(tái)的生產(chǎn)力、安全性、可管理性和穩(wěn)定性有機(jī)結(jié)合,開(kāi)拓商用 AI PC 更多的新應(yīng)用、新場(chǎng)景、新形態(tài),幫助企業(yè)用戶在PC端打造更加安全、流暢、易用的大模型效率工具,惠及企業(yè)提升效率,賦能世界的智能化變革。

消息來(lái)源:浪潮信息
China-PRNewsire-300-300.png
全球TMT
微信公眾號(hào)“全球TMT”發(fā)布全球互聯(lián)網(wǎng)、科技、媒體、通訊企業(yè)的經(jīng)營(yíng)動(dòng)態(tài)、財(cái)報(bào)信息、企業(yè)并購(gòu)消息。掃描二維碼,立即訂閱!
collection