科技巨頭微軟或正在研發(fā)參數(shù)達(dá)5000億的全新AI(人工智能)大模型,將正面叫板谷歌和OpenAI。
當(dāng)?shù)貢r(shí)間5月6日,據(jù)外媒報(bào)道,微軟正在研發(fā)一款名為MAI-1的最新AI大模型,其規(guī)模遠(yuǎn)超出微軟此前推出的一些開源模型,在性能上或能與谷歌的Gemini 1.5、Anthropic的Claude 3和OpenAI的GPT-4等知名大模型相匹敵。微軟或?qū)⒃?月21日開始舉辦的Build開發(fā)者大會(huì)上演示這款新模型。
據(jù)報(bào)道,MAI-1的開發(fā)由前谷歌AI領(lǐng)導(dǎo)人、曾擔(dān)任AI初創(chuàng)公司Inflection首席執(zhí)行官的穆斯塔法·蘇萊曼(Mustafa Suleyman)領(lǐng)導(dǎo)。就在今年3月,剛剛領(lǐng)投完Infection的最新一輪融資,微軟便從Infection挖走了包括蘇萊曼在內(nèi)的兩位聯(lián)合創(chuàng)始人以及部分員工。有知情人士透露,微軟為此向Infection支付了超過6.5億美元。
盡管MAI-1可能借鑒了Inflection旗下模型的部分技術(shù),有微軟員工表示,MAI-1是一款全新的大語言模型,擁有約5000億個(gè)參數(shù),遠(yuǎn)超微軟此前訓(xùn)練的任何開源模型。不到一個(gè)月前,微軟剛推出了一款名為Phi-3的小型AI模型,其中Phi-3 mini被優(yōu)化至可部署在手機(jī)上,擁有38億參數(shù),經(jīng)過3.3萬億token的訓(xùn)練,微軟稱其性能與GPT-3.5等模型相當(dāng)。
相比之下,MAI-1的規(guī)模要大得多,也需要更多的算力投入和訓(xùn)練數(shù)據(jù)。為了訓(xùn)練該模型,微軟已經(jīng)配置了大量包含英偉達(dá)GPU的服務(wù)器集群,并從各類來源收集訓(xùn)練數(shù)據(jù),包括由OpenAI的GPT-4生成的文本和公共互聯(lián)網(wǎng)數(shù)據(jù)。這或?qū)⑹筂AI-1與OpenAI的GPT-4處于相似的水平,據(jù)傳后者擁有超過1萬億個(gè)參數(shù)。
Phi系列模型和MAI-1的研發(fā)體現(xiàn)出微軟或在AI領(lǐng)域采取了雙重策略,一邊為移動(dòng)設(shè)備開發(fā)小型本地模型,一邊開發(fā)由云端支持的更大規(guī)模的模型。不過,即使在微軟內(nèi)部,MAI-1的確切用途也尚未得到確認(rèn)。
更重要的是,MAI-1體現(xiàn)出微軟并不希望在AI領(lǐng)域完全依附于合作伙伴OpenAI的技術(shù)。來自O(shè)penAI的技術(shù)正在驅(qū)動(dòng)微軟的各類生成式AI功能,包括集成在Windows中的聊天機(jī)器人。此前,有來自微軟AI平臺(tái)團(tuán)隊(duì)的員工抱怨稱,公司的AI戰(zhàn)略過于關(guān)注與OpenAI的合作關(guān)系,使得微軟對(duì)AI原創(chuàng)研究的預(yù)算減少。
6日當(dāng)天,微軟首席技術(shù)官凱文·斯科特(Kevin Scott)在領(lǐng)英上發(fā)帖,間接回應(yīng)了關(guān)于MAI-1的報(bào)道。他表示,OpenAI使用微軟構(gòu)建的超級(jí)計(jì)算機(jī)來訓(xùn)練AI模型,而微軟的研究部門和產(chǎn)品團(tuán)隊(duì)也在構(gòu)建AI模型:“AI模型幾乎出現(xiàn)在我們的每一項(xiàng)產(chǎn)品、服務(wù)和運(yùn)營流程中,制作和運(yùn)營它們的團(tuán)隊(duì)有時(shí)需要做一些自定義工作,無論是從頭開始訓(xùn)練一個(gè)模型,還是微調(diào)別人構(gòu)建的模型。未來將會(huì)有更多這樣的情況,其中一些模型的名字包括圖靈(Turing)和MAI!
為了實(shí)現(xiàn)在AI方面的突破,微軟也在大力囤積算力資源。4月初,有報(bào)道稱微軟計(jì)劃到今年年底前囤積180萬塊AI芯片,意味著公司希望在2024年內(nèi)將所持有的GPU數(shù)量增加兩倍。據(jù)知情人士透露,從2024財(cái)年到2027財(cái)年(到2027年6月30日結(jié)束),微軟預(yù)計(jì)將在GPU和數(shù)據(jù)中心上花費(fèi)約1000億美元。
澎湃新聞?dòng)浾?胡含嫣