從微軟遷出被視為試圖減少對英偉達圖形處理單元的依賴,這些單元需求量很大,供應(yīng)短缺。
微軟的人工智能芯片代號為Athena,專為數(shù)據(jù)中心服務(wù)器而設(shè)計。預(yù)計Athena將與Nvidia的旗艦H100 GPU競爭,后者正被微軟和其他云提供商用于為大型語言模型和其他AI應(yīng)用程序提供動力。
該信息于5月4日首次報道雅典娜。該芯片預(yù)計將在定于11月14日至17日舉行的Microsoft Ignite會議上亮相。
為了降低運行生成式人工智能模型的成本,微軟自 2019 年以來一直在開發(fā)一種名為 Athena 的人工智能芯片。
根據(jù)說法,雅典娜背后的想法有兩個目的。微軟高管意識到,該公司在構(gòu)建自己的內(nèi)部芯片方面落后于谷歌和亞馬遜,一位了解此事的消息人士告訴The Information。
此外,據(jù)報道,微軟正在尋找更便宜的替代品,并決定制造更便宜的芯片。超過300名微軟員工在芯片上工作。
Athena的發(fā)展正值人工智能芯片需求不斷增加的時候,特別是對于需要大量計算能力來訓(xùn)練和操作的大型語言模型。因此,人工智能芯片的短缺推高了產(chǎn)品價格。
谷歌和亞馬遜正在開發(fā)自己的人工智能芯片,這表明人工智能芯片市場將快速增長。
據(jù)知情人士透露,OpenAI還在探索制造自己的人工智能芯片,甚至已經(jīng)評估了潛在的收購目標(biāo)。通過這樣做,ChatGPT之父希望減少對英偉達和其他芯片制造商的依賴。它還可以幫助微軟降低成本并提高其云服務(wù)的性能。
據(jù)知情人士透露,至少從去年開始,OpenAI一直在討論各種選擇,以解決該公司所依賴的昂貴人工智能芯片短缺的問題。
選擇包括構(gòu)建自己的人工智能芯片,與包括英偉達在內(nèi)的其他芯片制造商更緊密地合作,以及多元化進入英偉達以外的供應(yīng)商。
OpenAI拒絕置評。
OpenAI首席執(zhí)行官Sam Altman已將收購更多人工智能芯片作為公司的首要任務(wù)。他曾公開抱怨GPU的稀缺性,這是一個由英偉達主導(dǎo)的市場。英偉達控制著全球80%以上的芯片市場份額,最適合運行人工智能應(yīng)用程序。
獲得更多芯片的努力與Sam Altman發(fā)現(xiàn)的兩個主要問題有關(guān):為OpenAI軟件提供動力的先進處理器短缺;與操作硬件相關(guān)的“壓倒性”成本,以支持他們的項目和產(chǎn)品。
自 2020 年以來,OpenAI 一直在微軟建造的巨型超級計算機上開發(fā)生成式人工智能技術(shù),使用 10000 個 Nvidia GPU。
生成式人工智能是一種人工智能,經(jīng)過編程,可自動生成新內(nèi)容,如文本、圖像、音頻和視頻。它與其他人工智能系統(tǒng)的不同之處在于從現(xiàn)有數(shù)據(jù)中預(yù)測結(jié)果。生成式人工智能系統(tǒng)不依賴于訓(xùn)練數(shù)據(jù),而是能夠自行生成新的、更豐富的數(shù)據(jù)。
使用OpenAI運行ChatGPT是昂貴的。根據(jù)伯恩斯坦銀行的Stacy Rasgon的分析,每次查詢的成本約為4美分。如果 ChatGPT 查詢增長到谷歌搜索量的十分之一,OpenAI 最初每年將需要價值約 481 億美元的 GPU 和價值約 16 億美元的芯片才能維持生計。
開發(fā)自己的人工智能芯片的努力將使OpenAI進入谷歌,亞馬遜和微軟等一小群大型科技公司,這些公司正試圖控制對其業(yè)務(wù)至關(guān)重要的芯片的設(shè)計過程。
目前還不清楚OpenAI是否會繼續(xù)其制造定制芯片的計劃。據(jù)業(yè)內(nèi)資深人士稱,這樣做將是一項重大的戰(zhàn)略舉措,也是一項每年可能花費數(shù)億美元的重大投資。即使為這項任務(wù)投入資源,OpenAI也不能保證成功。
收購一家芯片公司可能會加快OpenAI自己的芯片構(gòu)建過程,就像亞馬遜一樣,通過在2015年收購Annapurna Labs。
據(jù)一位熟悉OpenAI計劃的人士稱,該公司研究了它對可能的收購目標(biāo)進行事實核查的程度。OpenAI的目標(biāo)公司的身份尚不清楚。
即使OpenAI繼續(xù)實施定制芯片計劃,包括收購,這項工作也可能需要數(shù)年時間。與此同時,該公司仍然依賴Nvidia和Advanced Micro Devices等商業(yè)芯片供應(yīng)商。
一些大型科技公司多年來一直在構(gòu)建自己的處理器,但結(jié)果有限。據(jù)路透社報道,Meta Platforms生產(chǎn)定制芯片的努力遇到了問題,促使該公司逐步淘汰其部分人工智能芯片。Facebook所有者正在開發(fā)一種可以支持各種人工智能工作的新型芯片。
OpenAI考慮生產(chǎn)自己的人工智能芯片可能表明,它正朝著減少對微軟依賴的方向發(fā)展。
半導(dǎo)體研究公司SemiAnalysis的分析師迪倫·帕特爾表示,由于人工智能聊天機器人運行的昂貴技術(shù)基礎(chǔ)設(shè)施,世界上有這么多人使用ChatGPT,OpenAI每天可能花費超過700萬美元。原因是 ChatGPT 需要巨大的計算能力來響應(yīng)用戶請求。
"大部分成本是基于OpenAI需要的昂貴服務(wù)器,“Dylan Patel告訴The Information。
在與Insider的電話中,Dylan Patel表示,OpenAI現(xiàn)在運營ChatGPT的成本更高,因為他最初的估計是基于GPT-3模型。
帕特爾說,OpenAI的最新型號GPT-4運行成本更高。
SemiAnalysis的其他分析師Dylan Patel和Afzal Ahmad表示:“訓(xùn)練OpenAI的大型語言模型可能花費數(shù)千萬美元。然而,操作或推理成本遠遠超過以任何合理規(guī)模部署大型語言模型的訓(xùn)練成本。
"事實上,ChatGPT 的推理成本超過了每周的培訓(xùn)成本,“他們強調(diào)說。