• <td id="ykics"></td>
  • <small id="ykics"></small>
  • <small id="ykics"><li id="ykics"></li></small>
  • <td id="ykics"></td>
  • <small id="ykics"><li id="ykics"></li></small>
  • <small id="ykics"><li id="ykics"></li></small><td id="ykics"></td>
  • <small id="ykics"><li id="ykics"></li></small>
  • <td id="ykics"><button id="ykics"></button></td>
  • <small id="ykics"></small>

    微軟開發定制AI芯片“由軟變硬”,到底打的什么算盤?

    極客網·極客觀察11月17日 傳聞是真的,微軟正在開發定制AI芯片,它可以用來訓練大語言模型,讓微軟獲得更多獨立,避免過度依賴英偉達。不只如此,微軟還在開發Arm CPU,主要供云計算網絡使用。兩款芯片瞄準的都是Azure數據中心,微軟企業客戶可以用它們來搭建AI平臺。

    weiruan.jpg

    最新消息顯示,微軟Azure Maia AI芯片和Arm版Azure Cobalt CPU將會在2024年推出。目前市場上最流行的AI芯片是英偉達的H100 GPU,企業用它訓練生成式圖形工具和大語言模型。英偉達GPU需求很高,供不應求,網上標價單塊已經沖破4萬美元。

    深度定制芯片

    微軟Azure硬件系統和基礎設施主管Rani Borkar解釋說:“在芯片開發方面微軟實際上有很長的歷史?!?0多年前微軟就曾聯合其它企業開發Xbox芯片,還曾開發過Surface芯片。 “所有這些努力都是建立在經驗之上的。2017年我們開始研究云計算硬件,開始研發自己的定制處理器?!?/p>

    Rani Borkar稱,Azure Maia AI芯片和Cobalt CPU都是微軟自己開發的,當中還涉及到云服務器堆棧,兼顧性能、能耗和成本?!癆I時代來臨,我們重新思考云基礎設施,重新優化了基礎設施的每一層?!?/p>

    Azure Cobalt CPU是一款128核芯片,它是基于ArmNeoverse CSS設計的,屬于微軟定制產品。芯片將會用來驅動Azure云服務。Rani Borkar說:“我們除了深入思考性能,還考慮到能耗管理。在設計時我們有意做了一些選擇,比如可以控制每個內核的性能和能耗,還有它在虛擬機上的表現?!?/p>

    目前微軟已經在Teams、SQL服務器上測試Cobalt CPU,明年就會向客戶提供虛擬機。

    全面提升性能

    亞馬遜也開發了Graviton 3服務器,它與微軟服務器相比誰更勝一籌呢?微軟沒有明說,不過考慮到微軟Azure Cobalt CPU是基于Arm架構開發的,性能上應該有一些優勢。Rani Borkar稱:“最初的測試顯示,微軟新品的性能比微軟現有數據中心中產品的性能高40%,目前用的是商用版Arm服務器?!?/p>

    至于Maia 100 AI,它是面向AI開發的。有些企業想在Azure平臺上執行AI任務,Maia 100 AI可以幫上忙。微軟已經與OpenAI攜手合作,設計測試Maia。

    OpenAI CEO Sam Altman說:“很高興微軟在第一時間向我們分享了Maia芯片的設計,我們正在努力改進、測試模型。Azure提供的端到端AI架構已經針對Maia進行了優化,未來可以幫助客戶訓練更強大的模型,讓模型變得更便宜?!?/p>

    Maia芯片是用臺積電5納米工藝制造的,擁有1050億晶體管,比AMD MI300X AI GPU的1530億個少30%。微軟、AMD、英特爾、Meta、英偉達、高通都在努力,它們試圖讓下一代AI模型數據模式實現標準化。

    Rani Borkar說:“Maia是微軟開發的第一款真正的液冷服務器處理器。我們的目標是打造更高密度、更高效率的服務器?!蔽④浶孪到y與當前的數據中心是契合的,所以部署時會更快。

    目前微軟正在利用GPT 3.5 Turbo、必應AI、GitHub Copilot對Maia 100進行測試,只是部署還處在早期階段,所以微軟沒有提供具體的性能測試數據。

    打造多樣化供應鏈

    因為缺少具體數據支撐,我們不知道Maia相比英偉達H100、AMD MI300X誰更強大。Rani Borkar不愿意和競爭對手對比,她只是說微軟與AMD、英偉達都有合作。微軟主要還是想打造多樣化供應鏈,不想過度依賴英偉達。

    照估計,為了讓ChatGPT商用,OpenAI采購了3萬顆A100 GPU芯片,如果微軟能擁有自己的芯片,就可以幫OpenAI降低成本。至于微軟為Azure開發的芯片,它不會對外出售。Borkar解釋稱:“它更多像是補充,不是為了與對手競爭。我們的云計算平臺上有AMD、英特爾芯片,在AI方面,除了英偉達芯片,我們也會用AMD芯片。對于我們的基礎設施而言,這些合作伙伴相當重要,我們也想給客戶更多選擇?!?/p>

    從Maia 100和Cobalt 100的命名看,微軟肯定已經在設計第二代產品。Borkar說:“這是一個系列的產品,不只有100,還會有更多……不過我們暫時不會透露路線圖規劃?!?/p>

    到目前為止微軟并沒有透露Maia的價格,不過微軟已經悄悄推出微軟365 Copilot服務,每月每用戶收費30美元,并不便宜,照此推測,Maia應該也不會便宜。

    從微軟的規劃看,Maia 100人工智能芯片的直接對手是英偉達GPU,Cobalt 100芯片主要針對英特爾處理器。截止10月底,微軟擁有現金1440億美元,2022年在全球云計算市場占據21.5%的份額。到了2024年,運行Cobalt 100芯片的虛擬機服務將會正式商用。

    巨頭定制芯片大勢所趨

    微軟的對手也沒有閑著。2016年谷歌推出Tensor處理器,2018年亞馬遜推出Graviton Arm處理器和Inferentia AI處理器,還于2020年推出Trainium(可以訓練AI模型)。

    從競爭對手的舉動看,微軟推出自有處理器也是隨了大流。在過去一年多時間里,芯片價格上漲,美國加息,企業不得不尋找辦法提高資金利用效率,于是它們開始偏愛AWS Graviton處理器。在AWS前100大客戶中,幾乎所有客戶都在使用ARM處理器,性價比提升了40%。

    毋庸諱言,定制AI芯片已經成為巨頭們必須參與的游戲,競爭會越來越激烈?。ㄐ〉叮?/p>

    極客網企業會員

    免責聲明:本網站內容主要來自原創、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

    在国产线视频a在线视频_行长将她双腿分得更开_国产精品视频二区不卡_精品一卡二卡三卡四卡免费
  • <td id="ykics"></td>
  • <small id="ykics"></small>
  • <small id="ykics"><li id="ykics"></li></small>
  • <td id="ykics"></td>
  • <small id="ykics"><li id="ykics"></li></small>
  • <small id="ykics"><li id="ykics"></li></small><td id="ykics"></td>
  • <small id="ykics"><li id="ykics"></li></small>
  • <td id="ykics"><button id="ykics"></button></td>
  • <small id="ykics"></small>