谷歌推出迄今為止最強(qiáng)大、最節(jié)能的人工智能芯片

　　谷歌母公司 Alphabet 推出了人工智能數(shù)據(jù)中心芯片系列的最新成員：Trillium。

　　Trillium 代表最先進(jìn)的人工智能專用硬件，由張量處理單元 (TPU) 組成。這些用于人工智能數(shù)據(jù)中心的定制芯片是 Nvidia 產(chǎn)品的出色替代品，為市場(chǎng)提供了引人注目的選擇。

　　目前，英偉達(dá)在人工智能芯片領(lǐng)域占據(jù)了 80% 的市場(chǎng)份額，谷歌則占據(jù)了剩下的 20% 的份額。值得注意的是，谷歌并不出售這些芯片，而是通過(guò)其云計(jì)算平臺(tái)出租它們。

　　Trillium 是其第六代 TPU，是迄今為止性能最高、最節(jié)能的 TPU。正如博客文章中所述，谷歌強(qiáng)調(diào) Trillium TPU 與 TPU v5e 相比，每芯片的峰值計(jì)算性能提高了 4.7 倍。

　　與 TPU v5e 相比，該公司的最新產(chǎn)品擁有雙倍的高帶寬內(nèi)存 (HBM) 容量和帶寬，以及雙倍的芯片間互連 (ICI) 帶寬。

　　此外，Trillium 還具有第三代 SparseCore，這是一種專門的加速器，用于處理高級(jí)排名和推薦工作負(fù)載中的超大嵌入。該博客文章還強(qiáng)調(diào)了以減少延遲和降低成本來(lái)訓(xùn)練下一波“基礎(chǔ)模型”的能力米樂(lè)。米樂(lè)m6官網(wǎng)登錄入口

　　據(jù)谷歌稱，最新的 Trillium TPU 的能效比 TPU v5e 高出 67% 以上。此外，Trillium 能夠在單個(gè)高帶寬、低延遲 Pod 中擴(kuò)展到多達(dá) 256 個(gè) TPU。

　　該博客還提到，除了這種 Pod 級(jí)可擴(kuò)展性之外，配備多片技術(shù)和鈦智能處理單元 (IPU) 的 Trillium TPU 還可以擴(kuò)展到數(shù)百個(gè) Pod，連接建筑物級(jí)超級(jí)計(jì)算機(jī)中的數(shù)萬(wàn)個(gè)芯片，這些芯片通過(guò)每秒數(shù)拍比特的數(shù)據(jù)中心網(wǎng)絡(luò)。

　　該公司通過(guò)擴(kuò)大矩陣乘法單元 (MXU) 的尺寸并提高時(shí)鐘速度，將每個(gè) Trillium 芯片的計(jì)算性能提高了 4.7 倍。

　　該公司在一篇博客文章中表示，“Trillium TPU 將為下一波人工智能模型和代理提供動(dòng)力，我們期待著幫助我們的客戶獲得這些先進(jìn)的功能?！?/p>

　　這一進(jìn)步將大大有利于谷歌的云計(jì)算服務(wù)和Gemini。 Deep Genomics 和德勤等依賴谷歌云服務(wù)的公司將受益于新芯片的顯著提升。

　　Trillium TPU 對(duì)訓(xùn)練和服務(wù)長(zhǎng)上下文、多模式模型的支持將使 Google DeepMind 能夠比以往更快、更高效、延遲更低地訓(xùn)練和服務(wù)未來(lái)幾代 Gemini 模型。

　　Trillium TPU 是 Google Cloud 人工智能超級(jí)計(jì)算機(jī)的組成部分，這是一種專為尖端人工智能工作負(fù)載而設(shè)計(jì)的超級(jí)計(jì)算架構(gòu)。

　　谷歌 Deepmind 和谷歌研究院首席科學(xué)家 Jeff Dean表示： “Gemini 1.5 Pro 是谷歌規(guī)模最大、能力最強(qiáng)的 AI 模型，它是使用數(shù)萬(wàn)個(gè) TPU 加速器進(jìn)行訓(xùn)練的。”

　　“我們的團(tuán)隊(duì)對(duì)第六代 TPU 的發(fā)布感到非常興奮，我們期待在 Gemini 模型規(guī)模上提高訓(xùn)練和推理的性能和效率。”