谷歌推出了其最新的人工智能數據中心芯片——Trillium。這款芯片是谷歌的第六代產品，與上一代TPU v5e相比，Trillium在每個芯片上的峰值計算性能提高了4.7倍，節能67%以上。

此外，谷歌還通過增加高帶寬存儲（HBM）容量和整體帶寬，以及引入新的技術特性，如擴大了矩陣乘單元（MXU）的大小并提高了時鐘速度，以及配備了第三代SparseCore等，進一步提升了Trillium的性能。

SparseCore是Trillium的一個關鍵特性，它是一種專門用于處理高級排名和推薦工作負載中常見的超大型嵌入的專用加速器。通過戰略性地從張量核心中卸載隨機和細粒度訪問，SparseCore能夠加速嵌入繁重的工作負載。此外，HBM容量和帶寬翻倍后，Trillium可以使用具有更多權重和更大鍵值緩存的更大模型。

Alphabet首席執行官桑達爾·皮查伊（Sundar Pichai）表示，過去六年，行業對機器學習計算機的需求增長了100萬臺，每年大約增長10倍。谷歌推出Trillium AI芯片正是為了應對這一日益增長的需求。谷歌本身并不銷售芯片，而是通過其云計算平臺出租訪問權限。谷歌表示，新芯片Trillium旨在為從大模型生成文本和其他媒體的技術提供支持，并計劃于2024年末向云客戶提供。

在架構設計上，Trillium可以在單個高帶寬、低延遲的Pod中擴展到多達256個TPU，并且可以擴展到數百個Pod。這使得Trillium能夠處理更大規模、更復雜的人工智能任務，進一步推動人工智能技術的發展和應用。

谷歌推出的Trillium AI芯片在性能上實現了近5倍的提升，并在多個方面進行了創新和改進。這款芯片有望在未來的人工智能領域中發揮重要作用。