AI 科技資訊人工智慧的新知入口
主題

基礎架構 (Infrastructure)

雲端佈署、伺服器架構、硬體規格與運算資源
AI 趨勢

LPU 是什麼?專為 AI 推論設計的「語言處理單元」,速度快 GPU 10 倍的秘密

LPU(Language Processing Unit,語言處理單元)是由 Groq 公司開發、專為大型語言模型推論設計的全新 AI 晶片架構。它捨棄了 GPU 的動態排程與外部記憶體,改用確定性靜態排程搭配大量片上 SRAM,讓每個 Token 的產出速度比傳統 GPU 快數倍至十數倍,成為即時 AI 對話與語音應用的關鍵硬體加速器。

閱讀全文 →