隨著我們探索人工智能(AI)計算機,許多新術語和縮寫正在湧現,用於描述新的硬件功能和其硬件要求。

你是否註意到許多現代筆記本電腦(以及很快將要推出的AMD的Ryzen PRO 8000系列臺式機)都配備了專為提高AI性能而設計的NPU處理器?

隨著NPUs的普及,我們需要一種新的方式來衡量性能;這就是TOPS的作用所在。

什麼是TOPS?

TOPS代表每秒兆億次操作,可用於衡量整個系統或單個硬件的性能。

當用於遊戲或AI任務時,NVIDIA的RTX 4090顯卡可以提供超過1300 TOPS的性能——這是市場上最強大的GPU之一,但這個數字仍然有些令人生畏,不容易理解。

英特爾的Core Ultra CPU——該公司首次推出的包含NPU的產品——在CPU、集成GPU和NPU方面提供了34 TOPS的總體分數;其中約有10 TOPS專門用於NPU性能。AMD的Ryzen 8040移動CPU將NPU性能提升至16 TOPS;高通驍龍X Elite將配備一個能夠達到45 TOPS的NPU。

預計英特爾、AMD和高通將在未來產品的新一代中繼續提高NPU性能。我們知道英特爾的下一代Lunar Lake CPU將配備一個45 TOPS的NPU,而AMD打算通過其移動芯片系列將NPU性能提高三倍。

這些芯片製造商使用TOPS來展示他們的產品,旨在為消費者簡化和宣傳系統性能,幫助消費者了解他們將得到什麼。

為什麼使用TOPS來評估AI性能?

TOPS並不是為了準確描繪NPU的性能;它更像是TFLOPs用於促進和廣告系統性能,以便廣泛理解。一個聲稱比競爭對手高兩到三倍的TOPS的NPU可能看起來令人印象深刻,但可能缺乏表明其它情況的微妙區別。

許多因素影響NPU的性能。具有100 TOPS的NPU可能被優化為更有效地執行特定定義的任務,而具有200 TOPS的NPU則可能被優化為處理更多種類的工作負載。

衡量整體計算機性能涉及具體的基準測試和抽象的觀察。在審查筆記本電腦時,我們使用特殊的測試軟件,不僅提供詳盡的數據指標,還能給出系統在使用中的實際性能印象。

已經有專門針對NPUs的基準測試可供使用,用於評估特定任務的能力。

TOPS也被用作設備上AI工具的行業基準測試措施。微軟已經製定了在沒有訪問微軟服務器的情況下運行Copilot所需的最低要求,為40 TOPS。

盡管TOPS可能不提供對NPU性能最準確的評估,但它為買家提供了一個快速比較AI計算機的指南。

我們應該優先考慮TOPS嗎?

假設您只是一個普通的電腦用戶,處理電子郵件和瀏覽網頁,目前可能並不需要過多關註NPUs。

如果您對AI計算機感興趣,或者希望獲取具備AI功能的工具來簡化生活,了解NPUs以及它們如何通過TOPS進行衡量將是有用的。

文章來源-科尔同学