什麽是 TOPS，為什麽它對 AI PC很重要？

隨著我們探索人工智能（AI）計算機，許多新術語和縮寫正在湧現，用於描述新的硬件功能和其硬件要求。

你是否註意到許多現代筆記本電腦（以及很快將要推出的AMD的Ryzen PRO 8000系列臺式機）都配備了專為提高AI性能而設計的NPU處理器？

隨著NPUs的普及，我們需要一種新的方式來衡量性能；這就是TOPS的作用所在。

什麼是TOPS？

TOPS代表每秒兆億次操作，可用於衡量整個系統或單個硬件的性能。

當用於遊戲或AI任務時，NVIDIA的RTX 4090顯卡可以提供超過1300 TOPS的性能——這是市場上最強大的GPU之一，但這個數字仍然有些令人生畏，不容易理解。

英特爾的Core Ultra CPU——該公司首次推出的包含NPU的產品——在CPU、集成GPU和NPU方面提供了34 TOPS的總體分數；其中約有10 TOPS專門用於NPU性能。AMD的Ryzen 8040移動CPU將NPU性能提升至16 TOPS；高通驍龍X Elite將配備一個能夠達到45 TOPS的NPU。

預計英特爾、AMD和高通將在未來產品的新一代中繼續提高NPU性能。我們知道英特爾的下一代Lunar Lake CPU將配備一個45 TOPS的NPU，而AMD打算通過其移動芯片系列將NPU性能提高三倍。

這些芯片製造商使用TOPS來展示他們的產品，旨在為消費者簡化和宣傳系統性能，幫助消費者了解他們將得到什麼。

為什麼使用TOPS來評估AI性能？

TOPS並不是為了準確描繪NPU的性能；它更像是TFLOPs用於促進和廣告系統性能，以便廣泛理解。一個聲稱比競爭對手高兩到三倍的TOPS的NPU可能看起來令人印象深刻，但可能缺乏表明其它情況的微妙區別。

許多因素影響NPU的性能。具有100 TOPS的NPU可能被優化為更有效地執行特定定義的任務，而具有200 TOPS的NPU則可能被優化為處理更多種類的工作負載。

衡量整體計算機性能涉及具體的基準測試和抽象的觀察。在審查筆記本電腦時，我們使用特殊的測試軟件，不僅提供詳盡的數據指標，還能給出系統在使用中的實際性能印象。

已經有專門針對NPUs的基準測試可供使用，用於評估特定任務的能力。

TOPS也被用作設備上AI工具的行業基準測試措施。微軟已經製定了在沒有訪問微軟服務器的情況下運行Copilot所需的最低要求，為40 TOPS。

盡管TOPS可能不提供對NPU性能最準確的評估，但它為買家提供了一個快速比較AI計算機的指南。

我們應該優先考慮TOPS嗎？

假設您只是一個普通的電腦用戶，處理電子郵件和瀏覽網頁，目前可能並不需要過多關註NPUs。

如果您對AI計算機感興趣，或者希望獲取具備AI功能的工具來簡化生活，了解NPUs以及它們如何通過TOPS進行衡量將是有用的。