FLOPS（每秒浮點運算次數）
又稱：浮點運算 · 算力 · TFLOPS · 每秒浮點運算
衡量「每秒能做多少次浮點運算」的原始算力數字。它看起來最專業，卻最不能預測你實際感受到的快慢。
你會在什麼時候遇到它
規格表與行銷頁面最愛用 FLOPS 轟炸你，因為數字大、好看。但你真正感受到的速度（生成一個 token 要多久）多半不是被 FLOPS 決定，而是被記憶體頻寬決定。把 FLOPS 當成「快不快」的答案，你會在買了高算力卡之後發現生成速度沒變快，卻說不出原因。
打個比方
FLOPS 像廚房裡「每秒能切幾刀」的刀工速度。但如果食材（資料）要從很遠的倉庫一趟趟搬進來，刀再快也得等食材。大模型生成時，多數時間花在「搬資料」而不是「切」，所以搬運速度（記憶體頻寬）才是瓶頸。
最小範例
兩個階段，瓶頸不同：
prefill（讀你的提示） → 計算密集 → FLOPS 比較有意義
decode（一個個吐 token） → 記憶體密集 → 頻寬才是關鍵，FLOPS 幫不上忙
你「感受到的慢」多半在 decode，
而那一段恰恰是 FLOPS 最無用的地方。所以該看的是「記憶體頻寬」與「實測的 tokens/second、TTFT」，不是 FLOPS。FLOPS 對 prefill 還算相關，對你每天等的生成速度幾乎不相關。
最常搞錯的地方
- 以為 FLOPS 越高、生成 token 越快。生成（decode）是記憶體頻寬瓶頸，加算力幾乎不會變快。
- 跨架構、跨精度直接比 FLOPS 數字。同一張卡在不同精度（例如 FP16 與 FP8）下報出的 FLOPS 可以差好幾倍，基準不同的數字互比沒有意義。
- 把 FLOPS（每秒，速度）跟 FLOPs（總次數，工作量）混為一談。大小寫 s 的差別，行銷文案常常故意或無意地模糊掉。