Back
Apple MacBook Pro M5 明天發售,我會買嗎?
不會。
作為 AI Developer,我會注重 3 個指標:
- VRAM 容量
- Token/s
- Time to first token
根據 Apple 目前公開的資訊,這部 M5 MacBook Pro 的「首個符元生成速度(Time to first token)」為 M1 MacBook Pro 的 6.4 倍,不過其統一記憶體之容量上限僅為 32GB。
這意味着它只能運行相對較小型的 AI 模型,而這類小型 AI 對 Time to first token 的要求不算很大,因此意義不大。
如果要運行的 AI 模型不足 100b,我不會着重於 Time to first token,除非它連 GPU 都沒有。
M5 Max/Ultra Mac Studio 推出的日子,或許就是 Apple 耀武揚威的日子。