Chênh lệch vài điểm benchmark có thể hấp dẫn trong thông cáo ra mắt, nhưng sản phẩm phải trả tiền cho từng token, từng lần gọi công cụ và từng request phải chạy lại. Khi quy mô tăng, một model rẻ hơn nhưng đủ tốt thường tạo ra biên lợi nhuận tốt hơn model mạnh nhất.
Đánh giá model vì thế nên tính theo chi phí để hoàn thành một nhiệm vụ thành công. Chỉ số này buộc đội ngũ nhìn đồng thời vào chất lượng, độ trễ, số lần retry và giá inference thay vì tối ưu một con số tách rời thực tế.