Theo phát biểu ngày 03/10 của ông Alexey Navolokin, Giám đốc khu vực Châu Á - Thái Bình Dương của AMD, sự chuyển dịch của AI từ các câu lệnh đơn lẻ sang quy trình vận hành liên tục đang khiến lượng token tiêu thụ tăng vọt do hệ thống phải liên tục suy luận, lặp lại và gọi công cụ. Mọi thao tác trên hạ tầng cloud đều phát sinh chi phí dựa theo mức độ sử dụng, tích tụ lại thành khoản chi phí định kỳ rất lớn.

Thay vì giới thiệu một sản phẩm cụ thể để giải quyết nỗi đau này, AMD đưa ra một định hướng chiến lược: coi agentic AI là bài toán hạ tầng phân tán. Do đó, thay vì liên tục mở rộng ngân sách cho cloud, giải pháp căn cơ là phân bổ và chia sẻ tải việc ra nhiều môi trường khác nhau.

Các con số của AMD và điều kiện đi kèm

Mức tải trung bình do AMD tự thiết lập là điểm đáng chú ý nhất: 5,7 triệu token đầu vào cùng 574.000 token đầu ra cho mỗi người dùng hằng ngày. Khi áp dụng định mức này cho quy mô 500 máy tính AMD AI PC triển khai theo mô hình kết hợp (50% tại chỗ và 50% đám mây), doanh nghiệp có thể giảm khoảng 40% đến 60% tổng chi phí trong vòng ba năm so với việc vận hành hoàn toàn trên cloud, phụ thuộc vào mô hình đám mây được lựa chọn.

Đối với phương án máy tính để bàn, AMD đưa ra bài toán kinh tế riêng cho dòng AMD AI PRO R9700. Dòng máy này được kỳ vọng xử lý khoảng 18 triệu token mỗi ngày với tiền điện tiêu thụ ước tính 64,80 USD/tháng. Theo mô hình tính toán của hãng, khoản chi phí trong ba năm cho phương án này dừng ở mức 6.533 USD, chênh lệch rất lớn so với con số 81.108 USD nếu phụ thuộc hoàn toàn vào dịch vụ đám mây.

Tuy nhiên, toàn bộ các con số trên đều dựa trên phân tích cùng giả định từ phía AMD; chi phí thực tế sẽ biến động tùy thuộc vào khối lượng công việc, mô hình cloud, tần suất vận hành phần cứng, giá điện và mô hình triển khai. Cần nhấn mạnh rằng mức tiết kiệm 40% - 60% hiện mới chỉ là dữ liệu dự phóng do nhà sản xuất cung cấp, chưa qua kiểm chứng từ bên thứ ba độc lập.

Về bối cảnh thị trường, AMD dẫn lại khảo sát trong báo cáo State of AI Agents 2026 của Anthropic, chỉ ra rằng 57% doanh nghiệp tham gia khảo sát đã đưa các agent AI vào quy trình xử lý đa bước. Đây cũng là dữ liệu trích dẫn từ đối tác chứ không phải kết quả nghiên cứu tự thực hiện của AMD.

Chiến lược phân bổ tải công việc “Workload Right-Sizing”

Navolokin đề xuất phương pháp “workload right-sizing” nhằm tối ưu hóa hạ tầng cho từng loại tác vụ cụ thể. Cụ thể, các tác vụ thực hiện liên tục hoặc yêu cầu phản hồi nhanh nên được triển khai tại chỗ (local) hoặc ở rìa (edge). Ngược lại, những khối lượng công việc đồ sộ đòi hỏi khả năng mở rộng linh hoạt sẽ thích hợp hơn khi duy trì trên điện toán đám mây.

Phương án xử lý tại chỗ mang lại lợi ích rõ rệt về mặt chi phí: đầu tư phần cứng ban đầu giúp loại bỏ phí truy vấn token phát sinh trên cloud về sau. Ngoài ra, việc trang bị máy cục bộ có đủ bộ nhớ và năng lực tính toán cho phép vận hành mượt mà các mô hình hỗ trợ gọi công cụ cùng quy trình đa ngữ cảnh, vừa bảo mật dữ liệu nội bộ vừa giảm thiểu độ trễ.

Đáng chú ý, Navolokin nhấn mạnh rằng việc một nhân viên vận hành cùng lúc nhiều agent AI sẽ đặt ra yêu cầu đồng thời rất cao về tính toán, bộ nhớ, điều phối và truy xuất dữ liệu—vượt xa mức tiêu thụ của các trợ lý AI đơn lẻ. Do đó, chiến lược xây dựng hạ tầng cần một góc nhìn toàn diện, cân đối hài hòa giữa CPU, GPU, bộ nhớ, hạ tầng mạng và phần mềm thay vì phụ thuộc hoàn toàn vào hiệu năng GPU.

Bài toán cho người tự host

Dù luận điểm này không mới, những con số AMD đưa ra đã giúp việc tính toán bài toán kinh tế trở nên rõ ràng hơn. Các cá nhân hoặc tổ chức đang chi trả phí API định kỳ cho những tác vụ lặp lại hoàn toàn có thể dùng dữ liệu này để so sánh trực tiếp với chi phí đầu tư thiết bị. Với những ai đã tự vận hành mô hình local, góc nhìn này củng cố thêm lý do cho lựa chọn của họ. Điểm khác biệt duy nhất là AMD tập trung vào bài toán cấp doanh nghiệp thay vì quy mô cá nhân.

Tuy nhiên, con số 18 triệu token mỗi ngày cần được xem xét cẩn trọng. Đây chỉ là giả định của nhà sản xuất áp dụng cho một cấu hình thiết bị nhất định, không phản ánh giới hạn chung của các hệ thống phần cứng khác. Yếu tố cốt lõi của giải pháp nằm ở nguyên lý phân bổ: chuyển các tác vụ tần suất cao, yêu cầu độ trễ thấp về xử lý gần người dùng, đồng thời duy trì các khối lượng công việc lớn trên cloud. Vấn đề then chốt còn lại là tính thực tế của tỷ lệ 50/50 mà AMD giả định, bởi mô hình tải thực tế tại đa số doanh nghiệp sẽ có sự chênh lệch đáng kể.