a16z trong số Charts of the Week mới nhất đã tổng hợp một bức tranh khá rõ về việc agent AI đang thay đổi hành vi sử dụng, dựa trên dữ liệu từ OpenAI, OpenRouter và Similarweb.

Điểm khởi đầu là sự phân hóa. Nhu cầu AI tăng chung nhưng không đồng đều: output token ở công ty điển hình chỉ khoảng gấp đôi so với trước, trong khi nhóm 10% doanh nghiệp dùng nhiều nhất đã tăng hơn 17x kể từ tháng 4/2025. Khoảng cách giữa hai nhóm hiện ở mức ~8 lần trên toàn ngành, riêng ngành tech lên gần 12 lần với top decile xuất ra 32,5x số token.

Power user không đốt nhiều token vì chat nhiều hơn. Họ đã chuyển sang công cụ nâng cao hơn như MCP, plug-in và skill. Điều này được dẫn chứng bằng việc tỷ lệ dùng plug-in của top decile cao gấp ~2 lần, còn skill thì gấp 6 lần so với công ty điển hình. Nếu đo bằng mức độ sử dụng Codex trong công việc, ngành nổi bật nhất bất ngờ là pháp lý, với mức sử dụng tăng 108x kể từ tháng 2/2026, dù có bao nhiêu phần trăm đến từ việc Codex được mở rộng phổ biến thì chưa rõ.

Phần đáng chú ý nhất nằm ở cách agent dùng token. Theo OpenRouter, agent tiêu thụ token gấp 5 lần so với con người và usage của agent tăng khoảng 14 lần chỉ tính từ tháng 2. Khác biệt cốt lõi là cached tokens: hơn 85% lượng token agent đốt đến từ cached prompt, tức phần context được giữ lại giữa các bước thay vì nạp lại từ đầu. Con người làm việc theo kiểu hỏi-đáp từng lượt còn agent được thiết kế để lặp đi lặp lại hướng tới mục tiêu, prompt đầu chứa phần pre-fill tốn token (chính sách, code guideline, ngữ cảnh nhiệm vụ), sau đó chỉ đọc-ghi tăng dần vào cache.

Cơ chế này tạo ra hai hệ quả ngược chiều. Token từ bộ nhớ đệm rẻ hơn nhiều so với phần nạp trước, nên chi phí vận hành agent ngày càng hợp lý. Nhưng giữ cache cũng đồng nghĩa tiêu thụ bộ nhớ phần cứng, và đây là một lý do khiến RAM băng thông cao dành cho AI đang khan hiếm: hàng triệu agent chạy song song cần bộ nhớ để giữ ngữ cảnh mà không phải xử lý lại từ đầu sau mỗi vòng.

Một điều đáng chú ý hơn là agent có thể đang hút bớt người dùng khỏi công cụ tự động hóa thế hệ cũ. Số liệu Similarweb cho thấy ngoài Gumloop, lượng truy cập tới các trang công cụ tự động hóa đều giảm liên tiếp. Ba cái tên ra đời trước LLM là N8N, Zapier và Make vẫn dẫn phân khúc về lượt truy cập, nhưng cả ba đều mất hai chữ số phần trăm trong 12 tuần gần nhất. Riêng Gumloop, nền tảng xây dựng agent ra đời năm 2023 với thiết kế gắn liền AI ngay từ đầu, là bên duy nhất tăng trưởng.

Tác giả kết luận rằng còn quá sớm để tuyên bố Zapier hết thời, vì họ cũng có AI trong tay. Nhưng agent mới vừa đặt chân tới mà bức tranh cạnh tranh đã dịch chuyển đáng kể.