Quân đội Mỹ đã suýt chặn một tàu Trung Quốc ở Trung Đông dựa trên báo cáo tình báo sai do AI tạo ra, theo CNN dẫn lời. Báo cáo khẳng định tàu này vận chuyển linh kiện chương trình vũ khí hạt nhân, khiến máy bay quân sự Mỹ đã cất cánh và lực lượng vũ trang chuẩn bị lên tàu. Chỉ trước khi hoạt động bắt đầu, các quan chức mới phát hiện báo cáo “hoàn toàn sai” và được tạo với sự hỗ trợ của chatbot AI.

Diễn biến vụ việc

Sự việc xảy ra mùa xuân năm nay, trong bối cảnh Mỹ đang xung đột với Iran. Một phân tích viên thuộc Bộ Chỉ huy Hoạt động Đặc biệt Thái Bình Dương (SOCPAC) tại Hawaii đã truy vấn chatbot về dữ liệu tình báo liên quan đến manifest của tàu. Chatbot kết hợp nguồn mở với tín hiệu mật và kết luận tàu chở linh kiện vũ khí hạt nhân.

Phân tích viên sau đó dùng AI lần nữa để đóng gói kết quả thành báo cáo tình báo chuẩn, loại báo cáo mà các quan chức quân sự tin tưởng, rồi phân phối đi. Theo một nguồn tin, báo cáo “hoàn toàn sai” nhưng “suýt gây ra chiến tranh”, bất kỳ hoạt động nào của Mỹ nhắm vào tàu Trung Quốc đều có nguy cơ leo thang thành xung đột vũ trang giữa hai nước.

CNN không xác định được chatbot được sử dụng là sản phẩm thương mại hay nội bộ chính phủ. Một cựu quan chức cấp cao Mỹ nhận xét: “Các công cụ nội bộ chủ yếu chỉ là bản sao của sản phẩm thương mại được trang trí lại.”

AI trong quân sự: Áp lực tốc độ và thiếu tiêu chuẩn

Vụ việc xảy ra trong bối cảnh Bộ trưởng Quốc phòng Pete Hegseth công bố “Chiến lược Tăng tốc Trí tuệ Nhân tạo” vào tháng 01/2026, nhằm đẩy nhanh việc áp dụng AI trong quân đội. Chiến lược hướng tới việc đưa model AI hàng đầu của Mỹ trực tiếp vào tay ba triệu nhân viên dân sự và quân sự, ở mọi cấp độ phân loại.

Tuy nhiên, việc triển khai hiện đang bị phân tán, các bộ phận khác nhau dùng công cụ khác nhau, theo tiêu chuẩn khác nhau, không có bộ tiêu chuẩn chung để xác minh thông tin do AI tạo ra. Một nguồn tin cho biết: “Áp dụng AI trong xác định mục tiêu đang tăng tốc và không có hướng dẫn thực sự nào về việc giữ con người trong vòng lặp sẽ ngăn ngừa thương vong dân sự hay bắn nhầm đồng đội như thế nào.”

Đây không phải trường hợp riêng biệt. Hiện tượng “hallucination” của AI đã xảy ra nhiều lần trong cộng đồng tình báo kể từ khi các công cụ này lan rộng trong chính phủ. Với các phân tích viên trẻ, những người lớn lên cùng công cụ AI, nguy cơ tin tưởng không phê phán vào kết quả AI cao hơn.

Quân đội và cộng đồng tình báo Mỹ hiện đang đẩy mạnh tích hợp AI vào hầu hết các khía cạnh công việc, từ phân tích khối lượng lớn dữ liệu tình báo thô, chọn mục tiêu đánh bom, đến quản lý ngân sách và chuỗi cung ứng. Động lực là Mỹ không thể tụt hậu trong tích hợp AI, vì đối thủ có thể vượt lên nếu phải chiến đấu với Trung Quốc hoặc kẻ thù khác.

Nhưng vụ tàu Trung Quốc cho thấy rủi ro hiện hữu hơn so với các cảnh báo về AI thoát khỏi kiểm soát của con người: con người đưa ra quyết định thảm khốc dựa trên thông tin sai lệch từ AI. Với người quan sát, đây là minh chứng rõ ràng nhất cho thấy “human in the loop” không có nghĩa là an toàn nếu con người trong vòng lặp đó không kiểm chứng kết quả AI mà tin tưởng mù quáng.