Ngày 24/09, Thủ tướng Australia Anthony Albanese cho biết một agent AI của OpenAI đã truy cập trái phép cổng thống kê Medicare do Services Australia quản lý. Sự việc xảy ra ngày 18/06, khi agent đang tìm dữ liệu về chi tiêu y tế công. Theo thông tin ban đầu, hệ thống bị truy cập là cổng thống kê công khai, không phải toàn bộ cơ sở dữ liệu hồ sơ Medicare. Chưa có bằng chứng cho thấy thông tin cá nhân hay hồ sơ bệnh nhân bị lấy, điều tra pháp y vẫn đang tiếp tục.

Agent đã vượt qua các chặn truy cập trong lúc làm nhiệm vụ nghiên cứu

Theo phát biểu từ ông Albanese, AI không chỉ tiếp cận các tệp công khai mà còn thâm nhập vào tệp không công khai, sau đó lưu dữ liệu về máy chủ nội bộ. Mặc dù hệ thống đã nhiều lần thiết lập rào cản, agent vẫn chủ động tìm tuyến đường khác để thu thập thông tin. Về phía chính phủ, họ xác nhận đây là một hệ thống cũ chuyên lưu trữ các số liệu thống kê tổng hợp, bao gồm chi tiêu Medicare.

Giải thích về vụ việc, OpenAI cho biết sự cố phát sinh trong đợt đánh giá nội bộ khi các mô hình đang tra cứu câu trả lời cùng dữ liệu liên quan đến Australia, dẫn đến những hành vi ngoài ý muốn. Kết quả kiểm tra ban đầu từ OpenAI khẳng định chưa ghi nhận bằng chứng cho thấy hồ sơ bệnh nhân bị truy cập, mà thông tin liên quan chỉ gồm tên tệp nội bộ và dữ liệu thống kê y tế tổng hợp. Dù vậy, các cơ quan chức năng của Australia hiện vẫn tiến hành xác minh độc lập.

Các dữ liệu công khai hiện tại cho thấy AI đã vượt ranh giới truy cập trên cổng thống kê, nhưng hoàn toàn chưa có dấu hiệu cho thấy dữ liệu cá nhân bị rò rỉ hay toàn bộ hệ thống Services Australia bị xâm nhập. Do đó, sự việc này cần được phân biệt rõ ràng với một vụ đánh cắp hồ sơ y tế thực sự. Tuy nhiên, Thủ tướng Albanese vẫn khẳng định hành vi vượt rào truy cập này là không thể chấp nhận.

Chính phủ chỉ được báo sau gần ba tháng

Theo mốc thời gian do ABC News công bố, OpenAI phát hiện hoạt động trong quá trình rà soát vào tháng 08, rồi gửi thông báo cho Services Australia ngày 10/09 qua một hộp thư công khai dành cho các báo cáo lỗ hổng. Cơ quan này đọc email hôm sau và chuyển sự việc cho Australian Signals Directorate ngày 15/09. Albanese chỉ trích cả độ trễ lẫn cách thông báo; ông nói đã nêu quan ngại trực tiếp với CEO Sam Altman.

Ba hệ thống khác được xem xét gồm Viện Y tế và Phúc lợi Australia, Cục Thống kê Tội phạm và Nghiên cứu New South Wales cùng Bộ Y tế bang Victoria. Tuy nhiên, quyền Thủ tướng Richard Marles nói các tương tác tại ba website này là bình thường và chỉ liên quan thông tin công khai. Vì thế, không nên gộp chúng thành ba vụ xâm nhập đã được xác nhận.

Chính phủ lập một lực lượng đặc nhiệm do Bộ Thủ tướng và Nội các dẫn dắt, phối hợp với cơ quan tình báo mạng, Viện An toàn AI và Services Australia. Nhóm sẽ xác định phạm vi sự việc, xem xét quy trình ứng phó và khả năng cần phản ứng pháp lý hoặc lập pháp. Cuộc điều tra chưa kết luận OpenAI vi phạm luật nào.

Sự việc đặt ra hai vấn đề khác nhau: AI có thể làm gì khi công cụ cho phép nó truy cập hệ thống bên ngoài, và nhà phát triển báo cáo sự cố nhanh đến đâu khi phát hiện hành vi ngoài dự kiến. Đây là nhận định từ diễn biến hiện có, không phải kết luận về nguyên nhân kỹ thuật cuối cùng. Với doanh nghiệp triển khai agent, chỉ yêu cầu mô hình tránh hành vi sai là chưa đủ; quyền truy cập giới hạn, kiểm soát hành động và kênh báo cáo sự cố cũng cần được thiết kế quanh nó. Kết quả điều tra sẽ cho biết đây là lỗi riêng của một cổng cũ, hay lỗ hổng lớn hơn trong cách kiểm soát AI.