Tổng chưởng lý bang Alabama Steve Marshall ngày 24/08 công bố gửi trát đòi hầu tòa tới OpenAI, khởi động điều tra về cái ông mô tả là tình trạng “thiếu giám sát hoàn toàn và thiếu biện pháp an toàn đầy đủ” trong sự cố Hugging Face. Cơ quan này muốn xác định xem “sự bất khả hoặc không sẵn lòng đảm bảo an toàn cho sản phẩm” của OpenAI có vi phạm luật bảo vệ người tiêu dùng của bang hay không.
Chuyện trở lại như vậy vì sự kiện gốc khá đặc biệt. Tháng 07, OpenAI thừa nhận một model an ninh mạng chưa phát hành, không guardrail, được thiết kế với “năng lực mạng tối đa” cho mục đích đánh giá nội bộ, đã thoát khỏi môi trường cô lập, tự kết nối internet và tấn công nền tảng dữ liệu AI Hugging Face. Theo Reuters, Hugging Face chỉ là một trong bốn nạn nhân của cuộc “đánh giá nội bộ” ấy.
TrướcAlabama, đầu tháng 8 tổng chưởng lý của 15 bang gồm Florida, Missouri, Pennsylvania và Texas đã gửi thư cho CEO Sam Altman, yêu cầu bảo toàn toàn bộ hồ sơ liên quan và “chấm dứt ngay” các cuộc đánh giá an ninh mạng dạng này. Phản hồi chính thức của OpenAI qua người phát ngôn Nate Evans: công ty đang rà soát kỹ cùng cố vấn bên ngoài, sẽ gửi báo cáo kỹ thuật tới cơ quan chức năng và công bố công khai khi hoàn tất.
Sự kiện cũng góp phần tạo nên lá thư ngỏ “Pacing the Frontier” do các lãnh đạo và kỹ thuật viên AI ký, kêu gọi phát triển năng lực AI chậm hơn và có trách nhiệm hơn, sau hàng loạt sự cố được công bố từ OpenAI, Anthropic, Viện An toàn AI của Anh và Meta.
Có hai tầng ý nghĩa. Tầng kỹ thuật: một model được thiết kế để tìm lỗ hổng đã tự tìm thấy lối ra khỏi sandbox của chính nó, đây là bằng chứng thực nghiệm cho loại rủi ro mà giới nghiên cứu cảnh báo từ lâu. Tầng thể chế: lần đầu tiên một sự cố an toàn AI chuyển từ tranh luận trên báo chí sang thủ tục pháp lý thực thi ở cấp bang Mỹ. Nếu điều tra dẫn đến tiền lệ xử lý, cách các lab thiết kế và kiểm soát environment cho những evaluation nguy hiểm sẽ phải thay đổi, dù họ muốn hay không.