Trong bản cáo bạch sửa đổi S-1/A nộp lên Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) vào ngày 02/11, Anthropic đã bổ sung cảnh báo đáng chú ý về việc công ty có thể sắp chạm tới ngưỡng tự cải tiến đệ quy (RSI), tức giai đoạn AI đủ năng lực tự đào tạo và xây dựng các phiên bản AI thế hệ sau.

Cảnh báo này xuất hiện giữa bối cảnh công ty đang chuẩn bị cho đợt chào bán cổ phiếu lần đầu ra công chúng, tiếp nối hồ sơ IPO trước đó và các nỗ lực như các thử nghiệm Claude tự kiểm chứng mã.

Cảnh báo từ hồ sơ pháp lý cập nhật

Theo nội dung tại mục Yếu tố Rủi ro trong hồ sơ, Anthropic thừa nhận việc ứng dụng AI ngày càng sâu rộng để tăng tốc nghiên cứu và phát triển nội bộ có thể khiến năng lực mô hình bứt phá nhanh hơn tốc độ triển khai các biện pháp an toàn và giám sát.

Công ty nêu rõ: “Các ước tính nội bộ và kỳ vọng đối với các mô hình tương lai, thay vì các mô hình hiện tại, chỉ ra rằng chúng tôi có thể sắp đạt được định nghĩa trong Chính sách Mở rộng Quy mô Có trách nhiệm (RSP) về mức tiến bộ tăng tốc đáng kể do AI thúc đẩy.”

Dù vậy, Anthropic nhấn mạnh chưa có mô hình hiện tại nào vượt qua ngưỡng này, và công ty vẫn đang tiếp tục đánh giá dữ liệu thực nghiệm trước khi đưa ra kết luận chính thức.

Ranh giới kiểm soát và cam kết giữ con người điều phối

Việc AI tự cải tiến đệ quy từ lâu được xem là con dao hai lưỡi. Một mặt, công nghệ này hứa hẹn mang lại bước nhảy vọt về năng suất khám phá khoa học; mặt khác, nó tiềm ẩn nguy cơ mô hình vượt khỏi tầm kiểm soát của con người nếu tốc độ tự phát triển vượt quá khả năng phòng hộ.

Để xoa dịu lo ngại, Anthropic khẳng định công ty không có kế hoạch để Claude hoàn toàn tự động thiết kế và xây dựng các thế hệ mô hình biên giới kế tiếp mà không có sự giám sát có ý nghĩa từ con người. Công ty dự kiến sẽ cập nhật chính sách an toàn để bảo đảm nhân sự kỹ thuật luôn nắm quyền kiểm soát quy trình nghiên cứu.

Giới quan sát nhận định tuyên bố trong hồ sơ S-1 vừa đóng vai trò minh bạch rủi ro theo luật định, vừa mang tính chất truyền thông về năng lực dẫn đầu của hãng. Câu hỏi then chốt sắp tới là các cơ quan quản lý sẽ phản ứng ra sao trước tốc độ tự động hóa nghiên cứu AI của phòng thí nghiệm này.