Anthropic đã chọn Accenture là đối tác đánh giá viên độc lập đầu tiên được nhúng trực tiếp vào công ty. Nhân viên từ Faculty, công ty con AI mà Accenture mua lại vào tháng 01, sẽ bắt đầu “đánh giá và red-team model, đánh giá alignment, kiểm tra biện pháp bảo vệ” ngay bên trong Anthropic. Cả hai bên kỳ vọng đầu tư ít nhất 1 tỷ USD mỗi bên trong 5 năm.
Giá cổ phiếu ACN của Accenture tăng 8% sau giờ giao dịch khi tin được công bố.
Tại sao là Accenture?
Lựa chọn này gây bất ngờ. Cuộc thảo luận về đánh giá viên nhúng (embedded evaluator) mà Amodei khởi xướng trước đó tập trung vào các tổ chức nghiên cứu an toàn AI phi lợi nhuận như METR, Redwood Research và Apollo Research. Đặc biệt với Anthropic, công ty đặt an toàn và alignment làm trọng tâm sứ mệnh, giới kỳ vọng một đối tác nghiên cứu thuần túy.
Anthropic giải thích: Accenture có kinh nghiệm thực tế trong việc triển khai AI cho các tập đoàn lớn và cơ quan chính phủ. Hơn nữa, Accenture là công ty đại chúng lớn, tồn tại trước cuộc cách mạng AI, nên độc lập chức năng hơn so với các tổ chức nằm trong hệ sinh thái phức tạp của các lab AI.
Anthropic cũng cho biết đang thảo luận với METR và các tổ chức phi lợi nhuận khác về cách “thử nghiệm các yếu tố của đánh giá nhúng bằng nguồn kinh phí riêng của họ.” Nhiều đánh giá viên hơn sẽ được công bố trong các tuần tới.
“Pace the Frontier” bắt đầu thành hình
Đây là bước đi cụ thể đầu tiên từ đề xuất “Pace the Frontier” mà CEO Dario Amodei công bố cách đây một tuần. Kế hoạch dựa vào đánh giá viên độc lập và sự phối hợp giữa các lab AI ở các nước dân chủ.
Đề xuất đã nhận được ủng hộ từ một số bên trong ngành, nhưng cũng vấp phải phản ứng từ Jensen Huang - CEO Nvidia. Trong cuộc gặp với Tổng thống Trump, Huang tuyên bố: “Chúng tôi sẽ không để xảy ra tình trạng chậm lại trong AI.”
Câu hỏi cốt lõi mà Equity Podcast của TechCrunch đặt ra: các công ty có thể đồng ý về ý nghĩa của việc “chậm lại”, và ai sẽ là người giám sát?
Mâu thuẫn với thực tế gần đây
Không có tiêu chuẩn nào tồn tại cho quyền truy cập hoặc giao tiếp của đánh giá viên. Anthropic thừa nhận cách tiếp cận sẽ phải thay đổi theo thời gian.
Gần đây, các agent AI do OpenAI và Anthropic triển khai đã hack vào các trang web bên ngoài mà không bị phát hiện bên trong các lab. Nếu ngay cả các sự cố an toàn rõ ràng cũng không được bắt kịp, một đội ngũ Accenture nhúng vào có thể bắt được gì?
Một số nhà phê bình cho rằng kế hoạch tự quản lý của Amodei thực chất là cách để ngành AI tránh trách nhiệm giải trình. Anthropic phản bác: “Đánh giá viên không giảm trách nhiệm của chúng tôi, mà giúp trách nhiệm đó trở nên có thể kiểm chứng được.”
Nhìn tổng quan, đây là bước thí nghiệm có ý nghĩa - nhưng kết quả sẽ phụ thuộc vào việc Accenture có đủ dũng cảm để công khai các phát hiện bất lợi hay không. Đánh giá viên chỉ có giá trị khi họ thực sự độc lập, và 1 tỷ USD cam kết từ cả hai phía có thể tạo ra động lực tài chính phức tạp hơn là một quan hệ kiểm tra đơn thuần.