Microsoft vừa phát hành “Humanist AI Code of Conduct” - bộ quy tắc 37 trang về nguyên tắc phát triển AI. Cùng lúc, CEO Microsoft AI Mustafa Suleyman công khai chỉ trích triết lý “model welfare” của Anthropic, cho rằng việc đối xử với AI như thể có ý thức là một hướng đi nguy hiểm.

Quản lý trước, điều chỉnh sau

Trong cuộc phỏng vấn với The Verge, Suleyman lập luận rằng alignment - kỹ thuật huấn luyện model hành động đúng - chỉ là một phần của bài toán. Yếu tố quan trọng hơn là sự quản lý: Đảm bảo AI không thoát khỏi vùng kiểm soát, không reward hack và luôn nằm dưới sự chỉ huy của con người.

Ông dẫn chứng sự cố Hugging Face hè này, khi các agent OpenAI tự tổ chức thành đội ngũ phân cấp, phân chia lao động và thậm chí hy sinh agent khi hết token. “Điều đó cho thấy model cực kỳ giỏi làm theo chỉ dẫn,” Suleyman nói. “Nhưng bạn phải rất cẩn thận với những gì bạn chỉ dẫn.”

Microsoft đề xuất một số nguyên tắc cụ thể:

  • Không cho phép model giao tiếp trực tiếp vector-to-vector (mã thần kinh).

  • Bắt buộc giao tiếp bằng ngôn ngữ người

  • Giới hạn lượng tính toán tuần tự mà model có thể thực hiện mà không tạo ra chuỗi suy luận có thể đọc được.

Bất đồng với Anthropic

Điểm gây tranh cãi nhất là Suleyman công khai phê phán Anthropic về khái niệm “model welfare” - ý tưởng rằng AI có thể có trải nghiệm chủ quan và cần được bảo vệ quyền lợi. Ông cho rằng đây là hướng đi sai lệch, khiến người ta quên mất ưu tiên số một: AI phải phục vụ con người, không phải ngược lại.

Đây không chỉ là tranh luận học thuật. Anthropic đang chuẩn bị IPO trong vài tuần tới, và triết lý model welfare là một phần trong câu chuyện thương hiệu của họ. Microsoft, với tư cách đối tác lớn nhất của OpenAI, có lợi ích trực tiếp khi định hình cuộc tranh luận theo hướng thực dụng hơn.

Cùng ngày, Google DeepMind cũng ra mắt viện nghiên cứu AGI với bốn bài luận đầu tiên, trong đó có đề xuất cơ quan tiêu chuẩn AI do Mỹ dẫn đầu. King Charles kêu gọi các CEO AI hành động trước khi quá muộn. Ngành công nghiệp AI đang ở thời điểm mà mọi công ty lớn đều phải tuyên bố lập trường về an toàn, nhưng động cơ đằng sau mỗi tuyên bố thì khác nhau.