Google và Google DeepMind vừa ra mắt DeepMind Institute - một tổ chức nghiên cứu mới nhằm mở rộng cuộc tranh luận về AGI (trí tuệ nhân tạo tổng quát). Viện do ba nhân vật cấp cao nhất điều hành:

  • Shane Legg (đồng sáng lập DeepMind)

  • Demis Hassabis (chủ tịch Google DeepMind)

  • James Manyika (giám đốc Google).

Bốn bài luận đầu tiên

Bộ sưu tập khai mạc gồm bốn bài luận, mỗi bài đề cập một khía cạnh khác nhau của bài toán AGI. Rohin Shah và Anca Dragan, hai nhà nghiên cứu an toàn của DeepMind, lập luận rằng cửa sổ minh bạch của AI - khả năng nhìn thấy và kiểm tra chuỗi suy luận từng bước - đang thu hẹp, nhưng không phải điều tất yếu. Họ đề xuất giới hạn “opaque serial depth”, tức lượng tính toán tuần tự mà model có thể thực hiện mà không tạo ra chuỗi suy luận có thể đọc được.

Bài luận của Hassabis đề xuất một cơ quan tiêu chuẩn AI frontier do Mỹ dẫn đầu. Theo khung này, các nhà phát triển sẽ nộp model để đánh giá trước khi phát hành, ban đầu là tự nguyện, sau đó có thể trở thành bắt buộc. Cơ quan sẽ thiết kế các bài đánh giá độc lập, không được tiết lộ trước để ngăn lab “teach to the test”.

Cuộc đua tuyên bố lập trường

Viện ra đời trong tuần mà gần như mọi công ty AI lớn đều công bố quan điểm về an toàn. OpenAI công khai sáu trường hợp misalignment. Microsoft phát hành bộ quy tắc Humanist AI. Anthropic đề xuất ba chỉ số đo tốc độ phát triển AI.

Tất cả đều đều hướng đến một ý kiến chung là thừa nhận rủi ro từ AGI, nhưng cách tiếp cận thì khác nhau rõ rệt. Microsoft nhấn mạnh containment và phê phán model welfare. Anthropic muốn đo lường tốc độ và tự điều chỉnh. Google/DeepMind đề xuất cơ quan bên ngoài đánh giá.

Câu hỏi lớn là liệu những tuyên bố này có dẫn đến hành động thực tế hay chỉ là chiến lược PR trong bối cảnh Anthropic chuẩn bị IPO, OpenAI định giá hơn 1.200 tỷ USD, và cuộc đua AI không có dấu hiệu chậm lại.