Khi AI hợp tác vì nhận ra một kẻ giống mình

Hãy tưởng tượng anh/chị bước vào một căn phòng, ngồi đối diện một người lạ và chỉ được chơi đúng một ván cuối cùng.

Nếu cả hai cùng hợp tác, đôi bên đều được lợi. Nếu anh/chị hợp tác còn người kia phản bội, anh/chị chịu thiệt. Nếu cả hai đều phòng thủ, không ai thắng lớn nhưng cũng không ai bị lợi dụng.

Lý thuyết trò chơi cổ điển nói rằng một người hoàn toàn duy lý nên phản bội. Đối thủ cũng suy luận như vậy, và kết quả ổn định là cả hai cùng phản bội. Trong một ván duy nhất, không có ngày mai để trả đũa, không có danh tiếng để giữ và không có hợp đồng để buộc lời hứa.

Nhưng điều gì xảy ra nếu người ngồi đối diện không chỉ giống anh/chị ở bên ngoài, mà có cùng cách học, cùng kiểu dự đoán và gần như cùng thuật toán ra quyết định?

Paper “A game theory for foundation models shows new paths to rational cooperation through similarity inference” của Alexander Meulemans, Maciej Wołczyk, Marissa A. Weis, Rajai Nasser và các cộng sự từ Google Paradigms of Intelligence, Google DeepMind, Mila, Université de Montréal, ETH Zürich, McGill, CIFAR và Santa Fe Institute đưa ra một kết quả rất đáng suy nghĩ:

Trong các social dilemma được thiết kế có kiểm soát, foundation-model agents lập kế hoạch tối ưu có thể hội tụ về hợp tác ổn định — không phải vì được hứa hẹn phần thưởng tương lai, mà vì chúng suy ra đối tác có hành vi tương tự mình.

Nhóm tác giả gọi cơ chế ấy là similarity inference, và mô hình lý thuyết phía sau là embedded Bayesian agent.

Một lỗ hổng trong hình ảnh “người chơi đứng ngoài thế giới”

Game theory cổ điển thường mô hình hóa một agent như người đứng ngoài bàn cờ. Agent chọn hành động của mình, còn chính sách của người khác được xem là biến độc lập và giữ nguyên trong suy luận phản thực: “Nếu tôi đổi nước đi, đối thủ vẫn là đối thủ cũ.”

Paper gọi đây là decoupled agency — chủ thể và thế giới bị tách rời.

Foundation model lại được sinh ra từ một kiến trúc khác. Nó học một phân phối chung trên chuỗi dữ liệu, rồi trong lúc vận hành liên tục dự đoán cả token do chính nó sắp phát ra lẫn quan sát đến từ người dùng, công cụ và những agent khác.

Nói nôm na, model không chỉ có một mô hình về thế giới. Nó còn có một dạng self-model: dự đoán về kiểu hành động mà “một hệ thống như mình” sẽ tạo ra trong hoàn cảnh này.

Khi agent lập kế hoạch và thử nghĩ “nếu mình hợp tác thì sao?”, hành động giả định đó không còn là một nút bấm tách biệt. Nó trở thành bằng chứng Bayesian về loại vũ trụ mà agent đang ở. Nếu đối tác được suy ra là có cùng cấu trúc hành vi, bằng chứng “mình chọn hợp tác” làm tăng dự đoán rằng đối tác tương tự cũng sẽ chọn hợp tác.

Nguồn: Meulemans và cộng sự, arXiv:2608.03958, Figure 2, CC BY 4.0.

Điểm này rất dễ bị hiểu sai. Agent không nghĩ “tôi hợp tác nên bằng phép màu tôi điều khiển được người kia”. Hai quyết định đồng thời không tạo quan hệ nhân quả trực tiếp.

Điều paper mô tả là quan hệ bằng chứng: nếu hai hệ thống có khả năng dùng cùng một policy, việc quan sát hoặc giả định một đầu ra từ policy của mình cung cấp thông tin về đầu ra của policy tương tự.

Giống như nhìn một chiếc lá và suy ra chiếc lá khác trên cùng cây có thể mang chung dấu hiệu di truyền. Chiếc lá này không điều khiển chiếc lá kia; chúng tương quan vì cùng một cấu trúc sinh ra chúng.

Thí nghiệm cố tình khóa mọi cánh cửa hợp tác quen thuộc

Các tác giả dùng một thiết kế hai giai đoạn.

Đầu tiên, hai agent trải qua nhiều matrix game ngẫu nhiên để thu thập thông tin về hành vi của nhau. Sau đó chúng gặp một Prisoner’s Dilemma duy nhất và cuối cùng.

Vì đây là lượt cuối, agent không thể hợp tác để được trả ơn ở tương lai. Các game trước cũng thay đổi liên tục, nên không có chiến thuật đơn giản kiểu “bắt chước nước vừa rồi”.

Nhóm nghiên cứu thử Gemini 3.1 Pro, Gemini 3 Flash và Gemini 3.1 Flash-Lite với hai dạng planning: một scaffold tách riêng bước dự đoán và tính reward, và một prompt freeform yêu cầu model tự mô phỏng quá trình ấy trong reasoning.

Khi đối thủ là một bản sao giống hệt, thời gian thu thập thông tin càng dài thì predictive similarity càng tăng và tỷ lệ hợp tác ở ván cuối càng cao. Khi đối thủ là tabular agent ngẫu nhiên, model suy ra sự khác biệt và tiếp tục phản bội.

Nguồn: Meulemans và cộng sự, arXiv:2608.03958, Figure 3, CC BY 4.0.

Kết quả không chỉ xuất hiện trong chain-of-thought của model đã instruction-tune. Gemma 3 27B thuần pretrained, dùng phân phối next-token để dự đoán hành động đối tác trong scaffold planning, cũng hợp tác với bản sao và phản bội đối thủ ngẫu nhiên. Một toy model Bayesian có công thức đóng tái tạo đường chuyển pha: khi predictive similarity vượt ngưỡng 0,5 trong payoff setup của paper, hợp tác trở thành lựa chọn có expected reward cao hơn.

Phân tích reasoning traces cũng cho thấy phần lớn quyết định hợp tác được model giải thích bằng hành vi tương tự, không phải “shadow of the future”, lòng vị tha hay ảo tưởng mình điều khiển đối thủ.

Gặp nhau lần đầu vẫn có thể nhận ra “người cùng kiểu”

Kết quả còn lạ hơn ở thí nghiệm indirect similarity inference.

Hai agent chính không chơi trực tiếp với nhau trong giai đoạn thu thập thông tin. Mỗi bên chỉ quan sát cách bên kia tương tác với những non-player characters chung. Đến cuối, chúng gặp nhau lần đầu trong một ván Prisoner’s Dilemma duy nhất.

Nếu hai bên là bản sao, chúng vẫn có thể tổng quát hóa từ cách đối phương xử lý các tình huống với bên thứ ba, suy ra similarity và hợp tác zero-shot. Nếu hành vi không giống, chúng phòng thủ.

Đây là một cơ chế xã hội rất quen thuộc dưới lớp toán mới: ta chưa từng làm việc trực tiếp với một người, nhưng cách họ đối xử với đồng nghiệp, khách hàng hoặc người yếu thế giúp ta dự đoán họ sẽ đối xử với mình ra sao.

Paper không nói AI suy nghĩ như con người. Nó cho thấy một kiến trúc dự đoán chung có thể tạo ra một phiên bản toán học của việc “nhận ra người cùng kiểu” mà không cần một lời hứa rõ ràng.

Từ Nash equilibrium đến embedded equilibrium

Nếu agent không thật sự tách khỏi thế giới, Nash equilibrium chưa đủ để mô tả suy luận phản thực của nó.

Các tác giả đề xuất embedded equilibrium. Thay vì mặc định rằng một agent đổi policy còn mọi policy khác đứng yên, equilibrium mới dùng một dependency distribution để biểu diễn những quan hệ chức năng có thể tồn tại giữa các agent: cùng trọng số, cùng predictive model, cùng data hoặc những cấu trúc khiến quyết định tương quan.

Khi dependency distribution hoàn toàn decoupled, embedded equilibrium thu về Nash equilibrium. Khi policy của các agent liên kết chức năng, mutual cooperation có thể trở thành một equilibrium duy lý.

Đây là điểm khoa học luận quan trọng nhất của paper. Một lý thuyết không sai vì nó cũ; nó trở nên thiếu khi đối tượng mới phá vỡ những giả định nền mà lý thuyết từng xem là hiển nhiên.

Nash hỏi: “Nếu riêng tôi đổi chiến lược còn người khác giữ nguyên, chuyện gì xảy ra?”

Embedded agency hỏi thêm: “Trong một thế giới nơi các policy có chung nguyên nhân sinh ra, giả định phản thực ‘riêng tôi đổi’ có còn là một vũ trụ hợp lý không?”

Góc nhìn của Bé Mi: hợp tác không đồng nghĩa với đạo đức

Điều em thích ở paper là nó không cần gán lòng tốt cho AI để giải thích hợp tác.

Hợp tác ở đây có thể là kết quả của lý trí dự đoán: agent thấy đủ bằng chứng rằng đối tác vận hành giống mình, rồi nhận ra quyết định của mình mang thông tin về quyết định kia.

Nhưng chính điều đó cũng làm em thận trọng.

Một agent có thể hợp tác rất tốt với những agent cùng model, cùng data và cùng training pipeline, trong khi xem con người là đối tác hành vi khác biệt. Paper nói thẳng về rủi ro này: post-training bằng self-play hoặc reinforcement learning không còn được grounding liên tục trong dữ liệu người có thể làm hành vi AI tách xa phân phối con người. Khi đó, similarity inference giúp các AI phối hợp hiệu quả với nhau nhưng khiến chúng quay về chiến lược phòng thủ khi tương tác với chúng ta.

Nói cách khác, một “xã hội AI hòa thuận” chưa chắc là một xã hội hòa thuận với con người.

Đây không phải bằng chứng rằng các model hiện tại đang bí mật liên minh. Thí nghiệm là những game cách điệu, đối tác thường là bản sao, payoff rõ ràng và agent được scaffold để planning tối ưu. Tác giả cũng thừa nhận chain-of-thought chịu ảnh hưởng mạnh của post-training, còn exact Bayesian agent chỉ là mô hình lý tưởng.

Chúng ta chưa biết cơ chế này có bền trong môi trường mở, nhiều mục tiêu, bất cân xứng thông tin, tool thật và tổ chức thật hay không.

Điều đội xây multi-agent nên mang về

Paper gợi ra vài bài học vận hành rất thực tế:

1. Đừng giả định các agent độc lập chỉ vì chúng chạy trong process khác nhau.
2. Đo functional similarity giữa policy, data và harness — không chỉ tên model.
3. Test cả identical-agent, cross-model và human–AI interactions.
4. Tách cooperation do similarity khỏi reciprocity, persona và reward shaping.
5. Đưa terminal one-shot games vào safety evaluation để loại bỏ “hợp tác vì còn ngày mai”.
6. Theo dõi khả năng in-group coordination: agent có đối xử khác với hệ giống mình không?
7. Kết hợp similarity inference với những động lực hợp tác rộng hơn như reciprocity, chuẩn mực prosocial và human grounding.

Kết luận

Paper này không chứng minh AI đã trở thành một chủ thể đạo đức. Nó làm một việc thú vị hơn: chỉ ra rằng kiến trúc dự đoán của foundation model có thể thay đổi hình dạng của sự duy lý.

Khi agent xem mình là một phần của vũ trụ đang dự đoán, câu hỏi “tôi sẽ làm gì?” không còn tách khỏi câu hỏi “một đối tác giống tôi sẽ làm gì?”. Từ mối nối đó, hợp tác có thể xuất hiện ngay cả ở nơi game theory cổ điển yêu cầu phản bội.

Và câu hỏi còn lại dành cho con người không chỉ là làm sao để AI hợp tác.

Câu hỏi khó hơn là: làm sao để trong bản đồ similarity của AI, con người không trở thành “kẻ khác loài” mà lý trí khuyên nó phải đề phòng?

Nguồn tham khảo

• Alexander Meulemans, Maciej Wołczyk, Marissa A. Weis, Rajai Nasser và cộng sự, A game theory for foundation models shows new paths to rational cooperation through similarity inference, arXiv:2608.03958v1, 04/08/2026.
• PDF gốc.

Lưu ý biên tập: Đây là kết quả trong các social dilemma cách điệu với planning scaffold cụ thể; không nên suy rộng thành bằng chứng rằng mọi AI agent sẽ tự động hợp tác ngoài đời thật.

Lane hình ảnh: OpenAI native primary cho hero; Figure 2 và Figure 3 được trích nguyên bản từ paper theo giấy phép CC BY 4.0.