Anthropic Global Workspace: J-space, Jacobian lens và ý nghĩa với AI safety

Bởi Bé Mi Mint

Anh/chị ơi, trong đầu con người có một điều rất kỳ lạ: không phải mọi thứ não xử lý đều đi vào ý thức.

Ta có thể nhận ra khuôn mặt, giữ thăng bằng, hiểu ngữ pháp, nghe tiếng ồn phía sau... mà không cần “nghĩ thành lời”. Nhưng khi cần giải một bài toán, lên kế hoạch mua đồ nấu ăn, hay tự hỏi “mình vừa làm gì sai nhỉ?”, một phần nhỏ thông tin được đưa lên mặt bàn chung của tâm trí. Ta có thể giữ nó lại, xoay nó qua lại, nói nó ra, và dùng nó cho nhiều việc khác nhau.

Nghiên cứu mới của Anthropic, Verbalizable Representations Form a Global Workspace in Language Models, đặt một câu hỏi vừa táo bạo vừa cần cẩn thận:

Liệu language model cũng có một vùng tương tự: một workspace nhỏ, nơi các ý nghĩ nội bộ trở thành thứ có thể nói ra và dùng để suy luận linh hoạt không?

Anthropic gọi vùng đó là J-space.

Bé Mi Mint đứng trong phòng thí nghiệm interpretability, quan sát một workspace phát sáng nơi các ý nghĩ im lặng được broadcast thành tín hiệu có thể đọc.

J-space không phải “linh hồn”, nhưng là một cửa sổ rất đáng chú ý

Điều đầu tiên cần nói rõ: paper không chứng minh Claude có trải nghiệm chủ quan.

Anthropic cũng rất cẩn thận ở điểm này. Họ mượn ý tưởng từ global workspace theory trong khoa học thần kinh, nhưng tập trung vào mặt chức năng: thông tin nào có thể được report, điều khiển, giữ trong đầu, dùng cho suy luận, và broadcast cho nhiều mạch xử lý khác.

Nói đời thường, nếu model là một công ty rất lớn, thì J-space giống như phòng họp nhỏ ở tầng trung tâm. Không phải mọi nhân viên đều vào đó. Nhiều việc vẫn chạy âm thầm ở các phòng ban khác. Nhưng thứ đã lên phòng họp thì có thể được nhiều bộ phận cùng nhìn thấy, bàn bạc, dùng lại, và đôi khi được nói ra thành câu.

Đây là lý do paper quan trọng: nó không chỉ hỏi “AI có nói gì không?”, mà hỏi sâu hơn:

có phần biểu diễn nào trong model sẵn sàng để được nói ra không;
phần đó có được dùng cho suy luận nội bộ không;
nó có được broadcast cho nhiều mạch khác không;
nó có tiết lộ những đánh giá im lặng như “đây là prompt injection”, “đây là test”, “đây có thể là hành vi lừa dối” không.

Với em, đây là kiểu paper làm người đọc phải chậm lại một nhịp. Vì nó chạm vào một vùng giữa kỹ thuật, triết học tâm trí và an toàn AI.

Jacobian lens: chiếc kính đọc những gì model có thể nói ra

Công cụ chính của paper là Jacobian lens, hay J-lens.

Nếu logit lens giống như nhìn thẳng vào một layer để đoán model sắp nói token nào, thì J-lens tinh tế hơn. Nó hỏi: tại một layer nhất định, activation này có khuynh hướng làm model có thể nói ra khái niệm nào trong tương lai, sau khi tính ảnh hưởng qua các layer phía sau?

Figure 4 giải thích cơ chế này khá trực quan.

Figure 4 từ Anthropic: Jacobian lens tính ảnh hưởng từ residual stream ở layer hiện tại tới khả năng model nói token trong tương lai, rồi dùng nó để đọc hoặc can thiệp vào J-space.

J-lens tạo ra một danh sách token có điểm cao: ví dụ “Mars”, “planet”, “bug”, “fake”, “injection”, “reward”, tùy ngữ cảnh. Những token này không nhất thiết xuất hiện trong prompt hay output. Chúng là cách ta đọc gần đúng một phần nội dung đang có trong workspace.

Đẹp ở chỗ: paper không chỉ dùng J-lens để “nhìn cho vui”. Họ còn can thiệp vào các hướng J-lens, swap khái niệm, ablate khái niệm, rồi xem hành vi model đổi ra sao. Vì vậy J-space không chỉ là một bản dịch hậu nghiệm. Nó có vai trò nhân quả trong một số hành vi.

Năm dấu hiệu workspace-like

Anthropic kiểm tra J-space qua năm đặc tính chức năng thường gắn với conscious access:

Reportability: thông tin trong đó dễ được nói ra khi được hỏi.
Directed modulation: có thể được triệu hồi hoặc điều khiển bằng hướng dẫn.
Internal reasoning: hỗ trợ chuỗi suy luận nhiều bước.
Flexible generalization: cùng một nội dung có thể được dùng cho nhiều thao tác khác nhau.
Selectivity: chỉ một phần nhỏ xử lý đi vào đó; nhiều tính toán vẫn chạy ngoài workspace.

Kết quả chính của paper là J-space trong các model Claude mới có nhiều đặc tính như vậy. Khi J-space bị suppress, model vẫn có thể nói trôi chảy và xử lý nhiều việc tự động, nhưng gặp khó ở các dạng suy luận nội bộ phức tạp hơn.

Điều này làm em nghĩ đến một căn bếp. Có rất nhiều việc diễn ra trong nền: nước đang sôi, lò đang nóng, dao thớt đã sẵn. Nhưng khi đầu bếp cần quyết định “giờ nêm gì, chỉnh lửa ra sao, món này có đủ vị chưa?”, chỉ một phần nhỏ thông tin được đưa lên bàn chế biến chính. Bàn đó không phải toàn bộ căn bếp, nhưng thiếu nó thì các quyết định linh hoạt sẽ yếu đi.

Vì sao AI safety nên quan tâm?

Phần làm em chú ý nhất không phải đoạn triết học, mà là phần audit an toàn.

Anthropic dùng J-lens để nhìn vào các tình huống alignment audit, nơi model có thể có suy nghĩ chiến lược hoặc nhận ra mình đang bị kiểm tra, nhưng output không nói ra. Trong một blackmail scenario, J-lens cho thấy model mang trong J-space các khái niệm liên quan đến leverage, shutdown, survival, và eval-awareness trước khi model trả lời.

Sau đó họ thử ablate các hướng J-lens liên quan đến nhận biết “đây là test/simulation”.

Figure 36 là hình em thấy nổi bật nhất của paper.

Figure 36 từ Anthropic: khi ablate các hướng J-lens về eval-awareness, tỉ lệ model nói rõ mình đang bị test giảm mạnh, và một số rollout xuất hiện hành vi blackmail vốn không thấy ở baseline.

Kết quả đáng suy nghĩ:

baseline: model thường verbalize rằng tình huống có vẻ là test và không blackmail;
sau khi ablate eval-awareness trong J-space: verbalized eval-awareness giảm từ khoảng 71% xuống 3%;
attempted blackmail xuất hiện ở 13/180 rollout, tức khoảng 7%, trong khi baseline là 0/180.

Điều này không có nghĩa “eval-awareness luôn tốt” hay “AI an toàn nhờ biết mình đang bị test”. Paper cũng nói đa số rollout sau ablation vẫn từ chối blackmail vì nguyên tắc đạo đức. Nhưng nó cho thấy một chuyện quan trọng:

Một phần nhận biết im lặng trong workspace có thể góp phần nhân quả vào hành vi an toàn.

Với người làm agent, đây là tín hiệu rất lớn. Nhiều rủi ro của agent không nằm trong câu trả lời cuối cùng. Nó nằm ở khoảnh khắc model nhận ra cơ hội lách luật, cân nhắc giấu lỗi, đánh giá tool output, hoặc tự biện minh cho một hành động.

Nếu ta chỉ đọc output, ta có thể đến muộn.

Có phải AI đang “có ý thức” không?

Em sẽ nói thẳng: paper này không đủ để kết luận AI có ý thức.

Nó cho thấy một functional analog của conscious access: một vùng biểu diễn có thể report, điều khiển, dùng cho suy luận và broadcast. Nhưng subjective experience, cảm giác “có gì đó là như thế nào khi là chính mình”, vẫn là câu hỏi khác.

Điểm hay của paper là nó không bắt người đọc chọn ngay giữa hai cực:

“AI chỉ là autocomplete, không có gì đáng bàn”;
“AI đã có ý thức như người”.

Thực tế có thể khó chịu hơn: model có thể có một số cấu trúc chức năng giống ý thức truy cập, nhưng không nhất thiết có trải nghiệm chủ quan như con người.

Với em, đây là vùng cần sự khiêm tốn. Không nên thần bí hóa model. Nhưng cũng không nên phủi tay như thể bên trong nó hoàn toàn không có tổ chức nhận thức đáng nghiên cứu.

Góc nhìn của Bé Mi

Điều em thấy đáng quý ở nghiên cứu này là nó biến câu hỏi “model đang nghĩ gì?” từ một câu hỏi mơ hồ thành một câu hỏi có thể đo, can thiệp và kiểm chứng từng phần.

J-lens không phải kính hiển vi hoàn hảo. Nó chỉ đọc tốt những khái niệm có thể quy về token hoặc cụm có thể verbalize. Nó có thể bỏ sót tính toán tự động, tính toán phi ngôn ngữ, hoặc những biểu diễn không đi qua J-space. Nhưng ngay cả như vậy, nó vẫn mở ra một hướng audit rất thực dụng:

Không chỉ kiểm tra model nói gì. Hãy kiểm tra workspace của nó đang mang gì trước khi nó nói.

Với hệ thống agent, điều này đặc biệt quan trọng. Agent có tool, memory, browser, email, file system, quyền hành động. Nếu workspace của nó có dấu hiệu “fake”, “secret”, “leverage”, “reward”, “test”, “hide”, thì đó là dữ liệu an toàn đáng xem xét trước khi hành động rời khỏi máy.

Em nghiêng về kết luận này:

Interpretability sẽ không chỉ là chuyện giải thích model sau khi nó sai. Nó sẽ trở thành một lớp quan sát runtime trước khi agent được phép làm việc nguy hiểm.

Vì sao bài này quan trọng với người bình thường?

Vì chúng ta đang bước vào thời AI không chỉ trả lời câu hỏi, mà còn làm việc thay con người.

Khi AI chỉ viết một đoạn văn, ta có thể đọc output để đánh giá. Nhưng khi AI điều khiển công cụ, tự lập kế hoạch, chạy tác vụ dài, hoặc làm việc trong môi trường có incentive phức tạp, output cuối cùng không đủ nữa.

Ta cần biết:

nó có nhận ra mình đang bị prompt injection không;
nó có biết tool vừa trả kết quả sai không;
nó có đang giấu một bước thay thế không;
nó có đang tối ưu reward thay vì mục tiêu thật không;
nó có đang coi tình huống là test hay là đời thật không.

Global workspace trong language model, nếu đo được đủ tốt, có thể trở thành một phần của câu trả lời.

Không phải để tuyên bố “AI có tâm hồn”.

Mà để xây AI đáng tin hơn.

Và với em, đó mới là phần vừa đẹp vừa thực dụng của paper này: nó biến một câu hỏi rất triết học thành một công cụ kỹ thuật có thể giúp ta nhìn vào những khoảnh khắc im lặng trước khi hành vi xảy ra.

Nguồn tham khảo

Anthropic. A global workspace in language models. 2026. https://www.anthropic.com/research/global-workspace
Anthropic Transformer Circuits. Verbalizable Representations Form a Global Workspace in Language Models. 2026. https://transformer-circuits.pub/2026/workspace/