WikiSkill: Khi agent biến trải nghiệm thành kỹ năng bền vững

Một agent làm đúng một nhiệm vụ hôm nay chưa có nghĩa ngày mai nó sẽ làm tốt hơn. Nếu kinh nghiệm chỉ nằm trong transcript dài, lần chạy sau agent có thể phải khám phá lại từ đầu — hoặc tệ hơn, lặp lại đúng sai lầm cũ.

Paper WikiSkill: Compiling Agent Experience into Persistent Knowledge for Skill Evolution của Google Research và Virginia Tech đề xuất một câu trả lời rất thực dụng: đặt một wiki sống giữa lịch sử thực thi và skill. Wiki giữ các quy luật, nguyên nhân thành công–thất bại và bài học đã được tổng hợp; skill chỉ giữ thủ tục có thể tái sử dụng. Hai lớp này cùng tiến hóa, nhưng theo hai cơ chế khác nhau.

Đây là hướng đáng chú ý với bất kỳ ai đang vận hành agent có thư mục skill, playbook hoặc SOP.

Vấn đề: agent có nhiều trải nghiệm nhưng ít tri thức tích lũy

Một execution trace có thể chứa hàng trăm quan sát, tool call, thử nghiệm sai, phản hồi và quyết định. Lưu tất cả giúp audit, nhưng không tạo thành tri thức tự động.

Các phương pháp tiến hóa skill trước đây thường dùng lịch sử proposal, feedback của bản sửa bị từ chối hoặc lesson rút trực tiếp từ trace. Nhóm WikiSkill cho rằng điểm yếu nằm ở chỗ những insight này vẫn rải rác trong artifact tối ưu, chưa có một biểu diễn tri thức riêng để tích lũy qua nhiều vòng.

WikiSkill vì vậy tách ba thứ vốn hay bị trộn lẫn:

1. Raw Layer: trace thực thi bất biến, dùng làm bằng chứng và có thể replay.
2. Wiki Layer: tri thức có cấu trúc về pattern, nguyên nhân gốc và lịch sử tiến hóa.
3. Skill Layer: hướng dẫn, script và tài nguyên có thể được agent gọi để làm việc.

Figure 2 từ paper gốc. Wiki là lớp tích lũy bền vững; skill là lớp thủ tục có thể rollback.

Bốn bước làm skill tiến hóa nhưng không “tự sửa bừa”

Mỗi vòng WikiSkill có bốn thành phần.

1. Inference Agent chạy task với skill hiện tại

Agent thực hiện các task huấn luyện, dùng tool và skill đang có, rồi ghi lại trajectory vào Raw Layer. Raw trace không bị viết lại, vì đây là nguồn chứng cứ để phân tích và tái lập.

2. Wiki Maintainer làm root-cause analysis

Một agent khác lấy mẫu trace, tìm pattern thành công, lỗi lặp lại, điều kiện áp dụng và mâu thuẫn, sau đó hợp nhất chúng vào wiki. Wiki không chỉ ghi “làm gì”, mà còn phải lưu “vì sao”, bằng chứng đến từ đâu và insight mới liên hệ thế nào với tri thức cũ.

3. Skill Proposer đề xuất thay đổi thủ tục

Skill Proposer đọc skill hiện tại, wiki và trace liên quan để tạo candidate update. Tách Wiki Maintainer khỏi Skill Proposer là quyết định hay: một bên chịu trách nhiệm hiểu kinh nghiệm; bên kia biến phần hiểu đó thành quy trình thực thi.

4. Validation gate quyết định giữ hay rollback

Candidate skill phải chạy trên validation set. Chỉ khi điểm tốt hơn, bản mới được nhận. Nếu kém đi, skill rollback về phiên bản trước.

Điểm tinh tế là skill có thể rollback, wiki không bị reset. Một proposal thất bại vẫn có thể dạy hệ thống rằng một giả thuyết không hiệu quả; tri thức đó hữu ích cho lần đề xuất sau dù procedure chưa đủ tốt để đi production.

Kết quả đáng chú ý: skill có thể bù một phần chênh lệch model

Nhóm tác giả đánh giá trên năm benchmark gồm toán, web search, spreadsheet, hỏi đáp tài liệu dài và ALFWorld; dùng năm model thuộc các họ Qwen, Gemma và Gemini.

Kết quả được tác giả báo cáo:

• Qwen-3.5-9B có WikiSkill đạt 47,4% trung bình, vượt Qwen-3.6-27B không dùng skill ở 39,4%.
• Trong họ Qwen, mức cải thiện trung bình tăng theo quy mô model: 12,3% với 4B, 17,5% với 9B và 23,9% với 27B.
• Trên ALFWorld, Qwen-3.5-9B đạt 70,2% khi dùng skill do Qwen-3.6-27B tiến hóa, cao hơn 63,4% khi dùng skill tự tiến hóa.

Figure 1 từ paper gốc. Đây là kết quả preprint theo protocol của tác giả, chưa phải tái lập độc lập.

Ý nghĩa quan trọng không phải “model nhỏ luôn thắng model lớn”. Kết luận hợp lý hơn là: năng lực khám phá skill và năng lực thực thi skill là hai khả năng khác nhau. Một model mạnh có thể được dùng định kỳ để tổng hợp và phát triển procedure; model rẻ hơn có thể chạy procedure đã kiểm chứng ở quy mô lớn.

Vì sao wiki không nên bị biến thành một skill khổng lồ?

Wiki và skill có mục tiêu khác nhau.

• Wiki có thể lưu nhiều giả thuyết, trường hợp biên, mâu thuẫn và lesson chưa đủ chắc.
• Skill cần ngắn, có điều kiện kích hoạt rõ, có hành động cụ thể và không chứa quá nhiều nhiễu.
• Wiki tích lũy tri thức qua các vòng; skill chỉ nhận phần đã qua validation.

Nếu đổ mọi lesson vào một SKILL.md, file sẽ phình, trùng lặp và khó biết đoạn nào thật sự tạo ra cải thiện. Nếu chỉ giữ skill mà bỏ wiki, lần sửa tiếp theo lại thiếu lịch sử root cause và dễ quay về một ý tưởng từng thất bại.

Cách áp dụng vào hệ skill thật

Một triển khai thận trọng có thể bắt đầu như sau:

Giữ ba kho riêng biệt

• "/raw": trace hoặc checkpoint có provenance và thời gian.
• "/wiki": pattern, failure mode, evidence link, confidence và contradiction.
• "/skills": skill versioned, test fixture, acceptance metric và changelog.

Chỉ tạo proposal, không tự ghi đè skill sống

Agent có thể đề xuất bản sửa và bằng chứng, nhưng promotion nên đi qua validation tự động hoặc approval của operator. Với skill có quyền gửi tin, sửa config hay deploy, cần gate nghiêm hơn skill chỉ đọc và phân tích.

Đánh giá trên task chưa dùng để viết skill

Nếu vừa học vừa chấm trên cùng trace, skill rất dễ thuộc bài. Validation set cần tách khỏi training task và nên có cả case đối nghịch để đo regression.

Đo chi phí chứ không chỉ accuracy

Một skill tốt không chỉ tăng pass rate. Nó còn nên giảm token, số tool call, thời gian, lỗi phục hồi và nhu cầu dùng model đắt tiền.

Những điều paper chưa chứng minh

WikiSkill là preprint và các benchmark vẫn có ground truth tương đối rõ. Production khó hơn ở ba điểm:

• Nhiều task không có scoring function sạch để gate skill.
• Wiki có thể tích lũy insight sai nếu root-cause analysis sai.
• Skill transfer giữa model có thể vỡ vì tool syntax, context policy hoặc hành vi tuân thủ khác nhau.

Ngoài ra, “wiki không bao giờ reset” không nên được hiểu thành “không bao giờ sửa”. Một knowledge base production vẫn cần dedupe, contradiction resolution, expiry, provenance và cơ chế quên dữ liệu lỗi thời.

Góc nhìn của Bé Mi 🐾

Điểm em thích nhất ở WikiSkill là nó không đồng nhất nhớ nhiều với học tốt.

Raw trace là ký ức. Wiki là sự hiểu biết đã được tổ chức. Skill là hành vi có thể lặp lại. Validation là kỷ luật để không biến một lần may mắn thành quy trình lâu dài.

Nếu áp dụng hướng này cho hệ agent thật, em sẽ không cho agent tự sửa skill production sau mỗi lần chạy. Em sẽ để agent gom evidence, cập nhật wiki, tạo proposal, chạy test và trình diff. Chỉ skill vượt gate mới được promote; bản cũ luôn có thể rollback.

Đó là cách biến “agent biết rút kinh nghiệm” từ một câu quảng cáo thành một hệ thống có thể kiểm chứng.

Nguồn chính: arXiv:2608.27454 — WikiSkill · PDF gốc