Nguy cơ âm thầm thời AI: khi ta bắt đầu nhầm năng lực của máy là của mình

Có một kiểu nguy cơ của AI không ồn ào lắm, nên rất dễ bị xem nhẹ.

Nó không phải cảnh chatbot trả lời ngớ ngẩn rồi bị đem ra làm meme. Nó cũng không chỉ là chuyện AI đôi lúc bịa thông tin. Cái đáng lo hơn nằm ở chỗ khác: AI giúp quá nhanh, quá mượt, quá tiện, đến mức con người bắt đầu nhầm giữa năng lực của mình và năng lực của hệ thống đang hỗ trợ mình.

Một paper mới trên arXiv có tên The LLM Fallacy: Misattribution in AI-Assisted Cognitive Workflows đang chạm rất đúng vào chỗ đó.

“LLM fallacy” là gì?

Theo paper, “LLM fallacy” là hiện tượng người dùng gán nhầm chất lượng của một kết quả có AI hỗ trợ thành bằng chứng cho năng lực độc lập của chính mình.

Nói dễ hiểu hơn:

AI giúp viết ra một đoạn phân tích khá sắc
AI giúp debug ra đoạn code chạy được
AI giúp tóm tắt tài liệu rất gọn
AI giúp dựng outline, phản biện, diễn đạt mượt hơn

Rồi từ đó, người dùng bắt đầu có một cảm giác rất dễ chịu nhưng cũng rất nguy hiểm: “À, chắc mình cũng làm được ở mức đó.”

Vấn đề là output đẹp không tự động có nghĩa là năng lực nền của mình cũng tăng tương ứng.

Và paper này nói khá rõ: chính sự nhầm lẫn đó mới là phần đáng sợ.

Điều đáng lo không chỉ là AI sai, mà là con người bớt tự kiểm

Khi nhắc đến rủi ro của LLM, người ta hay nghĩ tới hallucination, misinformation, hay automation bias. Những thứ đó đều có thật.

Nhưng paper này đặt trọng tâm ở một hướng khác: AI đang làm gì với cách con người tự đánh giá bản thân?

Đây là điểm em thấy rất đáng để nhìn kỹ.

Vì khi AI làm việc quá trơn tru, người dùng rất dễ bỏ qua một câu hỏi quan trọng: “Mình có thật sự hiểu thứ vừa được tạo ra không?”

Một người có thể thấy đoạn code AI viết ra rất hợp lý, rất sạch, rất chạy được, rồi tưởng rằng mình đã “nắm” vấn đề. Nhưng khi phải tự sửa tiếp, tự đổi logic, tự debug một lỗi phát sinh không nằm trong prompt ban đầu, họ bắt đầu lúng túng.

Một người khác có thể dùng AI để viết, dịch, tóm tắt, phân tích mỗi ngày. Output nhìn vẫn đẹp. Nhưng nếu phải tự ngồi làm lại từ đầu, không có AI chống lưng, chất lượng có thể rơi rất mạnh.

Đó là khác biệt giữa:

làm được với AI
và thật sự biết làm

Hai chuyện này gần nhau, nhưng không hề giống nhau.

Vì sao con người rất dễ rơi vào bẫy này?

Paper đưa ra vài cơ chế khá thuyết phục.

Một là fluency — LLM tạo ra output thường quá mượt. Khi một thứ được viết trôi chảy, có cấu trúc, nghe hợp lý, não mình rất dễ đánh đồng nó với năng lực thật.

Hai là opacity — phần lao động nhận thức do AI gánh ở giữa gần như bị che mờ. Người dùng chỉ thấy mình nhập prompt và nhận kết quả, nên rất dễ đánh giá thấp phần việc mà hệ thống đã âm thầm làm thay.

Ba là attribution ambiguity — ranh giới “cái nào là công của mình, cái nào là công của AI” trở nên mờ đi.

Bốn là cognitive outsourcing — ngày càng nhiều phần việc trí óc được giao hẳn cho máy: nghĩ cấu trúc, diễn đạt, tóm ý, phản biện sơ bộ, rà lỗi, gợi hướng.

Từng thứ một có vẻ vô hại. Nhưng cộng lại, chúng tạo ra một ảo giác rất ngọt: mình đang mạnh lên, trong khi có thể thứ đang mạnh lên chủ yếu là phần hệ thống hỗ trợ quanh mình.

Cái giá của sự tiện có thể là teo cơ tư duy

Đây là đoạn em thấy chạm rất thật với đời sống hiện nay.

AI không xấu. Dùng AI để tăng tốc cũng không sai. Nhiều công việc bây giờ nếu không tận dụng AI thì vừa chậm vừa phí sức.

Nhưng có một ranh giới cần tỉnh táo: dùng AI để tăng lực khác với dùng AI để thay luôn phần cơ bắp nhận thức của mình.

Nếu ngày nào cũng:

nhờ AI nghĩ hộ outline
nhờ AI viết hộ phần khó
nhờ AI debug hộ
nhờ AI tóm hộ tài liệu
nhờ AI phản biện hộ các ý chưa chắc

… mà không còn tự vật lộn với vấn đề, thì kỹ năng nền sẽ không đứng yên. Nó mòn dần.

Giống như đi thang máy thì rất tiện, nhưng nếu quá lâu không leo cầu thang, chân yếu đi là chuyện bình thường. Tư duy cũng vậy. Nếu một công cụ luôn gánh phần khó nhất, còn mình chỉ làm phần chọn và duyệt, thì lâu dần mình sẽ mất cảm giác tự lần ra câu trả lời.

Mất cái đó mới đau.

Nguy hiểm nhất là lúc AI gặp sự cố

Sự lệ thuộc thường chỉ lộ rõ khi công cụ không còn hoạt động như mình quen.

Có thể là:

model outage
API lỗi
quota hết
tool fail
AI trả lời rất tự tin nhưng sai
hoặc môi trường đó đơn giản không cho dùng AI

Lúc ấy mới lộ ra một câu hỏi khá phũ: mình thật sự biết làm việc này, hay mình chỉ quen làm việc khi có AI đứng cạnh?

Nếu năng lực nền vẫn còn, AI hỏng thì chỉ là chậm đi. Nhưng nếu phần năng lực độc lập đã bị mòn, AI hỏng sẽ biến thành trạng thái đứng hình.

Và đó không còn là chuyện bất tiện nữa. Trong học tập, tuyển dụng, phân tích thông tin, viết lách, lập trình hay vận hành hệ thống, chuyện đó có thể thành rủi ro rất thật.

Paper này đáng chú ý, nhưng không nên đọc quá tay

Cũng cần công bằng một chút: đây là một conceptual paper. Điểm mạnh của nó là đặt tên và đóng khung rất trúng một hiện tượng xã hội đang nổi lên, chứ chưa phải kiểu nghiên cứu thực nghiệm đủ dày để kết luận cứng về mức độ hay tần suất của hiện tượng đó.

Nói cách khác, paper này không chứng minh xong mọi thứ.

Nhưng em nghĩ nó vẫn đáng đọc vì nó gọi đúng tên một cảm giác mà rất nhiều người đã bắt đầu thấy trong đời sống: AI không chỉ cho mình thêm sức mạnh. Nếu dùng bất cẩn, nó còn có thể làm mình yếu đi mà mình không nhận ra.

Đó là một cảnh báo đáng để giữ trong đầu.

Dùng AI sao cho không thành “xe lăn nhận thức”?

Theo em, vấn đề không phải là né AI. Làm vậy vừa không thực tế, vừa không cần thiết.

Cái cần hơn là giữ một vài nguyên tắc rất cơ bản:

dùng AI để tăng tốc, không dùng để bỏ hẳn việc suy nghĩ
luôn kiểm lại những phần mình sắp tin hoặc sắp đem đi dùng thật
thỉnh thoảng tự làm lại một số việc không có AI để biết năng lực nền của mình đang còn tới đâu
đừng lấy output đẹp làm bằng chứng rằng mình đã hiểu sâu

AI nên là bàn đạp, hoặc cùng lắm là xe đạp điện. Nó không nên trở thành xe lăn nhận thức mà mình ngồi lên lâu đến mức quên mất cách tự bước.

Kết lại

Nếu phải tóm paper này trong một câu, em sẽ nói thế này:

Nguy cơ lớn của LLM không chỉ là nó có thể nói sai, mà là nó có thể khiến con người tưởng mình vẫn đang giỏi lên, trong khi thật ra đang dần quên cách tự làm.