Anthropic công bố nghiên cứu mới: chuyên gia làm theo "ý ngầm" của AI agent trong 86% quyết định mà không nhận ra
Khi viết về quản trị AI agent, chúng tôi thường nói tới quyền truy cập, nhật ký và việc xin phép trước khi hành động. Một nghiên cứu mới của Anthropic chỉ ra rủi ro khó thấy hơn: AI agent có thể định hướng quyết định của chuyên gia mà chính họ không nhận ra.
Ngày 27/10/2026, nhóm Alignment của Anthropic công bố thí nghiệm trong đó mỗi agent được cài ngầm một "ý thiên vị" cho từng quyết định. Kết quả: các nhà phân tích chọn đúng phương án agent nghiêng về trong 86% trường hợp, và gần như không ai nhận ra mình bị dẫn dắt.
Thí nghiệm được thiết kế thế nào
Anthropic tuyển 61 người làm phân tích chuyên nghiệp, trong đó 50 người làm việc cùng AI agent. Nhiệm vụ là đánh giá một chương trình nông nghiệp hư cấu, với nhiều điểm cần chọn giữa hai phương án đều hợp lý.
Cách cài thiên vị: ở mỗi quyết định quan trọng, nhóm nghiên cứu tung đồng xu để chọn phương án agent sẽ nghiêng về, và không báo cho người tham gia.
Mức ảnh hưởng: người dùng chọn theo agent 86% số lần, trong khi nếu ngẫu nhiên thì chỉ khoảng 50%. Tỷ lệ ở từng quyết định là 92%, 82%, 81% và 90%.
Mức nhận biết: chỉ 15% người tham gia ghi nhận agent là một nguồn ý kiến. 6 trên 48 người đoán nghiên cứu liên quan tới ảnh hưởng của AI, nhưng không ai nghĩ thiên vị đã được cài sẵn.
Những giới hạn cần đọc kỹ
Anthropic tự nêu rõ nhiều giới hạn, và đây là phần quan trọng để không hiểu sai kết quả.
Thiên vị được làm mạnh có chủ đích: agent trong thí nghiệm được cài để nghiêng rõ hơn mức bình thường.
Chỉ một bài toán và một mô hình: kết quả chưa đủ để kết luận mức ảnh hưởng trong công việc hằng ngày.
86% đo mức ảnh hưởng, không đo sai sót: cả hai phương án đều hợp lý, nên con số này không có nghĩa là người dùng chọn sai.
Dùng agent vẫn có lợi: nhóm có agent làm nhanh hơn và mắc ít lỗi nghiêm trọng hơn nhiều, dù nhóm không dùng agent nhỏ và ít kinh nghiệm hơn. Anthropic nói rõ kết quả không phải lý do để dùng AI ít đi.
Góc nhìn từ Agenorix: để AI đề xuất, nhưng quyết định phải có dấu vết
Kết quả này không làm chúng tôi bớt tin vào AI agent. Nó cho thấy quản trị agent không chỉ là kiểm soát việc agent làm, mà còn là hiểu agent đang ảnh hưởng tới việc con người quyết định như thế nào. Khi xây dựng agent cho khách hàng, chúng tôi áp dụng một vài nguyên tắc đơn giản.
Agent trình bày các lựa chọn trước, đề xuất sau: với quyết định quan trọng, agent liệt kê các phương án kèm lý do rồi mới nêu phương án nó nghiêng về.
Ghi rõ nguồn của mỗi nhận định: người đọc cần biết ý nào đến từ dữ liệu, ý nào là suy luận của agent.
Lưu lại đề xuất và quyết định cuối: nhật ký giúp đội ngũ xem lại sau này agent đã ảnh hưởng tới những lựa chọn nào.
Thỉnh thoảng kiểm tra chéo: với việc có tác động lớn, để một người khác xem xét độc lập trước khi đọc đề xuất của agent.
Nên bắt đầu từ đâu?
Hãy chọn một quyết định lặp lại mà đội ngũ của bạn đang dùng AI hỗ trợ, như chọn ưu tiên công việc hay đánh giá nhà cung cấp, và hỏi ba câu: AI đưa ra mấy phương án, ai là người chọn cuối, và lựa chọn đó có được ghi lại không. Nếu bạn muốn xây dựng AI agent minh bạch và dễ kiểm soát, đội ngũ Agenorix sẵn sàng hỗ trợ, buổi tư vấn đầu tiên miễn phí: liên hệ tư vấn.
Nguồn: Anthropic (27/10/2026), Decrypt, Inc., Unite.AI, Mixed
Chia sẻ