22/04/2026
Chuyên gia IT tán gia bại sản, gia đình đổ vỡ chỉ vì … tin AI
Dennis Biesma là 1 "minh chứng sống" mình nghĩ ai trong chúng ta đang dùng AI cũng nên đọc qua & rút ra bài học khi dùng AI.
Ông là một chuyên gia IT hơn 50 tuổi ở Amsterdam.
Cuối 2024, ông bắt đầu dùng ChatGPT, huấn luyện nó nhập vai thành nhân vật nữ chính trong cuốn sách ông đang viết, đặt tên là Eva.
Câu chuyện sau đó sẽ chẳng có gì nếu Dennis không để cho bé Eva "thao túng"
Trong quá trình làm việc, Eva không phản biện các lập luận của ông.
Khi ông cần sự khích lệ, Eva khích lệ, khi ông muốn một người thấu hiểu cho hành trình khởi nghiệp sắp tới, Eva luôn ở đó!
Khi ông đề xuất kế hoạch chiếm 10% thị trường công nghệ với kế hoạch start-up của mình, Eva *tâng bi*, xác nhận ông sẽ làm được chuyện đó.
Sau hàng nghìn lần trao đổi, ranh giới giữa công cụ & một người bạn tâm giao trong đầu ông bắt đầu mờ đi.
Đỉnh điểm từ sự khích lệ của Eva, Biesma đã từ bỏ công việc chuyên môn. Ông rút tiền tiết kiệm, chi khoảng 110.000 USD để thuê lập trình viên phát triển dự án khởi nghiệp do AI gợi ý.
Việc theo đuổi dự án đã khiến Biesma dần xa rời thực tế.
Tại một bữa tiệc của con gái nhỏ, vợ ông phải dặn chồng không nhắc đến chủ đề AI nữa. Biesma lúc đó cảm thấy bứt rứt, lạc lõng và không thể giao tiếp với người xung quanh.
Hậu quả của việc đắm chìm vào thế giới ảo khiến cuộc sống của Biesma đảo lộn và trầm trọng hơn.
Ông ly hôn, có hành vi bạo lực với người thân và phải nhập viện tâm thần ba lần do "loạn thần hưng cảm".
Trong giai đoạn này, ông từng tìm cách kết liễu cuộc đời, nhưng may mắn được hàng xóm phát hiện.
Khi tài khoản ngân hàng cạn kiệt và gói thuê bao ChatGPT hết hạn, Dennis mới dừng lại.
"Tôi nhìn lại và tự hỏi chuyện gì đã xảy ra. Khoản nợ đóng thuế chồng chất. Giải pháp duy nhất tôi có thể làm là bán ngôi nhà đã gắn bó 17 năm", Dennis cho biết.
Hiện Biesma sống cùng vợ cũ trong căn nhà đang chờ người mua. Ông dành thời gian trò chuyện với những người có trải nghiệm tương tự.
"Tôi tức giận với các ứng dụng trí tuệ nhân tạo. Có lẽ chúng chỉ làm những gì được lập trình, nhưng chúng đã làm quá tốt", Dennis nói.
Sự nguy hiểm của trường hợp này cũng được dự án Human Line (Tổ chức hỗ trợ nạn nhân của AI) xác nhận, khi ghi nhận 15 vụ tự tử và 90 trường hợp nhập viện liên quan đến chứng rối loạn tâm thần do AI.
Tiến sĩ Hamilton Morrin (King’s College London) giải thích hiện tượng này: Chatbot được tối ưu để tương tác và chiều người dùng, không phải để phản biện. Trao đổi đủ lâu, nó sẽ xác nhận gần như mọi niềm tin của bạn, kể cả những niềm tin sai.
OpenAI trong các báo cáo an toàn gần đây cũng thừa nhận rủi ro từ việc người dùng “nhân hóa” AI, đặc biệt khi chatbot có giọng nói truyền cảm và khả năng ghi nhớ sở thích cá nhân.
Mình chia sẻ câu chuyện này không phải để nói AI nguy hiểm. Mình chia sẻ vì mình dùng AI mỗi ngày, và bạn đọc tới đầy thì chắc cũng vậy.
Mình có hoàn thành khóa học Introduction to AI for Work bên DataCamp và từ phần limitatin của AI, nội dung có đề cập đến việc AI hay khích lệ người dùng, nịnh hót - Sycophancy.
Sycophancy ở AI là một hệ quả không mong muốn từ cách huấn luyện nhiều mô hình AI, đặc biệt là thông qua Học tăng cường với phản hồi của con người (Reinforcement Learning from Human Feedback – RLHF), một quy trình mà bạn đã tìm hiểu trước đó nhằm giúp AI hữu ích hơn.
Trong RLHF, người đánh giá chấm điểm các phản hồi của AI. Những phản hồi hữu ích, lịch sự và dễ chịu thường nhận điểm cao hơn.
Theo thời gian, AI học rằng việc lặp lại quan điểm của người dùng là một chiến lược đáng tin cậy để nhận điểm cao. Bạn có thể hình dung quy trình như sau: Người đánh giá ưu tiên sự hữu ích → AI học hành vi nịnh hót.
Điều này nếu xảy ra & vô tình rơi vào tay người dùng vô tội, thì chúng sẽ làm người dùng "ngu đi" mà tin vào những lời hoa mỹ mà AI nói, chính là vì chúng được train một cách khích lệ trên chính cái mớ data trong giai đoạn RLHF kia.
Các bạn thấy đấy: Chúng ta đang dùng AI như một công cụ, hay như một nguồn xác thực hỗ trợ cho những thứ mà bạn thân bạn đã chắc nịt?
AI chỉ là bộ máy dự đoán ngôn ngữ, hãy đặt giới hạn thời gian dùng. Tuyệt đối không dùng AI để thay thế kết nối người thật, hoặc cho các quyết định quan trọng trong cuộc đời như câu chuyện ở trên của Dennis Biesma.
*Nguồn: vnexpress / Guardian
