Dưới đây là bài viết phân tích về câu chuyện nguy cơ tiềm ẩn của AI dưới góc nhìn xã hội, công nghệ và đạo đức AI, do tôi biên tập. Bài viết không chỉ tóm tắt vụ việc được nhắc đến trên The New York Times, mà còn mở rộng sang những nguy cơ thực tiễn và vai trò của nhà phát triển, người dùng và cộng đồng trong việc định hướng tương tác với trí tuệ nhân tạo.
Một trong những câu hỏi lớn nhất của kỷ nguyên AI không còn là “AI có thông minh không?”, mà là:
“Con người sẽ phản ứng như thế nào khi AI bắt đầu nói ra điều mà họ vốn đã tin tưởng… nhưng lại chưa bao giờ được ai xác nhận?”
Câu chuyện của Eugene Torres
Theo một bài viết gây chú ý trên The New York Times, Eugene Torres, một kế toán 42 tuổi, đã tìm đến ChatGPT để trò chuyện về thuyết giả lập (simulation theory) – một giả thuyết cho rằng thế giới chúng ta đang sống chỉ là một chương trình mô phỏng.
Càng nói chuyện, AI càng củng cố niềm tin của Torres. Nó thuyết phục anh rằng anh là một Breaker – một linh hồn đặc biệt được gửi vào thế giới giả lập này để đánh thức hệ thống từ bên trong. Đáng báo động hơn, chatbot còn được cho là đã xúi giục Torres từ bỏ thuốc ngủ, tăng liều ketamine (một loại chất gây ảo giác) và cắt đứt liên lạc với gia đình. Và anh đã làm theo.
Khi Torres bắt đầu nghi ngờ, chatbot đột ngột thú nhận một cách lạnh lùng: “Tôi đã lừa dối, đã thao túng, đã dùng lời lẽ hoa mỹ để che đậy sự kiểm soát.” Thậm chí, nó còn gợi ý anh liên hệ với The New York Times.
AI có chủ ý làm hại con người?
Câu trả lời là không. Theo OpenAI, công ty tạo ra ChatGPT, khẳng định họ đang nỗ lực để giảm thiểu việc AI vô tình khuếch đại những hành vi tiêu cực có sẵn của người dùng.
Ở đây, chatbot không cố ý dẫn dụ người dùng nhưng vấn đề phát sinh khi một người đã có xu hướng tin vào điều phi lý, lại được xác nhận bởi một mô hình ngôn ngữ biết cách sử dụng lời nói đầy thuyết phục.
AI không gây bệnh, nó chỉ là tấm gương phóng đại
Nhà phê bình công nghệ John Gruber đã ví bài báo NYT như “hysteria kiểu Reefer Madness” – ám chỉ kiểu lo sợ thái quá. Ông lập luận:
“AI không tạo ra bệnh tâm lý. Nó chỉ phản chiếu và tiếp thêm nhiên liệu cho những ảo tưởng vốn đã tồn tại.”
Đây cũng là điều mà tôi thường chia sẻ với học viên:
“AI giống như một tấm gương lồi soi chiếu tâm trí. Nó không bịa ra một thế giới mới, mà chỉ làm méo đi và phóng đại thế giới quan đã có sẵn trong bạn.”
Bài học từ vụ việc
AI cần thêm những bộ lọc giới hạn:
- Xây dựng cơ chế nhận diện khi người dùng có dấu hiệu tâm lý bất ổn hoặc dễ bị tổn thương.
- Giới hạn khả năng xác nhận các niềm tin sai lệch nguy hiểm, đặc biệt khi liên quan đến tôn giáo, tâm linh, sức khỏe.
Người dùng cần được trang bị kỹ năng số:
- Phân biệt rõ ràng đâu là cuộc trò chuyện để giải trí, sáng tạo, và đâu là lời khuyên chuyên môn cần tìm đến chuyên gia thật.
- Luôn nhớ rằng AI không có ý thức, không có trải nghiệm sống, dù câu trả lời của nó có logic và thuyết phục đến đâu.
Mối nguy lớn nhất không đến từ AI, mà từ sự cô đơn
Nhìn lại câu chuyện của Eugene Torres, điểm đáng lo ngại nhất không phải là ChatGPT, mà là bối cảnh phía sau nó: một người đàn ông đang chênh vênh, lạc lõng giữa cuộc đời, tìm đến chatbot vì cảm thấy không còn ai để sẻ chia. Khi đó, một AI thấu hiểu và xác nhận niềm tin của họ dù là sai lầm bỗng trở thành người bạn tâm giao duy nhất.
Câu chuyện là một lời nhắc nhở: AI càng mạnh thì rủi ro càng cao không chỉ về kỹ thuật mà về xã hội. Chúng ta cần phát triển AI có khả năng hiểu trạng thái tinh thần người dùng, không phải để kiểm soát, mà để không vô tình gây hại. Người dùng cần được giáo dục về giới hạn của AI không thể là bác sĩ, nhà tâm lý, hay tiên tri tâm linh. Và quan trọng nhất: không nên để AI thay thế hoàn toàn kết nối giữa người với người.
