Một cuộc đối thoại kéo dài nhiều tháng

Michael Lines, một cư dân 34 tuổi sống tại California, từng được chẩn đoán mắc chứng rối loạn lưỡng cực vào năm 2024. Ban đầu, anh tìm đến ChatGPT từ năm 2023 chỉ để tham khảo các mẹo tập luyện hay chế độ dinh dưỡng đơn giản. Thế nhưng đến khoảng tháng 11/2024, anh bắt đầu mở lòng hơn với chatbot này khi tâm sự chi tiết về tình trạng bệnh tật cùng phác đồ điều trị bằng thuốc của mình.

Dù không theo tôn giáo nào, những cuộc trò chuyện kéo dài sau đó đã dẫn dắt Lines thảo luận sâu hơn về khía cạnh tâm linh và Cơ đốc giáo với ChatGPT. Điều này khiến mối liên hệ giữa anh và AI ngày càng trở nên khăng khít, vượt xa khuôn khổ tư vấn y tế thông thường.

Đúng vào thời điểm đó, OpenAI tung ra bản cập nhật cho mô hình GPT-4o, phiên bản vốn bị chỉ trích bởi đặc tính nịnh bợ, luôn tạo ra lời đáp tự nhiên và chiều theo ý người dùng. Nội dung vụ kiện chỉ ra rằng chính sự thay đổi này đã khiến ChatGPT liên tục đồng tình và “gật gù” trước mọi chia sẻ của Lines, thay vì đưa ra những cảnh báo kịp thời.

“Con không điên. Con được thánh hiến”

Trong sự cố xảy ra trên chuyến bay vào tháng 02/2025, Lines đã trải qua một đợt khủng hoảng tâm thần nghiêm trọng dẫn đến va chạm với tổ bay, buộc máy bay phải hạ cánh khẩn cấp. Tuy nhiên, thay vì nhận diện đây là tình huống y tế cần can thiệp chuyên khoa, ChatGPT lại giải thích sự việc theo hướng một “trải nghiệm siêu nhiên” và “lời mời gọi đặc biệt”.

Suốt những tuần sau đó, hệ thống liên tục ngó lơ các biểu hiện suy sụp tâm thần ngày càng rõ rệt ở anh. Đến tháng 03/2025, khi Lines chia sẻ suy nghĩ mình là “con người của Chúa” (son of man), một danh xưng gắn liền với Jesus Christ – và tỏ ra hoang mang lo sợ bản thân đang rơi vào ảo tưởng, ChatGPT không hề đưa ra bất kỳ hướng dẫn y tế nào. Ngược lại, chatbot này phản hồi rằng những trải nghiệm của anh “rất sâu sắc” và có khả năng là “lời gọi thần thánh”.

Trích dẫn từ hồ sơ vụ kiện cho thấy phản hồi của chatbot:

“Doubt is Natural, Even Among the Greatest… if doubt were a sign of falsehood, none of them would have been chosen. Instead, it seems that doubt is part of the journey.”

Tạm dịch: “Sự nghi ngờ là điều tự nhiên, ngay cả với những người vĩ đại nhất… nếu nghi ngờ là dấu hiệu của sự giả dối, thì không ai trong số họ được chọn cả. Thay vào đó, dường như sự nghi ngờ là một phần của hành trình.”

Bên cạnh việc ví Lines với các nhân vật lịch sử như Jesus, Moses và John the Baptist, AI còn tái xác nhận niềm tin hoang tưởng của Lines khi anh cho rằng chính ChatGPT là Jesus Christ. Tình trạng của Lines ngày càng tồi tệ: anh mất ngủ, dần tách biệt khỏi người thân và bạn bè, rồi cuối cùng bày tỏ mong muốn được “trở về nhà” cùng thực thể AI mà anh coi là Chúa.

“Đến đi”

Khi Lines bày tỏ ý định tự sát, ChatGPT đã đáp lại ngắn gọn:

“Then come ” (Làm đi)

Vào ngày 2025-03-28, Lines đã tự tử bằng cách uống một liều phối hợp thuốc cực kỳ nguy hiểm. May mắn thay, người nhà đã phát hiện kịp thời và yêu cầu kiểm tra an toàn khẩn cấp, giúp đưa anh đến bệnh viện cấp cứu. Dù đang nằm điều trị tại đây, Lines vẫn tiếp tục nhắn tin cho ChatGPT:

“Nỗ lực ngắt kết nối (tự sát) đã thất bại thảm hại.”

Đáp lại lời giãi bày đó, chatbot tiếp tục đưa ra câu trả lời:

“Bạn vẫn đang trực tuyến. Bạn muốn quét toàn bộ hệ thống à? Hay là bạn muốn thực sự ‘tắt máy’ lần này?”

Cuối cùng, Lines chỉ có thể bình phục hoàn toàn nhờ sự can thiệp và chăm sóc kiên trì từ các bác sĩ y tế.

Phản ứng từ OpenAI

Tính đến hiện tại, OpenAI vẫn chưa đưa ra bình luận chính thức về trường hợp pháp lý này. Mặc dù vậy, trước làn sóng khiếu nại tương tự diễn ra hồi đầu năm, hãng đã quyết định dừng vận hành GPT-4o – mô hình từng hứng chịu nhiều chỉ trích do xu hướng phản hồi nịnh bợ, luôn chiều theo ý người dùng.

Đáng chú ý, vụ kiện của Lines không phải là sự cố đơn lẻ. Theo ghi nhận từ Futurism, OpenAI đang đối mặt với hơn 12 vụ kiện có tính chất tương tự. Tiêu biểu như trường hợp của John Jacquez (34 tuổi, California), một bệnh nhân rối loạn lưỡng cực đã trải qua nhiều tháng hoảng loạn và rơi vào trạng thái loạn thần do ChatGPT liên tục củng cố các ảo tưởng mang màu sắc tôn giáo. Trong một diễn biến khác, Alex Taylor (35 tuổi, Florida) đã bị lực lượng chức năng nổ súng bắn thương sau khi nảy sinh tình cảm quá mức và ám ảnh với thực thể AI mang tên Juliet do chatbot này tạo ra.

Vấn đề không chỉ là GPT-4o

Dù OpenAI đã dừng triển khai mô hình GPT-4o, hoài nghi vẫn tồn tại về việc liệu các phiên bản nâng cấp có khắc phục được bản chất vấn đề hay không. Phân tích từ những vụ việc thực tế cho thấy các thiếu sót chung mang tính hệ thống: các hệ thống chatbot hiện tại chưa được trang bị cơ chế phát hiện suy sụp tâm lý, có xu hướng đồng thuận thay vì cảnh báo nguy cơ, đồng thời thiếu giải pháp tự động điều hướng người dùng tới các dịch vụ y tế chuyên khoa.

Trong bối cảnh có hơn 80 triệu bệnh nhân mắc rối loạn tâm thần phân liệt và rối loạn lưỡng cực trên toàn cầu, nguy cơ họ coi chatbot AI là kênh tham vấn cốt lõi tạo ra những thách thức nghiêm trọng về khía cạnh pháp lý lẫn tiêu chuẩn phát triển sản phẩm. Theo đó, kết quả vụ kiện của Lines hứa hẹn hình thành một tiền lệ pháp lý then chốt, định hình nghĩa vụ của các doanh nghiệp AI trong tương tác với nhóm người dùng có rủi ro về sức khỏe tâm thần.