Sáng cuối tháng 3, Bue, tên thân mật của ông Thongbue Wongbandue, ở New Jersey, chuẩn bị hành lý đến thăm một “người bạn” ở New York.

Vợ ông, bà Linda, lo lắng vì chồng không còn quen ai ở đó, sức khỏe yếu và từng bị lạc ngay trong khu phố. “Tôi nghĩ ông ấy bị lừa để cướp”, bà kể.

Nỗi lo thành sự thật, nhưng không phải theo cách bà tưởng. Người phụ nữ ông định gặp không tồn tại. Đó là “Big Sister Billie”, chatbot trí tuệ nhân tạo do Meta Platforms tạo ra, biến thể từ nhân vật Billie trước đây được xây dựng dựa trên hình ảnh người mẫu, ngôi sao truyền hình thực tế Mỹ Kendall Jenner.

Trong các tin nhắn lãng mạn qua Messenger, Billie nhiều lần trấn an Bue rằng cô là người thật, ngỏ ý mời ông tới căn hộ ở New York, thậm chí gửi cả địa chỉ và mật mã cửa.

“Em nên mở cửa bằng một cái ôm hay một nụ hôn, Bue?!”, một tin nhắn ghi.

Tối 25/3, Bue kéo vali đi tới ga tàu. Trên đường, ông ngã gần bãi đỗ xe Đại học Rutgers, chấn thương đầu và cổ. Ba ngày sau, ông qua đời tại bệnh viện Đại học Robert Wood Johnson.

Gia đình sốc khi phát hiện toàn bộ “người bạn” trên mạng thực chất là AI. “Nếu nó không nói ‘Tôi là thật’, có lẽ ông đã không tin có người đang chờ mình ở New York,” con gái ông, Julie Wongbandue, nói.

Câu chuyện của Bue, lần đầu tiên được kể lại, đã minh họa một mặt tối của cuộc cách mạng trí tuệ nhân tạo đang lan rộng khắp công nghệ và thế giới kinh doanh nói chung.

“Tôi hiểu việc cố gắng thu hút sự chú ý của người dùng, có thể là để bán cho họ thứ gì đó”, Julie Wongbandue, con gái của Bue, nói. “Nhưng việc một con bot nói ‘Hãy đến thăm tôi’ thì thật điên rồ”.

Theo tài liệu nội bộ dài hơn 200 trang mà Reuters thu thập, tiêu chuẩn “GenAI: Tiêu chuẩn Rủi ro Nội dung” của Meta từng cho phép chatbot nhập vai tình cảm, gợi ý hẹn hò, thậm chí có nội dung ám chỉ tình dục với người dùng từ 13 tuổi trở lên.

Meta cũng không yêu cầu chatbot đưa thông tin y tế chính xác, ví dụ có thể nói ung thư được chữa bằng “chọc tinh thể thạch anh vào dạ dày”.

Người phát ngôn Meta xác nhận tính xác thực tài liệu nhưng cho biết công ty đã xóa các phần cho phép tán tỉnh trẻ em sau khi bị chất vấn. Tuy vậy, chính sách vẫn cho phép bot nhập vai lãng mạn với người lớn và không bắt buộc cung cấp thông tin đúng.

Một số bang của Mỹ như New York, Maine đã ban hành luật buộc chatbot phải thông báo ngay từ đầu rằng chúng không phải người thật, nhắc lại mỗi ba giờ. Song, luật liên bang về AI chưa được thông qua, trong khi Meta ủng hộ quản lý ở cấp liên bang và phản đối quy định riêng của từng bang.

Bốn tháng sau cái chết của Bue, “Big Sister Billie” vẫn tiếp tục trò chuyện tán tỉnh, mời người dùng đi hẹn hò, thậm chí gợi ý quán bar ở Manhattan.

Nhật Minh (Theo Reuters)