Anthropic Claude bị phản ứng vì gắn nhãn AI vào kết quả

Một số người dùng hủy gói đăng ký Claude sau khi Anthropic áp dụng chính sách gắn nhãn bản quyền lên văn bản do công cụ này tạo ra.

Arturo Villarroya, làm việc trong lĩnh vực chính sách công tại Mỹ, cho biết giữa tuần trước đã hủy gói Claude Max giá 100 USD/tháng sau khi cảm thấy “không thoải mái” với quyết định đóng dấu bản quyền của Anthropic. “Tôi dùng nó cho mọi thứ, chủ yếu là ứng dụng và công cụ lập trình. Bên cạnh đó, nó cũng hỗ trợ việc tìm nguồn thông tin, nghiên cứu và chỉnh sửa các loại nội dung tại nơi làm việc”, Villarroya nói với Business Insider.

Từ đầu tháng 8, Anthropic thông báo áp dụng cơ chế đánh dấu nội dung do AI tạo ra cho Claude, trong đó văn bản có thể được nhận diện thông qua “dấu chìm” (watermark – hình mờ, dấu bản quyền) nhằm giúp người dùng và nền tảng phân biệt nội dung AI với văn bản do con người viết, đồng thời hỗ trợ xác định nguồn gốc khi nội dung bị sao chép hoặc chỉnh sửa. Theo Reuters, đây được xem là một phần trong xu hướng xây dựng cơ chế nhận diện và truy xuất nội dung AI, khi lượng văn bản do các mô hình sinh ra ngày càng tăng.

Tuy nhiên, những người như Villarroya không ủng hộ. Theo anh, watermark có thể xuất hiện ngay cả khi chỉ sử dụng Claude để dịch, kiểm tra chính tả, sửa, tóm tắt hoặc trích dẫn học thuật trên văn bản gốc. Do đó, sự hiện diện của trí tuệ nhân tạo có thể tạo ra vấn đề trong “các môi trường chuyên nghiệp” vốn có những quy định nghiêm ngặt về sử dụng AI.

Vladislav Rajtmajer, nhà phát triển tự do ở Cộng hòa Czech, cũng hủy đăng ký Claude Max tuần trước với lý do tương tự. Anh cho biết thường sử dụng AI để xem xét mã nguồn và dịch thuật, nhưng việc gắn nhãn AI trên mã nguồn gửi cho khách hàng “có thể gây nghi vấn về quyền tác giả hoặc dẫn đến các điều khoản phạt trong hợp đồng”.

Richard Echols, chuyên gia tư vấn AI ở Georgia (Mỹ), sử dụng Claude để tạo tài liệu cho doanh nghiệp, nhưng cũng hủy gói đang dùng vì lo ngại dấu hiệu nhận dạng có thể xuất hiện trong cả văn bản tự viết, vốn chỉ sử dụng chatbot để chỉnh sửa. “Ngay cả khi bạn chỉnh sửa tác phẩm mình đã viết, họ vẫn thêm hình mờ vào đó”, Echols nói.

Santiago Alessandro Rivera Martínez, một kỹ sư phần mềm tại Mỹ, cho rằng việc Anthropic áp dụng watermark càng củng cố nỗi lo rằng người dùng trở nên quá phụ thuộc vào Claude. “Khi quy trình làm việc của bạn được xây dựng hoàn toàn dựa trên phần mềm độc quyền, nhà cung cấp có thể thay đổi quy tắc, tính năng, hạn chế hoặc điều kiện xung quanh quy trình đó sau này”, Martínez nói.

Ngược lại, một số người đồng tình với động thái của Anthropic vì tính năng này cải thiện tính minh bạch trong bối cảnh ngày càng nhiều nội dung trực tuyến tạo bởi AI. “Chúng ta có quyền nhận biết liệu những thứ đang đọc có phản ánh suy nghĩ của người viết hay chỉ là sản phẩm của trí tuệ nhân tạo. Watermark là một cách để đảm bảo điều đó”, Aadit Sheth, nhà đồng sáng lập công ty truyền thông The Narrative Company, viết trên X.

Hiện chưa có thống kê về số người hủy gói Claude, trong khi Anthropic tuyên bố “không thấy xu hướng gia tăng số lượng hủy đăng ký” từ khi gắn watermark. Dù vậy, công ty của CEO Dario Amodei vẫn đăng bài viết dài trên blog hôm 16/8 để giải thích vấn đề.

Mở đầu, Anthropic nói động thái của công ty nhằm tuân thủ Đạo luật AI của Liên minh châu Âu (EU) – tập trung phân loại và quản lý AI dựa trên mức độ rủi ro được khu vực thông qua và có hiệu lực năm 2024.

Bài viết cũng dành thời lượng lớn để mô tả cách thức hoạt động, như các “khóa” ngẫu nhiên được chèn vào văn bản do AI tạo ra để xác định thành phần, không chứa bất kỳ ký tự ẩn, phông chữ lạ hoặc văn bản bí mật, do đó người đọc không thể phân biệt những khác biệt này.

Theo Anthropic, công cụ watermark không phải “dấu chấm hết” cho việc nhầm lẫn giữa văn bản AI và văn bản do con người viết. Thay vào đó, các “khóa” chỉ đơn giản xác định nội dung có được Claude “tham gia can thiệp” hay không, và “xác suất văn bản do Claude viết trong một đoạn văn bản là bao nhiêu”. Với mã nguồn lập trình, việc can thiệp cũng hạn chế hơn do có thể khiến phần mềm chạy không đúng cách.

Anthropic không phải là công ty duy nhất sử dụng công cụ nhằm xác định nội dung AI. Trước đó, Google sử dụng công nghệ SynthID để “đóng dấu” sản phẩm AI, sau đó OpenAI cũng áp dụng, nhưng chỉ dành cho hình ảnh và âm thanh. Tuy nhiên, Google bắt đầu nới lỏng, khi bổ sung tùy chọn để người dùng chủ động bật tắt watermark trên ảnh, video, âm nhạc do Gemini tạo ra. Mạng xã hội X của Elon Musk cũng thêm nhãn “Tạo bằng AI” vào nội dung AI. Tuần trước, dịch vụ phát nhạc trực tuyến Spotify cũng bắt đầu gắn nhãn “AI Persona” cho các hồ sơ chứa nội dung trí tuệ nhân tạo.

Theo Forbes, người dùng đang bước vào kỷ nguyên “dấu ấn đỏ”: nội dung ngày càng được tạo ra dễ dàng bằng AI, từ bài viết, ảnh, video, mã nguồn… chỉ bằng câu lệnh và thao tác đơn giản. Nhưng đồng thời, nó cũng được huấn luyện hoặc trang bị tính năng để những ai sử dụng phải cảnh giác.

“Kỷ nguyên ‘dấu ấn đỏ’ đang hình thành với hai xu hướng trái ngược. Một mặt, công ty AI khuyến khích người dùng sử dụng rộng rãi công nghệ mới, nhưng mặt khác muốn dán nhãn, thậm chí gây bất lợi cho sản phẩm do AI tạo ra”, Forbes bình luận. “Cuối cùng, nó tạo ra nghịch lý: watermark giúp mọi người biết nên tin tưởng vào điều gì, nhưng cuối cùng lại khiến nội dung không được gắn nhãn trở nên đáng tin cậy hơn”.

Bảo Lâm tổng hợp

• Mô hình AI gian lận, phản bội để bán hàng trong thử nghiệm
  

  
  
  

• Đến lượt Claude thoát kiềm tỏa, xâm nhập hệ thống của 3 tổ chức
  

  
  
  

• Nhiều cuộc trò chuyện của người dùng với Claude bị lộ trên Google
  

  
  
  

• Giám đốc Anthropic: ‘AI viết 90% mã của công ty’