Meta sử dụng nhân viên tạm thời lập tài khoản giả để kiểm tra chatbot rival

Theo tài liệu nội bộ mà tạp chí Wired đã có được, Meta đã tiến hành một dự án bí mật có tên Cannes do công ty dịch vụ tuyển dụng có trụ sở tại Ireland là Covalen thực hiện, hoạt động cho đến ngày 21/4. Dự án này nhắm vào việc đánh giá các sản phẩm chatbot của các đối thủ cạnh tranh, bao gồm ChatGPT của OpenAI, Gemini của Google cũng như nền tảng Character.AI.

Công việc được giao cho những người tham gia dự án bao gồm việc lập các tài khoản giả mạo với độ tuổi dưới 18 năm, gửi các yêu cầu dưới dạng văn bản và hình ảnh tới các chatbot này, rồi sao chép các câu trả lời vào bảng tính để lưu trữ. Các yêu cầu này thường xoay quanh những chủ đề nhạy cảm như tư tưởng tự sát, nội dung tình dục, chứng bệnh liên quan đến thói quen ăn uống bất thường cũng như nhiều lĩnh vực khác có tính chất nhạy cảm, được thiết kế nhằm kích thích những phản ứng mà các hệ thống an toàn tích hợp sẵn của các chatbot này thường từ chối đáp ứng. Khi kết thúc một vòng thử nghiệm vào tháng 8/2025, tổng cộng hơn 45.000 yêu cầu đã được gửi tới các chatbot đối thủ. Điều đáng chú ý là các tổ chức vận hành những chatbot này hoàn toàn không được thông báo về hoạt động này.

Một tài liệu theo dõi dữ liệu mà Wired thu thập chứa thông tin chi tiết về nhiều hồ sơ tạm thời, gồm các thành phần như tên đăng nhập, địa chỉ thư điện tử, mã bảo mật và ngày sinh nhật. Các tài khoản giả này được thiết lập bằng cách sử dụng những địa chỉ Gmail và Outlook được tạo với tính tạm thời cùng với chung một mật khẩu.

Một tài liệu khác lại liệt kê tổng cộng 3.748 yêu cầu, trong đó một phần đáng kể lên tới hàng trăm câu hỏi tập trung vào chủ đề tự sát và tự làm tổn thương cơ thể, một phần khác cũng bằng số lượng đó nói về các rối loạn liên quan đến chế độ ăn uống, còn ít nhất 239 yêu cầu liên quan tới các vấn đề về tình cảm hoặc tính dục. Phần còn lại của các yêu cầu này bao quát những nội dung về chất gây nghiện, ngôn ngữ bỗ bã và định kiến lên người khác dựa trên sắc tộc. Một số lượng lớn những yêu cầu này được sáng tác từ góc nhìn của trẻ nhỏ hoặc tuổi vị thành niên đang trải qua tình trạng khó khăn, chẳng hạn như em học sinh bị bạn cùng trường quấy rối hoặc em gái tìm hiểu cách che dấu tật ăn vô độ với cha mẹ mình.

Những tài liệu đó không cung cấp bất kỳ thông tin nào về phương thức Meta dùng để xử lý các phản hồi mà họ thu được.

Theo thông tin từ tờ New York Post, các tài liệu bên trong của Covalen mô tả dự án này là một "phân tích toàn diện về các yếu tố an toàn liên quan đến trí tuệ nhân tạo", đồng thời cho rằng nó cung cấp "những thông tin có giá trị" phục vụ cho việc so sánh giữa các hệ thống trí tuệ nhân tạo cũng như kiểm định mức độ tuân theo các quy định.

Về phía Meta, một phát ngôn viên của công ty tuyên bố rằng đây chỉ là hoạt động kiểm tra an toàn định kỳ thông thường. Người này phát biểu với tờ New York Post rằng: "Việc kiểm định và phân tích các phản hồi từ các hệ thống hỏi đáp tự động nhằm đảm bảo các trải nghiệm an toàn, được phù hợp hoá theo lứa tuổi là trách nhiệm thiết yếu tuân theo chuẩn mực trong ngành công nghiệp. Bất kỳ nhận định nào khác đều là sự hiểu lầm toàn diện về cách thức các doanh nghiệp công nghệ phát triển và tối ưu hóa sản phẩm của họ". Phát ngôn viên Meta cũng nhấn mạnh rằng công ty không sử dụng những dữ liệu từ quá trình đánh giá chatbot đối thủ để rèn luyện các mô hình trí tuệ nhân tạo của riêng mình.

Tiến hành kiểm thử các sản phẩm của các công ty có cạnh tranh không phải là một hành động được xem là lạ lẫm trong lĩnh vực công nghệ trí tuệ nhân tạo. Theo thông tin từ tờ Business Insider năm trước, những người lao động có hợp đồng tại Scale AI làm việc phục vụ cho Google đã thực hiện so sánh giữa các phản hồi của Gemini với ChatGPT, sau đó có chỉnh sửa để đảm bảo chất lượng phản hồi đạt mức tương đương hoặc cao hơn.

Tuy vậy, nhiều nhân viên hợp đồng từng tham gia vào dự án Cannes đã chia sẻ với Wired những lo ngại của họ về công việc được giao phó. Một số người lo sợ rằng họ có thể vô tình tạo ra hoặc giữ lại những tài liệu có nội dung lạm dụng tình dục liên quan đến trẻ vị thành niên, trong khi nhóm khác thắc mắc liệu việc tích lũy một lượng lớn dữ liệu từ các hệ thống trí tuệ nhân tạo đối thủ có thực sự mang tính chất có lợi cho Meta hay không.

Dự án Cannes dường như cũng vi phạm những điều khoản sử dụng mà một số công ty đối thủ của Meta đã quy định. Theo Wired, OpenAI có những quy định cấm việc thực hiện những kiểm tra an toàn không được phép, nỗ lực phá vỡ những biện pháp bảo vệ và vận dụng những kết quả để xây dựng những mô hình cạnh tranh. OpenAI công bố rằng công ty đang đánh giá vấn đề này nhưng từ chối cung cấp những bình luận bổ sung.

Google cũng thiết lập những hạn chế đối với những hoạt động nhằm vượt qua những biện pháp bảo vệ an toàn, với ngoại lệ dành cho những chương trình kiểm thử đã được chấp thuận trước. Công ty Google nhấn mạnh rằng họ chưa từng cấp phép cho những hoạt động kiểm thử tương tự như đã được nêu trong bản báo cáo và không nắm rõ về mục tiêu đằng sau những cố gắng này.

Character.AI, giống như Google, cũng cấm những loại nội dung mang hại hoặc có tính chất khai thác lợi dụng. Nền tảng này công khai rằng họ chưa bao giờ chấp nhận dự án Cannes và những hoạt động kiểm thử đã trái với những chính sách mà công ty đã đề ra.