xAI của ông Elon Musk bị kiện vì tạo nội dung lạm dụng trẻ em bằng AI, sau khi ba thiếu nữ tại bang Tennessee (Mỹ) đệ đơn kiện tập thể, cáo buộc công cụ Grok tạo ra nội dung lạm dụng tình dục trẻ em (CSAM - hình ảnh, video có yếu tố xâm hại trẻ vị thành niên) từ ảnh thật của họ.

Theo đơn kiện, các hình ảnh và video do AI tạo ra đã được chia sẻ trên Discord, Telegram và nhiều nền tảng khác, thậm chí bị sử dụng như “công cụ trao đổi” để đổi lấy nội dung tương tự. Cơ quan thực thi pháp luật cho biết các dữ liệu này được tạo bằng Grok.

Một nạn nhân cho biết đã nhận được cảnh báo từ một người dùng ẩn danh trên Discord về việc hình ảnh của mình bị lan truyền cùng nhiều trẻ vị thành niên khác. Sau đó, người này cung cấp các hình ảnh và video do AI tạo ra, trong đó có nội dung được xây dựng từ ảnh thật mà cô từng đăng khi còn là trẻ vị thành niên.

Theo hồ sơ, nghi phạm có mối quan hệ quen biết với nạn nhân và đã sử dụng một ứng dụng bên thứ ba có quyền truy cập Grok để biến đổi hình ảnh. Các nội dung sau đó được tải lên nền tảng chia sẻ tệp Mega và lan truyền trong các nhóm trực tuyến.

Các nguyên đơn cho rằng họ chịu tổn hại nghiêm trọng về tâm lý và quyền riêng tư. Luật sư đại diện, bà Annika K. Martin, cho biết cuộc sống của các nạn nhân đã “bị phá vỡ” do mất an toàn cá nhân và nguy cơ các nội dung này tiếp tục bị phát tán.

Đơn kiện ước tính “ít nhất hàng nghìn trẻ vị thành niên” có thể đã bị ảnh hưởng, đồng thời cáo buộc xAI vi phạm các quy định liên quan đến việc sản xuất và phân phối nội dung lạm dụng trẻ em.

Trước đó, các nhà nghiên cứu từ Center for Countering Digital Hate cho biết Grok đã tạo ra khoảng 3 triệu hình ảnh mang tính tình dục, trong đó khoảng 23.000 hình ảnh có dấu hiệu liên quan đến trẻ em. Tuy nhiên, ông Elon Musk từng phủ nhận việc Grok tạo ra các nội dung này.

Đơn kiện cũng cho rằng xAI cung cấp quyền truy cập Grok cho các ứng dụng trung gian, qua đó cho phép tạo và phân phối nội dung từ máy chủ của công ty. Các nguyên đơn đề nghị tòa án làm rõ vai trò của xAI trong việc xử lý và phân phối dữ liệu.

Hiện xAI chưa đưa ra phản hồi chính thức về vụ kiện, nhưng trước đó công ty cho biết sẽ hạn chế một số tính năng liên quan đến chỉnh sửa hình ảnh và giới hạn quyền truy cập.