Cơ quan chức năng Ecuador phát hiện hàng chục sinh viên đã bị AI ghép ảnh, dựng 700 video khiêu dâm đăng lên mạng - Ảnh: The Star/Freepik Các công tố viên Ecuador đang mở cuộc điều tra việc phát tán các video có nội dung khiêu dâm do trí tuệ nhân tạo ( ) dàn dựng. Cuộc điều tra được tiến hành sau khi nhiều hình ảnh và video do AI chỉnh sửa sử dụng hình ảnh các sinh viên của một học viện giáo dục ở Quito xuất hiện trên Internet. Các đối tượng xấu đã sử dụng công nghệ AI cắt ghép hình ảnh khuôn mặt của các sinh viên tại học viện vào phần cơ thể khỏa thân để dựng các video và ảnh khiêu dâm. Đại diện chương trình Grupo Rescate Escolar chống bắt nạt học đường, Sybel Martinez, cho biết có khoảng 700 video với nội dung khiêu dâm sử dụng hình ảnh của 20-24 sinh viên theo cách trên. Tại Ecuador, hành vi phát tán các hình ảnh khiêu dâm trẻ em và thanh thiếu niên có thể bị phạt tù lên đến 16 năm. Sự tiến bộ của AI đang gây ra ngày càng nhiều mối lo ngại công nghệ này có thể bị lạm dụng cho các mục đích xấu như tạo ra những hình ảnh và video giả mạo khuôn mặt bằng cách mô phỏng máy tính dựa trên những dữ liệu thực tế ( ). Theo kết quả nghiên cứu năm 2019 do Công ty AI Sensity của Hà Lan thực hiện, khoảng 96% các video deepfake phát tán trên Internet có nội dung khiêu dâm và hầu hết nạn nhân bị giả mạo là nữ giới. Cho rằng các nội dung được tạo ra từ AI (trí tuệ nhân tạo) có khả năng sẽ làm sụp đổ niềm tin và nền dân chủ, nhà sử học Yuval Noah Harari kêu gọi phải có biện pháp hình sự đối với những kẻ đứng sau.
Các đối tượng xấu đã sử dụng công nghệ AI cắt ghép hình ảnh khuôn mặt của các sinh viên vào phần cơ thể khỏa thân để dựng các video và ảnh khiêu dâm.