Đó là quyết định do Bộ Quốc phòng đưa ra, và Bộ trưởng Gilberto Teodoro Jr. cảnh báo rằng những ứng dụng như vậy có thể gây ra rủi ro về bảo mật. Hôm 20.10, các quan chức quân sự đã xác nhận tính xác thực của một thông báo do ông Teodoro đưa ra vào trước đó và lan truyền trên mạng xã hội trong những ngày gần đây. Tuy nhiên, bộ này không cung cấp bất kỳ thông tin chi tiết liên quan đến lệnh cấm. Trong thông báo, Bộ trưởng Teodoro Jr. đã đề cập đến một ứng dụng sử dụng AI để tạo ra “người kỹ thuật số bắt chước cách một cá nhân nói và di chuyển" sau khi được cung cấp 10 bức ảnh của người dùng. Ông nói: “Ứng dụng hỗ trợ AI dường như vô hại và thú vị này có thể được sử dụng với mục đích xấu để tạo hồ sơ giả mạo, dẫn đến hành vi trộm danh tính, kỹ thuật lừa đảo qua mạng, tấn công lừa đảo và các hoạt động độc hại khác”. Vị quan chức này kêu gọi cấp dưới của mình thận trọng khi chia sẻ thông tin trực tuyến nói chung. Tháng trước, Cơ quan An ninh Quốc gia và Cục Điều tra Liên bang Mỹ đã đưa ra cảnh báo về mối đe dọa đối với công nghệ deepfake có khả năng được sử dụng để giúp xâm nhập hệ thống máy tính trong quân đội và các mục tiêu nhạy cảm khác. Chuyên gia Candice Rockwell Gerstner của Cơ quan An ninh Quốc gia Mỹ cho biết: “Các công cụ và kỹ thuật để thao túng đa phương tiện thực ra không phải là mới, nhưng mức độ dễ dàng và quy mô mà các tác nhân mạng đang sử dụng các kỹ thuật này là rất lớn". Bà nói rằng các công ty Mỹ nên học cách phát hiện hành vi deepfake và xây dựng kế hoạch trong trường hợp công nghệ này được sử dụng để chống lại họ. Theo khuyến cáo, ngoài các doanh nghiệp, các cơ quan an ninh Mỹ cũng như Lầu Năm Góc và các nhà thầu quốc phòng cũng gặp rủi ro. Một mối lo ngại khác là "phương tiện truyền thông tổng hợp cũng có thể gây ra tình trạng bất ổn trong công chúng thông qua việc truyền bá thông tin sai lệch về các vấn đề chính trị, xã hội, quân sự hoặc kinh tế".
Quân nhân Philippines không được phép sử dụng các ứng dụng yêu cầu người dùng tải ảnh cá nhân và sau đó sử dụng trí tuệ nhân tạo (AI) để tạo bản sao kỹ thuật số của người đó.