如何看待 AI 换脸软件「ZAO」的爆火？
我认为是目前对ZAO协议条款的技术性批评，其实模糊了重点问题。其用户协议和隐私协议无疑写的都很糟糕，但也因为对肖像权授权的过于权利义务不对等，这些条款一旦进入司法程序，可以肯定会被判无效，或者在进入司法程序前就被相关监管机构要求整改。而视频内容目前可能存在的侵权问题，之后也完全可以通过商业合作取得授权来解决。ZAO这类利用深度学习技术换脸的软件，最大的问题还是大规模收集生物识别信息和“真假难辨”的deepfake给社会带来的安全风险，而这种风险目前被公众广泛低估，但实际上已经在不断带来严重的后果。 静态或动态的人脸信息（ZAO都会向用户收集）、指纹、虹膜都是典型的生物识别信息，属于个人敏感信息，由于其不可更改，一旦泄露或被滥用，都会给信息主体带来持久的影响。更通俗地说，这是一个魔鬼交易，为了一段自娱自乐的视频，用户交出了自己最重要的信息，且完全不清楚其可能的后果。从糟糕的用户协议和隐私政策来看，ZAO的开发者也并没有严肃地思考过这个问题，而是秉承一种先把用户的数据收集过来再说的态度。这在国内也并不是第一个例子，之前也有不少类似的例子，甚至有在厕所里换取一包卫生纸，就要求用户进行人脸识别的情况。在安防、金融反欺诈等领域，人脸识别已广泛应用，但争议也不小，但毕竟是涉及公共利益，对收集者数据安全能力的要求也很高。而在泛娱乐场景，生物识别信息的收集，风险和收益极为不对称，仅以创新的理由大规模收集，是非常危险的。 另外一个问题影响面则更大，在国外被称作deepfake（深度伪造），即利用人工智能技术尤其是deep learning（深度学习）技术制作仿真度极高的视频、音频，目前已达到以假乱真的水平，很多时候普通人几乎无法分辨真伪。由于这一技术一开始就应用于色情和政治领域，在国外迅速引起了立法者的关注，如美国已经在联邦和州一级的立法程序中有所回应，加快了立法程序。除了各种名人以外，deepfake已经出现了很多受害者，尤其是一些年轻的女孩，仅仅是因为在社交网站上公布了一些照片，就被制作成了色情视频，并广泛传播；之后因此出现各类的诈骗，应该也都在预料之中。而其最大的问题，是挑战了“眼见为实”，使得公众对事实真假都失去了信心，会带来巨大的社会成本。 根据我的研究和了解到的信息，无论是生物识别信息的收集和利用，还是对deepfake的法律应对，国内的立法者和监管者都非常重视，在关于个人信息和数据安全的立法中有所回应。 （首发于21财经）