毫无疑问，1984所描述的社会正在到来。
多年来，中国政府一直在花钱雇佣所谓的“五毛党”（成千上万名假装回贴的水军）在网上发布支持政府的讯息，转移网上批评者的注意力。未来，机器人将替代这些“政府雇佣军”的工作。
这些越来越狡猾的机器人将与其他新工具一起工作，方便独裁政权传播虚假信息。这些新工具包括“deep fakes”——无法与真实音频、视频或图像区分开来的伪造音像。音频伪造品目前已经非常完善，可以骗过很多听众： Lyrebird公司称自己可以做出“世界上最逼真的人造声音”。Lyrebird等多家公司的语音合成系统，仅需一分钟的原声录音就能生成听上去与讲话者无差别的音频。
很快，视频技术也能发展到这个程度。在YouTube上，我们已经看到了男演员史蒂夫·布什密(Steve Buscemi)和女演员珍妮弗·劳伦斯(Jennifer Lawrence)令人不太舒服的合成脸，也看到了中国公司科大讯飞(iFlytek)发布的一段不甚完美的视频，视频中特朗普(Donald Trump)和奥巴马(Barack Obama)都在讲着流利的普通话。这样的伪造视频将很快逼真到令人不寒而栗的程度。达特茅斯大学(Dartmouth)的计算机科学教授Hany Farid认为，防守者在这种形势下将“处于劣势”。“开发技术来操纵内容的人数可能是监测虚假内容的人数的100到1,000倍。”今年1月，他对皮尤研究中心(Pew)表示：“突然之间，我们就能说什么都是假的。那我们还能去相信什么吗？”
Source: 精准镇压：新科技将让独裁者如虎添翼 – 华尔街日报
