Facebook发现人工智能被用来虚假化
Facebook周五表示，它已经删除了与大纪元媒体集团有关的数百个账户，大纪元媒体集团是与法轮功有关的出版物的母公司，而保守派新闻媒体《大纪元时报》也是如此。这些帐户-包括打算在美国和越南看到的页面，群组和Instagram提要-给研究人员带来了新的皱纹：在人工智能的帮助下生成的伪造的个人资料照片。
长期以来，人们向来担心将人工智能用于发起大规模的虚假信息运动。他们说，令人担忧的是，它已经被Facebook协调使用。虽然用于创建伪造的个人资料照片的技术很可能与Google之类的大型科技公司在实验室中创建的复杂的AI系统相去甚远，但伪造的帐户网络显示出“技术怪诞的虚假信息的未来，”大西洋理事会数字取证研究实验室主任格雷厄姆·布鲁克说。
科学家已经表明，机器可以生成与真实事物没有区别的图像和声音，或者喷出大量假文本，这可能会加速虚假和误导性信息的产生。今年，一家加拿大公司的研究人员甚至建立了一个系统，该系统可以通过分析老播客的音频来摹仿播客乔·罗根的声音。这是一个令人震惊的准确摹仿。
布鲁克在接受采访时说：“这是一个庞大的虚假网络，具有多层假帐户和自动化功能，系统地公布了具有两个意识形态重点的内容：唐纳德·特朗普的支持和对中国政府的反对。”
大西洋理事会的实验室和另外一家研究虚假信息的公司Graphika公布了一份联合报告，分析了Facebook的撤职情况。大纪元媒体集团在发给《纽约时报》的电子邮件中否认它已与Facebook所针对的网络链接，并表示Facebook在公布结论之前未与该公司联系。
Facebook说，网络背后的人们使用人工智能来生成个人资料图片。他们依靠一种称为生成对抗网络的人工智能。这些网络可以通过称为机器学习的过程自学以创建逼真的面部图像，即使它们不属于真实人。Facebook安全政策负责人Nathaniel Gleicher在接受采访时说，“使用AI生成的照片作为个人资料”已经讨论了几个月，但是对于Facebook来说，这是“我们第一次看到系统地使用此功能演员或一组演员来使帐户看起来更真实。”
他补充说，这种AI技术实际上并未使公司的自动化系统更难检测到伪造品，因为这些系统专注于帐户之间的行为模式。Graphika的调查主管Ben Nimmo表示：“我们需要像这样对AI生成的图像进行更多的研究，但是隐藏伪造的网络不仅需要个人资料图片，还需要花费更多的时间。”
Facebook表示，这些账户通过使用伪造的和真实的美国账户组合来治理平台上的页面和群组，从而掩盖了他们的活动。Facebook说，这种协调，不真实的活动环绕着媒体媒体BL-“生命之美”的简称。事实检查机构Snopes去年11月表示，这是“在Facebook上建立一个假帝国并摆脱它。 ”
Gleicher表示，Facebook于7月开始对BL进行调查，并在网络于今年秋天变得更加积极地公布时加快了工作。他说，它正在继续调查与BL相关的“其他链接和网络”。Facebook表示，该网络在Facebook和Instagram广告上的支出不到950万美元。周五，Facebook表示，BL将被禁止进入社交网络。
《大纪元时报》和《 BL》否认有联系，但Facebook表示，已经发现该网络与大纪元媒体集团以及越南代表其工作的个人之间存在协调一致，不真实的行为。大纪元媒体集团在其电子邮件中表示，BL由一名前雇员创立，并雇用了部分前雇员。该公司表示：“但是，我们某些前员工在BL上班并不能证明这两个组织之间存在任何联系。”
Facebook的一位女发言人说，BL的高管最近在星期五早上是Epoch Media Group Pages的活跃治理员。8月，在NBC新闻公布报告说，《大纪元》掩盖了它与宣传特朗普和阴谋内容的Facebook广告的联系之后，Facebook禁止在《大纪元》刊登广告。Twitter周五表示，该社交网络也了解BL网络，并已“识别并暂停了大约700个源自越南的帐户，因为它们违反了我们有关平台控制的规定。”公司发言人补充说，其调查仍在进行中，但Twitter已未确定帐户与国家支持的行为者之间的链接。
Facebook周五还表示，已经关闭了一个由300多个页面和39个Facebook帐户组成的网络，以及有关佐治亚州国内政治新闻的不协调活动。Facebook表示，该网络试图掩盖其协调性，但发现负责的账户是由政府治理的，由乔治亚梦党和该国本地广告公司熊猫领导。Facebook页面的所有者被伪装成新闻机构，并冒充了公众人物，政党和激进组织。
Twitter的一个相关举动表示，它还从与一家名为Smaat的沙特阿拉伯社交媒体营销公司相关的近6,000个帐户中删除了3200万条推文，该公司经营政治和商业影响力业务。斯坦福大学互联网天文台的虚假信息研究员瑞妮·迪瑞斯塔(Renee DiResta)表示，斯马特部分由沙特阿拉伯人艾哈迈德·阿尔穆塔里(Ahmed Almutairi)领导，他被联邦调查局通缉，罪名是他招募了两名Twitter员工，以在公司内部数据库中搜索有关沙特政府批判人士的信息。 ，它分别分析了Twitter的移除情况。
DiResta说，该操作“非常大量”，并由“公布宗教帖子，有关天气的帖子的Twitter应用程序”和其他主题自动生成。有时，这些帐户被用于“更具针对性的目的”，其中包括与沙特异议人士和《华盛顿邮报》专栏作家贾马尔·卡舒吉(Jamal Khashoggi)相关的17,000多条推文，后者于去年10月访问沙特领事馆时被杀。许多推文声称那些批判沙特政府介入的人是出于自己的政治目的。