一夜冒数百账号 惊现AI“美女大军” 狂刷“支持川普”
《纽约时报》截图
据纽约时报报道，人工智能生成的虚假网红在 TikTok、Instagram、Facebook 和 YouTube 上大增，目的明显是为了吸引保守派选民 。
在一段 TikTok 视频中，一名金发女子与一群女性在赛马场自拍 。 她说，“ 如果你支持特朗普，你就多了一个朋友 ”。
在另一段视频中，是一名棕发女子，这次她和一群人在体育场 。 她说，“ 如果你支持特朗普，你就多了一个朋友 ”。
第三个帖子中，一名红发女子与一群人在篮球场 。“ 她说，“ 如果你支持特朗普，你就多了一个朋友 ”。
每段视频都配有相同且语法别扭的说明文字：“ 我是新来的，我爱上帝 、 美国，还有特朗普！！”
这些内容全部由人工智能生成 。
在中期选举前的几个月里，社交媒体上出现了数百个账号，这些账号使用人工智能生成的亲特朗普人物，以极快的频率发布内容，讨论 “ 激进左派 ” 和 “ 美国优先 ”。
他们看起来像普通人，非常好看，对着镜头带着暧昧神情，发表对伊朗战争 、 堕胎或坏兔子的看法 。
特朗普至少转发过其中一个账号的内容，那是一个白金色头发的虚拟形象，发布关于加利福尼亚州州长的谣言 。
《 纽约时报 》 从 1 月开始追踪这些 “ 让美国再次伟大 ” 人工智能 TikTok 内容，发现至少有 304 个账号在传播这些内容，其中一些已经消失 。
普渡大学治理与负责任人工智能实验室（GRAIL）的研究人员在 TikTok、Instagram 和 Facebook 上又发现了十多个账号 。 数字威胁缓解公司 Alethea 的调查分析师埃里克 · 尼尔森在 YouTube 上又识别出 9 个账号 。
一些账号已经积累了超过 3.5 万粉丝，一些帖子获得了超过 50 万次观看 。《 纽约时报 》 审查的这些账号都没有标明是人工智能生成 。
目前尚不清楚这些人工智能账号由谁创建 。 专家表示，很难判断是内容工厂 、 外国影响行动 、 实验项目还是其他来源的产物 。
研究人员表示，这些人工智能政治虚拟形象的出现，表明有人在大规模尝试吸引保守派选民 。 这个群体已经被特朗普及其圈子影响，更容易接受表情包 、 网红 、 深度伪造和其他数字化传播内容 。
《 纽约时报 》 及其咨询的研究人员没有发现类似的左翼网络 。
GRAIL 联合主任凯琳 · 杰克逊 · 希夫表示：“ 为中期选举做准备的人应该预期，他们可能会在自己的账号上看到这种内容，而且这些内容可能被精心设计得对他们特别有吸引力 。”
TikTok 在声明中表示，公司对这 304 个账号进行了仔细审查，没有发现 “ 任何秘密影响行动的迹象 ”。 公司认为，这些账号是试图获取互动量的垃圾信息发布者，是 “ 手机和社交媒体上不幸但常见的现象 ”，并表示正在删除这些账号 。
在选举年份，网络上的政治讨论总会增加，其中很多由自动机器人 、 水军和其他不真实账号推动 。
而现在，人工智能让这个灰色世界有了新的面孔 —— 实际上是大量新的面孔，还有逼真的声音 、 人格和话术，足以构建出一种政治运动的幻象 。
至少目前来看，一些人工智能账号似乎并不专注于政治，而是通过吸引关注和评论来提高互动数据 。 有些账号看起来像恋爱诈骗，有些则在销售脱毛膏或中国旅游产品，并用娱乐 、 体育 、 宗教等非政治内容填充帖子 。
不过，许多人工智能账号显然意在操纵观众的政治观点 。
“ 这是我第一次看到这样的情况，” 尼尔森说 。
许多账号明显彼此关联，一些账号群共享相同的语言 、 图像 、 头像和音效 。 同样的角色会出现在多个账号中：金色辫子 、 穿着飘逸裙子的农场女子；坐在轮椅上的紫衣女子；戴红色 “MAGA” 帽子和飞行员墨镜的黑人女性，一些账号还互相关注 。
很难判断这些账号具体何时何地创建 。 几乎所有账号的首条视频都发布在过去一年内 。 大多数账号声称来自美国不同州，但使用的英语生硬或语法错误 。
他们称特朗普为 “ 最爱的总统 ”，并在说明中写着 “ 向你分享真相 ”，还鼓励观众 “ 如果喜欢我的直播先关注我 ”。
至少 13 个账号的简介写着：“ 共和党人 & 为你支持特朗普感到自豪，告诉我 。”
被特朗普转发的那个虚拟形象账号拥有超过 5.1 万 TikTok 粉丝 。 她在 1 月 15 日发布的前两条视频中带着浓重的外国口音，第二天就变成了美国口音 。
人工智能虚拟形象，已经被用来推广未经证实的健康补充剂 、 主持充满错误信息的新闻节目，以及提供可疑的医疗建议 。 在政治领域，人工智能可能会实质性影响选民观点 。 大量亲 “ 让美国再次伟大 ” 的内容混杂在真人创作者的内容中，在快速滚动的社交媒体信息流里，可能让观众对共和党和特朗普产生更有利的看法，正如一位专家所说，这是 “ 喷洒式 ” 传播，而不是精准传播 。
非营利组织 CivAI 技术成员安德鲁 · 尹表示：“ 他们试图传播政治信息，并制造一种共识的假象 。 用大量视频淹没信息空间，似乎是为了制造多数意见的虚假感觉 。”
GRAIL 的希夫表示，一些账号可能通过对虚拟形象做细微调整来针对特定受众 。《 纽约时报 》 在 2 月初开始追踪一个账号，当时以一个棕眼棕发的车内女性形象发布内容 。 此后账号发布了 37 段视频，虚拟形象变化了 6 次，包括头发变金 、 眼睛变蓝等 。
这些虚拟形象经常出现在军事场景中，或穿着移民执法人员的服装，似乎试图利用近期冲突 。 一项 《 华盛顿邮报 》 的调查显示，一个展示金发女兵与特朗普及其他世界领导人合影的 Instagram 账号，获得了超过 100 万粉丝 。
今年春天的一周内，有 10 个不同账号发布了类似内容：一排穿着军装的女性用相同的机械语调说，“ 如果你觉得被冒犯，没关系，继续滑动 ”，然后鼓励观众 “ 点击关注 ”。 其他帖子还出现了变形的美国国旗等人工智能痕迹 。
尽管部分账号质量较低，互动量可能被机器人放大，但研究人员表示，评论区显示许多用户认为这些虚拟形象是真人 。
Meta 表示，要求用户在发布使用人工智能制作或编辑的逼真内容时进行标注，否则将面临处罚 。 但公司也指出，随着技术发展，识别人工智能内容越来越困难 。YouTube 表示正在审查这些带有政治人工智能虚拟形象的频道，并关闭违反平台垃圾信息和欺骗行为政策的账号 。
人工智能广告创业公司 Doublespeed 的联合创始人祖海尔 · 拉卡尼称，每条亲特朗普虚拟形象内容的制作成本约为 1 到 3 美元 。 这个公司运营基于智能手机的机器人内容农场，投放大量合成网红，并在网上宣称：“ 现在一个人就能完成过去需要 30 人创作团队和 4 万美元成本的工作，而且成本只有十分之一 。”
拉卡尼表示，尽管民主党 、 共和党和外国方面都曾接洽，公司仍拒绝参与政治项目，这源于 “ 道德考量 ”。
但他说，“ 确实有很多公司在接这些项目，而且这些合同规模很大，非常诱人 。”
共和党全国委员会发言人扎克 · 帕金森表示他们没有参与这些账号 。 他说，共和党竞选应使用所有可能的工具，包括人工智能，但强调这项技术 “ 不是灵丹妙药 ”。
他说：“ 没有什么能取代有力的信息或优秀的候选人，也无法取代真实的音频 、 视频和画面 。 真实性仍然最重要 。”