OpenAI周四披露，它采取了措施切断了来自中国、伊朗、以色列和俄罗斯的五个秘密影响力行动（IO），这些行动试图滥用其人工智能（AI）工具来操纵在线公共话语或政治结果，同时掩盖它们的真实身份。
在过去三个月内检测到的这些活动，使用了其AI模型生成短评和长篇文章，用多种语言制作社交媒体账户的名称和个人资料，进行开源研究，调试简单代码，以及翻译和校对文本。
该AI研究机构表示，其中两个网络与俄罗斯的行动者有关，包括一个以前未记录的操作，代号为“Bad Grammar”，主要使用至少十几个Telegram账户针对乌克兰、摩尔多瓦、波罗的海国家和美国（U.S.）的受众，用俄语和英语发布粗制滥造的内容。
“该网络使用我们的模型和Telegram上的账户建立了一个评论垃圾邮件管道，”OpenAI表示。”首先，操作者使用我们的模型调试代码，该代码显然旨在自动化在Telegram上的发布。然后，他们用俄语和英语生成评论，以回复特定的Telegram帖子。”
操作者还使用其模型以各种虚构人物的身份在美国发布评论，这些人物属于不同的人群，来自美国政治谱系的两边。
另一个与俄罗斯有关的信息操作对应于多产的Doppelganger网络（又名Recent Reliable News），该网络因参与网络影响力操作而在3月份早些时候被美国财政部外国资产控制办公室（OFAC）制裁。
据说该网络使用OpenAI的模型用英语、法语、德语、意大利语和波兰语生成评论，并在X和9GAG上分享；将俄罗斯语的文章翻译并编辑成英语和法语，然后发布在该组织维护的假冒网站上；生成标题；并将在其网站上发布的新闻文章转换为Facebook帖子。
“这项活动针对欧洲和北美的受众，专注于为网站和社交媒体生成内容，”OpenAI说。”这场运动在线发布的大部分内容都集中在乌克兰战争上。它以负面的光描绘了乌克兰、美国、北约和欧盟，而以积极的光描绘了俄罗斯。”
其他三个活动集群如下：
- 一个源自中国的网络，称为Spamouflage，使用其AI模型研究公共社交媒体活动；用中文、英文、日文和韩文生成文本，发布在X、Medium和Blogger上；传播批评中国异见人士和美国原住民虐待的内容；以及调试管理数据库和网站的代码。
- 一个被称为国际虚拟媒体联盟（IUVM）的伊朗行动，使用其AI模型生成并翻译长篇文章、标题和网站标签，用英语和法语随后发布在名为iuvmpress[.]co的网站上。
- 一个来自以色列雇佣威胁行为者的网络，称为Zero Zeno，一个商业情报公司STOIC，使用其AI模型生成和传播反哈马斯、反卡塔尔、亲以色列、反人民党和亲希斯德鲁特的内容，在Instagram、Facebook、X及其附属网站上针对加拿大、美国、印度和加纳的用户。
“[Zero Zeno]行动还使用我们的模型为社交媒体创建虚构的人物和个人资料，基于某些变量，如年龄、性别和地点，并研究在以色列公开评论希斯德鲁特工会的人，”OpenAI表示，补充说其模型拒绝提供个人数据以响应这些提示。
ChatGPT的制造商在其关于IO的首次威胁报告中强调，这些活动没有一个“通过利用其服务显著增加了他们的受众参与度或覆盖范围”。
随着人们越来越担心，生成性AI（GenAI）工具可能使恶意行为者更容易生成逼真的文本、图像甚至视频内容，使得发现和应对虚假信息和虚假信息操作变得具有挑战性。
“到目前为止，情况是演变，而不是革命，”OpenAI的情报和调查首席研究员Ben Nimmo说。”这可能会改变。继续观察和分享是很重要的。”
Meta突出STOIC和Doppelganger＃
另外，Meta在其季度对抗性威胁报告中，也分享了STOIC的影响力操作的细节，称它删除了近500个被破坏和假账户的混合体，这些账户在Facebook和Instagram上被行为者用来针对加拿大和美国的用户的。
“这场运动展示了相对的纪律性，包括通过利用北美代理基础设施来匿名化其活动，”这家社交媒体巨头说。
Meta进一步表示，它删除了数百个账户，包括来自孟加拉国、中国、克罗地亚、伊朗和俄罗斯的欺骗性网络，这些网络参与了协调的不真实行为（CIB），目的是影响公众舆论和推动有关时事的政治叙事。
以中国为基地的恶意网络主要针对全球锡克教社区，包括数十个Instagram和Facebook账户、页面和群组，这些账户被用来传播操纵的图像和与不存在的亲锡克运动、哈利斯坦分裂运动和批评印度政府有关的英语和印地语帖子。
该公司指出，到目前为止，它还没有检测到任何新颖和复杂的GenAI驱动策略的使用，公司强调了以前由Graphika和GNET记录的AI生成的视频新闻阅读器的例子，表明尽管这些运动的性质在很大程度上是无效的，但威胁行为者正在积极尝试这项技术。
Doppelganger，Meta表示，已经继续其”砸抢”的努力，尽管在公共报道的反应下，战术有了重大转变，包括使用文本混淆来逃避检测（例如，使用”U. kr. ai. n. e”代替”Ukraine”）和自4月以来放弃链接到假冒新闻媒体网站的typosquatted域的做法。
“这场运动得到了两类新闻网站网络的支持：typosquatted合法媒体机构和组织，以及独立新闻网站，”Sekoia在上周发布的有关亲俄罗斯对抗性网络的报告中说。
“虚假信息文章在这些网站上发布，然后通过几个平台上的不真实社交媒体账户进行传播和放大，尤其是像Instagram、TikTok、Cameo和YouTube这样的视频托管网站。”
这些社交媒体个人资料，以大量和波浪式的方式创建，利用Facebook和Instagram上的付费广告活动，将用户引导到宣传网站。这些Facebook账户也被称为一次性账户，因为它们只用于分享一篇文章，随后就被抛弃。
这家法国网络安全公司将这些工业规模的运动描述为多层次的，旨在代表克里姆林宫，针对乌克兰的盟友和俄语国内观众，利用社交机器人网络启动一个重定向链，通过两个中间网站引导用户到最终页面。
Recorded Future在本月发布的一份报告中，详细描述了一个名为CopyCop的新影响网络，该网络很可能是从俄罗斯运营的，利用在美国、英国和法国的不真实媒体机构来推广破坏西方国内和外交政策的叙事，并传播与正在进行的俄乌战争和以色列-哈马斯冲突有关的内容。
“CopyCop广泛使用生成性AI来剽窃和修改来自合法媒体来源的内容，以定制具有特定偏见的政治信息，”该公司说。”这包括批评西方政策的内容，以及支持俄罗斯对乌克兰冲突和以色列-哈马斯紧张局势等国际问题的视角。”
CopyCop生成的内容也由知名的国家赞助行为者如Doppelganger和Portal Kombat放大，展示了一个协调的努力，以服务于以有利的方式展示俄罗斯的内容。
TikTok破坏秘密影响力行动＃
早在5月，字节跳动旗下的TikTok表示，自今年年初以来，它已经发现并消灭了几个这样的网络，包括追溯到孟加拉国、中国、厄瓜多尔、德国、危地马拉、印度尼西亚、伊朗、伊拉克、塞尔维亚、乌克兰和委内瑞拉的网络。
TikTok目前正在美国面临审查，因为一项法律的通过将迫使这家中国公司出售公司或在美国面临禁令，根据布鲁金斯学会的一份新报告，TikTok已经成为2024年俄罗斯国家附属账户的首选平台。
此外，这家社交视频托管服务已经成为一个复杂影响运动的温床，被称为Emerald Divide，自2021年以来被认为由与伊朗有关的行动者策划，目标是以色列社会。
“Emerald Divide以其动态方法而闻名，迅速适应以色列不断变化的政治格局的影响叙事，”Recorded Future说。
“它利用现代数字工具，如AI生成的深度伪造和战略运作的社交媒体账户网络，针对多样化且经常对立的受众，有效地煽动社会分裂，并鼓励抗议和传播反政府信息等物理行动。”
原文：https://thehackernews.com/2024/05/openai-meta-tiktok-disrupt-multiple-ai.html
翻译：游侠安全网（https://www.youxia.org）
