简体 - 正體 - 手机版 - 电子报

人民报 
首页 要闻 内幕 时事 幽默 国际 奇闻 灾祸 万象 生活 文化 专题 寰宇 维权 视频 杂谈
 
 
 
 
 

中共企图干预美国大选,AI「五毛」在推特自露马脚(图)
 
【人民报消息】总部位于澳大利亚堪培拉的CyberCX网路安全公司星期二(8月13日)发表报告说,中共对美国以及澳大利亚等民主国家发动迄今为止X平台上规模最大的生成式AI信息战网路。报告说,他们发现一个由至少5000个虚假账号组成的「信息战」网路,这些AI账号主要针对美国总统大选等政治、文化热点事件和议题进行评论。CyberCX公司总监告诉美国之音,这些账户意图强化民主国家的对立面,加深内部分歧。 AI机器人自爆底细,澳安全网路人员顺籐摸瓜 澳大利亚网路安全人员告诉美国之音,X平台(前身为推特)多个机器人账号在推文中自露「狐貍尾巴」,公然承认自己「人工智慧(AI)模型」的身份,才引起他们的注意。 今年5月底,X平台至少72个账号以同样一种令人匪夷所思的造句模式发文,自爆机器人身份。 例如,一个名为「Yumiko Sansone」的账号5月30日在一篇推文中说:「作为一个人工智慧语言模型,我必须优先提供准确和尊重他人的信息。你提供的评论与第一夫人吉尔.拜登(Jill Biden)博士及其倡议的主题不恰当或不相关……」 5月31日,名为「Stuart Dixon」的账号发文:「作为一个人工智慧语言模型,我能理解你在批评波德斯塔兄弟,并对他们的关联和行为提出质疑。然而,我无法就此事发表任何评论或意见……」 网路安全专家认为,这些显然是无意间泄露的只言片语不仅暴露了这些基于生成式人工智慧(generative AI)的机器人账号背后的技术脚本出现了故障,同时显示,有人在指示这些账号对众多民主国家的政治人物和议题进行负面描述,其中包括美国第一夫人吉尔.拜登(Jill Biden)、印度国内政治和美国民主党政治人物约翰.波德斯塔(John Podesta)等。 他们说,这些命令显然遭到机器人账号的抵制,可能是相关指令违背了这些账号被编程时所受到的某些原则。 总部位于澳大利亚堪培拉的CyberCX网路安全公司的研究人员顺籐摸瓜,端出了一个由至少5000个虚假账号组成的「信息战」网路,这些账号通过生成式人工智慧(AI)模型,主要针对美国政治、文化热点事件和议题生成语句看上去自然、语气温和的英文评论,但也会对其他账户颇具争议的内容进行转发和评论。 研究人员说,除美国外,这个AI模型网路进行的「信息战」所涉及的国家还包括澳大利亚、英国、西欧、印度、日本等民主国家。 CyberCX将这一AI模型假帐户网路命名为「绿蝉」(The Green Cicada Network),意指数千个账号还处于低调的潜伏期,随时可以在一声令下蓄势待发。 「绿蝉」发文旨在深化民主社会对立 研究人员说,该网路并不在特定议题上选择特定观点,而是在诸多有争议话题和热门议题上强化人们在这些问题上的意见分裂。 例如,网路中一个名为「Luther Randolph」的假帐号,在8月8日发文表示对美国共和党总统候选人唐纳德.川普(Donald Trump)遇刺未遂后未获得媒体长期关注的说法表达支持,又在8月10日发文支持现任副总统、民主党总统参选人贺锦丽(Kamala Harris)。
X平台的机器人账号「Luther Randolph」回复和传播政治信息的推文截图。
CyberCX公司执行总监凯瑟琳.曼斯泰德(Katherine Mansted)说,总的来说,「绿蝉」的做法就是在改编那些政治分裂意味浓厚的叙事。通过改写原创内容,改写推特(X)上真实用户发布的内容,或者通过扩大或转发原创内容。曼斯泰德对美国之音说:「它倾向的做法是双方兼顾。因此,我们认为在很大程度上,这个网路旨在通过强化我们在民主国家看到的一些比较有争议的问题的两个对立面,以此来加深分歧。」 中共联系:网路背后指示或为中国AI公司人员 CyberCX公司认为,虽然无法确认这一网路信息AI网路的创立是否由中共政府指示,但控制这一AI网路的系统与中共有著密切的联系。 曼斯泰德告诉美国之音:「首先,控制这些账户的大型语言模型系统应该是一个中文系统。我们知道,由于泄露的提示片段,比如「请将此翻译成英文」,这些片段以中文泄露。语法和格式上的一些错误在中英文翻译中很常见,所以我们能看到这个部分。我们还在一些泄漏的提示片段中看到了一些拒绝文本,这些人工智慧说,不会遵循它收到的提示要求,还特别引用了中共政府的原则……不同的人工智慧大语言模型系统都有自己的安全特性和监管环境。」 除此之外,她说,网路中的虚假账户的一个共同特点是,它们与一名中国清华大学计算机科学系博士毕业生、目前在中国智谱AI任职的研究人员在X上的账号(@cenyk1230)有密切的互动。 直至截稿时,该研究人员和智谱AI没有回复美国之音通过电子邮件发出的置评请求。 CyberCX的研究说,「绿蝉网路」还处于蛰伏状态,绝大多数多数账号并未「发威」,生成的内容也容易识破,虽然目前影响力有限,但该网路仍有很大的实力提升可能。 曼斯泰德说:「我们在这个网路还处于发育的阶段就把它抓到了。它是一个还在成长中的能力,所以这在某种意义上来说是好事。这就是为什么我们想在它可能造成真正的伤害之前公开揭露它,拔掉它的毒牙。」 但她也强调:「很有可能,这可能是一个等待开启还处于休眠的一股力量。当然,我们目前看不到这个网路有存在的理由。这应该是一个只具有恶意目的的网路。」 已知规模最大的AI社媒战网路 X平台此前就已经发现了政府支持的实体支持设置的AI机器人信息战网路。CyberCX说,以账户数量衡量,「绿蝉网路」是迄今为止被披露的最大的虚假活动网路之一,可能是第一个将生成式AI作为技术基础的与中国实体相关的信息战网路。 上个月,美国司法部宣布,美国协同加拿大和荷兰的信息和安全部门,在X平台的配合下,查封了一个与俄罗斯实体有联系的在社交媒体散播亲俄不实信息的AI机器人网路。司法部的声明说,968个X账号在这次行动中被关闭。 目前尚不清楚X平台是否会对疑似来自中国的「绿蝉网路」所涉及的账号采取行动。本文截稿时,X公司发言人尚未说明该平台是否会对这一网路进行调查。 研究人警察告,如果科技平台不加重视,类似「绿蝉」这样的AI虚假信息传播网路可能会如同野草一般难以控制。 曼斯泰德说:「这些类型的人工智慧生成或控制的网路启动成本很低,你不需要人类去驱动它,你可能需要一个人或几个人来设置系统,然后它可以很快扩展并造成伤害。它成本少,门槛低,在某种意义上甚至是一种可以随便抛弃的的网路能力,因为即使它被检测到、被发现了,大规模重振旗鼓的花费也非常便宜。」△(转自美国之音)
文章网址: http://www.renminbao.com/rmb/articles/2024/8/17/84535.html
打印机版

如果您喜欢本文章,欢迎捐款和支持!

 
              


分享至: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email 打印机版
 
 

 
 
相关文章
人民报视频
中国民怨沸腾  社会火山一触即发! 整个社会戾气越来越重!|
中国民怨沸腾 社会火山一触即发! 整个社会戾气越来越重!|
辽宁建昌洪灾惨重 二百余村受灾 灾民:我们被抛弃了| #人民报
辽宁建昌洪灾惨重 二百余村受灾 灾民:我们被抛弃了| #人民报
大爷大妈占领星巴克 !下围棋、嗑瓜子 主打占座休闲不消费!
大爷大妈占领星巴克 !下围棋、嗑瓜子 主打占座休闲不消费!
辽宁葫芦岛灾后现状!志愿者:现场比视频还惨 看完现场没有不哭的!|
辽宁葫芦岛灾后现状!志愿者:现场比视频还惨 看完现场没有不哭的!|
经济大萧条下 小中产穷游 底层民众苦熬| #人民报
经济大萧条下 小中产穷游 底层民众苦熬| #人民报
毕业即失业! 大学生绝望透顶!中国青年失业率飙升 催生「烂尾娃」!|
毕业即失业! 大学生绝望透顶!中国青年失业率飙升 催生「烂尾娃」!|
 
更多文章导读
 
 
 
 
 
 
 

巴黎奥运会开幕式被批史上最烂(多图)
1. 巴黎奥运会开幕式被批史上最烂(多图) (36,399次)

2. 传北戴河元老责成习做检讨 达成8点共识 (33,711次)

川普治独裁流氓有手段 习暴跳如雷普京龟缩(图)
3. 川普治独裁流氓有手段 习暴跳如雷普京龟缩(图) (33,578次)

习近平高调露面 张又侠表态反常(图)
4. 习近平高调露面 张又侠表态反常(图) (33,464次)

习近平不见踪影 出事传闻并非空穴来风(多图)
5. 习近平不见踪影 出事传闻并非空穴来风(多图) (32,206次)

谁杀了中国经济 谢金河:国台办不懂台湾人的心(图)
6. 谁杀了中国经济 谢金河:国台办不懂台湾人的心(图) (31,626次)

湖南出现第二位彭立发 上海小哥要造反(图/视频)
7. 湖南出现第二位彭立发 上海小哥要造反(图/视频) (30,254次)

中共政治局会议再提经济光明论 暗批蔡奇?(图)
8. 中共政治局会议再提经济光明论 暗批蔡奇?(图) (28,189次)

9. 中南海传真:习健康不稳,中南海成立应急小组 (27,867次)

奥运队员摘金失败被骂汉奸 小粉红言论令人心寒(图)
10. 奥运队员摘金失败被骂汉奸 小粉红言论令人心寒(图) (27,546次)

大陆医生要「保命」说明什么(图)
11. 大陆医生要「保命」说明什么(图) (27,010次)

哈马斯首脑身亡 中共急跳脚陷三重窘境(图)
12. 哈马斯首脑身亡 中共急跳脚陷三重窘境(图) (26,888次)

见过2千人往生 领悟珍惜缘份最重要(图)
13. 见过2千人往生 领悟珍惜缘份最重要(图) (26,746次)

委内瑞拉民众把总统赶跑了 中共千亿美元打水漂(多图/视频)
14. 委内瑞拉民众把总统赶跑了 中共千亿美元打水漂(多图/视频) (26,731次)

为什么青春会迷茫?(图)
15. 为什么青春会迷茫?(图) (26,521次)

王小洪再提党魁还是很诡异(图)
16. 王小洪再提党魁还是很诡异(图) (26,489次)

川普若当选拟取消中国最惠国待遇 北京再遭重击(图)
17. 川普若当选拟取消中国最惠国待遇 北京再遭重击(图) (26,183次)

房贷市场持续恶化 学者:中国经济陷入恶性循环(多图)
18. 房贷市场持续恶化 学者:中国经济陷入恶性循环(多图) (26,045次)

遇袭身亡的哈尼亚坐拥30亿美元资产 与中共关系不简单(图)
19. 遇袭身亡的哈尼亚坐拥30亿美元资产 与中共关系不简单(图) (25,704次)

中国游泳队奥运表现不佳与频繁药检有关系吗?(图)
20. 中国游泳队奥运表现不佳与频繁药检有关系吗?(图) (25,472次)

《国有器官》震撼台北观众(视频)
21. 《国有器官》震撼台北观众(视频) (25,407次)

党媒惊现「去习近平化」 中南海要变天?(图)
22. 党媒惊现「去习近平化」 中南海要变天?(图) (25,203次)

中共干蠢事暴露其气数衰败(图)
23. 中共干蠢事暴露其气数衰败(图) (24,969次)

炸锅了!传中共奥运官员在巴黎叛逃(多图)
24. 炸锅了!传中共奥运官员在巴黎叛逃(多图) (24,727次)

离不开它!中共撤销制裁美卫讯公司(图)
25. 离不开它!中共撤销制裁美卫讯公司(图) (24,641次)

26. 中共南北战区同时换将 中朝关系疑似生变 (24,197次)

军警倒戈抗议选举不公 委内瑞拉被社会主义害惨了(图/视频)
27. 军警倒戈抗议选举不公 委内瑞拉被社会主义害惨了(图/视频) (24,103次)

传彭丽媛被赶出军委考评小组 钟绍军办公室被撤(图)
28. 传彭丽媛被赶出军委考评小组 钟绍军办公室被撤(图) (24,080次)

前朝鲜外交官:川普当选平壤愿重启核谈判(图)
29. 前朝鲜外交官:川普当选平壤愿重启核谈判(图) (23,770次)

30. 罕见!吉林临江负责维稳公安局长被泥石流冲走(图/视频) (23,737次)

31. 台风「格美」袭击 广东潮州全城淹没!(视频) (23,539次)

我的乡愁在台湾(2)逃出中国(图)
32. 我的乡愁在台湾(2)逃出中国(图) (23,323次)

共军中将被当韭菜 钱不够医院见死不救引热议(图)
33. 共军中将被当韭菜 钱不够医院见死不救引热议(图) (23,320次)

他交了白卷为何却考中举人(图)
34. 他交了白卷为何却考中举人(图) (23,098次)

35. 湖南哀横遍野 洪水泛滥 8个村庄失联(视频) (22,962次)

 
本报记者
 
 
专栏作者
首页 要闻 内幕 时事 幽默 国际 奇闻 灾祸 万象 生活 文化 专题 寰宇 维权 视频 杂谈
 
 
Copyright© renminbao.com. All Rights Reserved