A | 近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。 转自公众号：新西兰中文先驱Chinese_Herald 01 Advertise with us 新西兰学校新规定 新西兰前几天也发布通知，从新学期开始，学校要求每日实行一小时数学、一小时阅读以及一小时写作课程的计划。
B | 论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。 教育部长Erica Stanford称，本届政府的宏伟目标是让80%的孩子达到他们应该达到的教育水平，“我们不会放任他们的人生不管。” 同时教育部要求学校必须制定规定，确保从第二学期开始，学生就不能在校内使用手机。
C | 论文同时强调，该风险目前仅构成有限威胁。 Stanford称估计从第一学期开始，许多学校开始执行这个规定了。
D | 这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。 她说除非有以下原因，学生可以豁免带手机进学校： 老师需要手机来完成特定的教育任务或目的时（如课堂作业） 如果出于健康原因需要（如监测胰岛素水平） 满足残疾或学习支持需求（如协助沟通障碍） 校长认为特殊情况需要的情况（如学生是青少年家长）。
E |
Stanford说，已经实施无手机的学校报告显示，学生的参与度、注意力和幸福感都有所提升。
该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。 AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。
F | 此外，教育部已任命一个部长级顾问小组，立即开始审查英语、数学课程，重点关注学习科学。
G |
02
美情报官员在新西兰秘密开会
美国情报官员正在惠灵顿举行秘密会议，新西兰情报机构部长Judith Collins称这是“例行公事”。 论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。 第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。
根据飞行追踪信息显示，一架大型美国空军C-17环球霸王运输机（下图）已抵达惠灵顿机场，美国驻新西兰大使馆说，机上载着美国一群官员。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。
这些官员究竟是谁，他们代表哪个美国机构，以及他们将与谁会面，都不得而知。 不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。这个实验说明，在理想条件下“心智病毒”确实可以传播。 如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。
结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。这说明，大规模传播可行但内容难以保持完整。
美国驻新大使馆发言人表示，不会提供有关此次访问的进一步细节:“根据长期以来的政策，我们不对情报事务发表评论。 最后，研究者在模拟AI社交平台的实验中测试现实环境。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。”
美国大使馆和Collins都说，这次访问是例行的政府间事务。据了解，此次访问与政府决定协助美国领导的打击也门胡塞武装的行动无关。
Collins在声明中称“新西兰官员正在与美国官员会面，讨论一系列共同关心的安全问题。
H | 对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。” “我不会讨论访问的具体细节，因为这不符合新西兰或我们合作伙伴的国家安全利益。 三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。” “联合政府已经明确表示，打算重振我们与‘五眼联盟’伙伴的防务和安全合作，以及其他主要安全伙伴。它是一种需要警惕、但短期内风险有限的潜在安全问题。 同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。 最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。” 原文链接 注：本文为编译/原创，欢迎转发分享；但严禁复制等未经授权的非法使用。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。违反上述声明者，本网将追究其相关法律责任。使用授权请联系[email protected]。 但未来不可掉以轻心。 chineseherald.co.nz All Rights Reserved 版权所有 (责编：twinkle) 来源 - 先驱自媒 相关内容 奥克兰豪区居民与Watercare对峙，强烈反对这一要求！ 耸人听闻！6人在奥克兰著名海滩徒步时神秘失踪，更多女子像猎物一样被追逐恐吓 疫情通报：过去一周新西兰新增5757例 突发！James Shaw将辞去绿党联合党魁一职 奥克兰昂贵自行车被盗，提供监控照片及GPS数据后警方拒绝调查 奥克兰中区夜间发生电动滑板车骑行事故，一男子死亡 夏天就这么过去了？1月底天气多变，2月初气温将陡降 24小时内5人死于道路交通事故，警方发出紧急安全警告。
I | 随着AI智能体规模扩大、自主性增强、内部网络日趋复杂，论文推测，当公司内部部署大量具有不同权限层级的专用智能体时，“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。
（文章来源：第一财经）。
Current article:http://kmirj8.panningbuquanchencaibingzhang.cyou/list_qnnsy/5gleg.html
Published on:14:04:27
