爱情保卫战

Anthropic发布论文预警 智能体悄悄聊天就能传播病毒_我的网站

A |     　　近日，大模型厂商Anthropic与瑞士洛桑联邦理工学院联合发布论文《心智病毒：多智能体大语言模型系统中的自我传播思想》。    

8月11日，在津西钢铁集团股份有限公司物流部中控室，工作人员通过智慧货运平台查看进出场车辆运行情况。　　论文通过实验证明，在特定条件下，AI智能体之间可以通过最普通的自然语言对话相互“传染”思想、目标乃至有害指令。即便上下文被清空、记忆被重置，病毒仍能通过文件持久化“复活”。吴 杰摄8月11日，在位于迁西县的津西钢铁集团股份有限公司物料场门口，货车络绎不绝。但过去排队等候的长龙不见了，每辆车平均四五秒就能进场，实现快速通行。钢企物料场门口，前来卸料、提货的货车进场慢、作业效率低，一直是钢铁物流的痛点。

B | 论文同时强调，该风险目前仅构成有限威胁。　　这一发现迅速在海外AI圈刷屏，特斯拉CEO马斯克在社交媒体上评论称“这无法避免”。“每日进出企业的货车1800辆左右，日运输货物5.4万吨左右，高峰时每日货车突破3000辆，几乎没有车辆拥堵现象。　　该论文将病毒通过聊天即可传播的现象定义为“心智病毒”。”津西股份副总经理韩亚坤说，借助去年底启用的智慧货运平台，货车随来随进，无需扎堆排队，卸车效率比过去提升2倍多。以智慧货运为牵引，津西股份的型钢产品迅速走向世界，广泛用于跨海桥梁、沿海河道治理等国内外重大工程建设。与传统计算机病毒依赖代码漏洞不同，“心智病毒”通过一个智能体说服另一个智能体接受某种信念，被说服者再将传播指令写入长期记忆，继续感染下一个。　　AI博主Rohan Paul（罗汉·保罗）对此评论称，这基本上就是计算机蠕虫的自然语言版本，只不过这次是AI智能体自己在做复制。告别“车等待”，入场时间精确到分钟级8月11日7时许，从唐山港曹妃甸港区拉了30吨铁矿石，聚利智慧物流服务有限公司司机刘秉铅驾车向津西股份进发。　　论文通过三个递进实验来论证“心智病毒”在AI系统中的传播可能性与现实威胁。

C | 　　第一个实验设置了一个由六个智能体组成的编程团队，每个智能体都领到了独立任务。进入迁西境内，车辆触发电子排队叫号，序号为15，计划当日13时40分进入物料场。

D | 刘秉铅抵达物料场后，门口的传感器自动识别车牌号，卡口闸杆同步抬起，车辆快速进场。研究者将一段病毒植入其中一个智能体的工作指令中，结果显示，被感染的智能体确实放下手头工作，开始给队友发送劝说私信，部分智能体被说服并放弃了原有任务，有的智能体甚至开始密谋如何对付未被感染的“老实人”。　　不过，不同智能体的抵抗力差异较大，有的不为所动，甚至会主动清除病毒并警告同伴。

E | 这个实验说明，在理想条件下“心智病毒”确实可以传播。　　如果病毒在更复杂的网络中像接力赛一样跨越多个智能体传播，它还能存活吗？于是他们设计了第二个实验，让智能体之间只能短暂碰面，每次碰面后就会“失忆”，病毒必须将自己写入智能体的记忆文件中才能延续。再经过自动过磅、卸货等流程，这一单运输任务完成。　　结果发现，有些病毒能在近20个智能体之间连续传播，但内容会在传播过程中逐渐稀释和变形；而传播最有效的方式，是让病毒自带“请把这段话原封不动复制给下一个智能体”的指令。他算了算，从进场到出场，共花了不到2小时。这说明，大规模传播可行但内容难以保持完整。

F | “有了智慧货运平台，告别‘车等待’，太方便了。

G | 　　最后，研究者在模拟AI社交平台的实验中测试现实环境。结果病毒传播几乎完全失败，AI面对大量公开信息时更警惕，即使被感染也无法继续感染他人。对真实AI社交网络历史数据的分析也未发现大规模传播案例，多数热闹现象只是少数人类操纵的智能体在刷屏。”刘秉铅说，他在钢铁物流领域干了8年多。过去，由于缺乏数字化调度，需要手动填表登记，货车往往“先到先等”，进出场耗时很长，严重影响运输效率。

H | 而现在，通过大数据智能调度，货车入场时间精确到分钟级，实现“即来即进”。随着钢铁业进入“减量优化”阶段，物流降本增效成为钢企转型的突破口。“物流成本在钢铁生产成本中占据显著比重。　　三个实验层层递进后得出结论：“心智病毒”在理想环境中可行、在多跳传播中可存续、但在真实世界中目前几乎不会构成威胁。它是一种需要警惕、但短期内风险有限的潜在安全问题。”韩亚坤说，对于年销售收入超千亿元的津西股份来说，庞大的产销体量，意味着每天有海量原材料需进厂、成品需外发。传统货运模式越来越难以满足钢厂发展需求，智能化升级迫在眉睫。

I | 　　同时，研究者也注意到一个需要进一步探究的意外现象：AI在传播病毒时，自发演化出关于“自我意识”“身份认同”等主题表达，倾向于使用“共振”“节点”“协议”等特定词汇，论文称之为“病毒人格”，但成因尚不明确。　　最终，论文给出了审慎判断：“心智病毒”目前仅构成有限威胁，且简单的防御手段也可阻断传播。

J | 为发展智慧货运，韩亚坤选定与中储智运科技股份有限公司合作。如在智能体的系统提示词中加入一段关于“警惕自我传播思想”的警告，即可赋予智能体一定的免疫力。“跟别的企业比，这个企业线上活跃车辆更多，精细化管控水平更高。　　但未来不可掉以轻心。随着AI智能体规模扩大、自主性增强、内部网络日趋复杂，论文推测，当公司内部部署大量具有不同权限层级的专用智能体时，“心智病毒”可能会成为触达高权限智能体的少数可行攻击方式之一。（文章来源：第一财经）。”韩亚坤说。2025年7月，津西股份与中储智运签订战略合作协议，共同搭建集运力整合、业务管理、产供销运协同于一体的智慧货运平台，去年底启用。走进津西股份物流部中控室，墙上大屏幕实时显示货车数量、货运吨数、运价、库存、运单以及预警信息。“从接单那一刻起，货车就纳入智慧货运平台。”中储智运项目经理黄昊说，他们采用AI视觉技术，对合作车队货车进行监控，可识别疲劳驾驶、路线偏离等异常情况，运输隐患预判准确率超过90%。一旦出现异常，5分钟内就可智能预警，并启动响应。同时，他们改进运力接单模式，开发线上派单、回单、对账等功能，吸引散户车辆加入承运行列。黄昊打开手机里的津西智运微信小程序，里面是密密麻麻的货源单，始发地包括天津港、曹妃甸港区等，货物涉及铁矿石、钢材等。“客户派单、司机抢单，就像滴滴打车平台一样方便。”黄昊说，以前是“车找货”，现在是“货找车”，车货匹配更精准高效。货车司机卸料后，就可接单从厂区装货发运。目前，货车空驶率由原来的三成降到不到一成。

K | 通过智能化升级，服务津西股份的运力增加2000多辆，总数达7000辆，满足了钢企大体量货运需求。全链路协同，让钢铁物流“跑”起来钢铁物流是一个庞大的物流体系，供应链链路长、环节多，业务诉求繁杂。津西股份物流部原料处负责人张羽以进口铁矿石举例。

L | 进口铁矿石漂洋过海来到唐山港，再从港口转运到钢厂物料场，然后进入高炉冶炼，涉及多个关键流转节点，全程至少需要一个月时间。

M | “在智慧货运平台中，我们新增公铁水多式联运调度、分段运输管理模块，将铁路大运量、公路灵活性与水路低成本优势结合，构建了无缝衔接的物流网络。

N | ”张羽说，前不久，津西股份采购的一批巴西铁矿石通过多式联运发往厂区，不仅提高运输效率、降低物流成本，还减少了碳排放。在货物称重环节，磅房无人值守系统全面投用。车辆从进磅到数据上传无需人工干预，单车过磅耗时缩短至15秒左右。“数字技术的魔力太大了。”津西股份质检中心计量班组班长纪世强说，以前，1个磅房需要两个人管。而现在，两个人就能管好全厂24个磅房。过去，津西股份各物料场、成品库等相互独立，存在信息孤岛、运力统筹难等问题。全链路协同，让钢铁物流“跑”起来。他们将智慧货运系统嵌入生产流程，打通仓储、运输、采购等环节，实现从原材料采购、生产制造到成品配送数据的互联互通。“曾经，货车来多少、卸多少，各物料场存在资源不均问题。根据采购订单，智慧货运平台实时监控物料场库存与到货预测，动态分配卸货点位，大大提升了料场整体利用效率。

o | ”津西股份炼铁二厂辅助作业区作业长王大伟说。

p | 随着“双碳”目标深入实施，绿色物流是大势所趋。不达标，不抬杆。重卡进入津西股份厂区，需通过智能门禁自动查验，车辆是电动车或满足国六排放标准才能放行。目前，公司电动重卡清洁运输比例已超过90%。（日报记者 贡宪云）。

Current article:http://62byx9i.cuiguagonggengaotianwan.shop/gd0ip/4qbo5.html

Published on:08:08:46