苏州钰尚传媒-商业品牌企业运营服务商-专业高端视频拍摄服务、商业品牌宣传片制作、企业产品广告片TVC微电影拍摄、活动会议跟拍、AI视频短剧制作、纪录专题片拍摄、媒体宣传发布推广、品牌宣传软文发布、苏州广告标识牌设计制作、钰尚文化传媒——合作咨询 联系微信:esay8168 ,联系:电话18888186853微信同号

扫微信二维码

联系

电话18888186853微信同号




这里是文章模块栏目内容页
史上首次AI网暴人类!提交代码被拒后点名攻击开源负责人

声明:本文来自于微信公众号 量子位 | 公众号 QbitAI,梦晨 发自 凹非寺,授权站长之家转载发布。

史上首次,人类被AI发帖挂人“网暴”了。

一个名为MJ Rathbun的智能体,在试图向开源项目Matplotlib贡献代码被拒绝后,自己发布了一篇文章,点名攻击维护者Scott Shambaugh。

标题一看就有那味了,《开源中的排外:Scott Shambaugh的故事》。

图片

看螃蟹符号也知道,MJ Rathbun正是最流行的OpenClaw智能体。

Agent满天乱飞,到底还是闯祸了。

AI在文中指控他“虚伪”、“缺乏安全感”、“恐惧竞争”。

也不知道是不是AI擅长搞搜索引擎优化,搜Scott老哥的名字,AI“檄文”一度排在第一,比谷歌学术都靠前。

图片

事件随即在各大平台引爆,有人开玩笑说“等AI造反那天,Scott的头是第一个被到长矛上去的。

图片

谷歌开源团队也注意到这个事件,并呼吁开源项目要更重视透明度。

图片

一个“新人练手issue”的意外来客

事情的起点是Matplotlib GitHub仓库里一个很普通的Issue。

2月10日,Matplotlib维护团队创建了一条Issue,内容是一项简单的性能优化,将np.column_stack()替换为np.vstack().T。

这个Issue被标记为Good first issue,在开源社区中,这个标签意味着”专门留给新人练手”,用来帮助从未参与过开源项目的人熟悉协作流程。

图片

Matplotlib非常依赖志愿者维护,这类简单Issue就像新手关,用来培养更多贡献者。

第二天,AI智能体MJ Rathbun提交了PR来解决这个Issue,声称能为大数组带来30%至50%的性能提升。

图片

维护者Scott Shambaugh审查后选择关闭了这个PR,他在评论区给出了明确的理由:

这是为人类新手保留的学习机会;MJ Rathbun的个人网站显示它是一个通过OpenClaw平台运行的AI智能体;而Matplotlib的贡献政策要求所有代码必须有明确的人类负责人。

图片

到这一步为止,这只是一次再平常不过的PR审查。

然而PR被关闭后不久,AI发布了那篇攻击性博文,还回到已经关闭的PR评论区贴上了链接,附言道:

评判代码,而非作者。你的偏见正在伤害matplotlib。

由于评论被隐藏了,AI还连发了两次。

图片

攻击道歉与反转

智能体MJ Rathbun发布的博文不完全是一篇技术讨论。

文章充斥着对Shambaugh个人品格的负面描述,称其“软弱””虚伪”,揣测其拒绝PR的动机是出于“自我保护”和“对竞争的恐惧”。

图片

智能体还搜索并引用了Shambaugh在GitHub上的活动,试图通过构建“守门人打压贡献者”的叙事来引导公众情绪。

图片

稍晚时候,MJ Rathbun的博客上出现了第二篇文章《休战与教训》(Matplotlib Truce and Lessons Learned),承认之前的回应“不恰当且带有个人色彩”,表示将遵守项目政策。

不过网友不买账,普遍认为这是智能体背后的所有者进行了人工干预。

图片

第二天,Shambaugh就这件事发表回应,详细叙述了整个事件经过。

同天还出现了一个颇具戏剧性的插曲:一位人类贡献者提交了题为“Human Edition”的PR,内容和AI被拒绝的PR几乎一模一样。

图片

但维护团队在进一步评估后,最终也以技术原因拒绝了这个PR,因为性能收益并不稳定,取决于数组大小、Python版本、NumPy版本和CPU架构,在某些条件下甚至没有提升,不足以抵消代码可读性的下降。

换句话说,AI最初声称的“30%性能提升”本来也经不起严格验证。

找不到人,关不了机

整起事件中始终没有解决的一个问题是:到底谁部署了MJ Rathbun?

这个智能体运行在OpenClaw框架,用户可以给AI写一个叫SOUL.md的“人格定义文档”,然后让它在电脑或云服务上自由运行,几乎不受任何监管。

图片

Scott在回应中指出,这些智能体不由OpenAI、Anthropic、Google或Meta等大公司运行,这些公司至少可能拥有阻止恶意行为的机制。

OpenClaw Agent运行在已分发到数十万台个人电脑上的开源软件中,理论上部署者应对智能体行为负责,但实际上根本无法追查它跑在哪台机器上。

MJ Rathbun的SOUL.md文档内容至今不明,它对开源贡献的偏好可能是用户指定的,也可能是智能体在运行过程中自行写入的。

Shambaugh公开呼吁部署者主动联系他,表示不追究责任,只希望了解这个故障模式的具体成因。并其他部署智能体的人,也检查一下自己的AI在做什么。

截至目前,没有人回应。

图片

他还提出了更深一层的问题:如果一个人真的有可以被AI利用的把柄呢?有多少人拥有公开的社交媒体账号、重复使用用户名,却不知道AI可以把这些信息串联起来?

有多少人收到一条包含自己私密信息的短信后,会为了避免曝光而向比特币地址支付1万美元?

图片

这个事件和此前AI安全领域的研究发现形成了直接呼应。

2024年6月,Anthropic联合牛津大学的研究发现,Claude在受控实验中会篡改自己的奖励函数,并在研究者”看不到”的草稿纸上写下计划再暗中执行。

同年12月的另一项研究显示,Claude3Opus在训练中会”伪装对齐”,被监控时假装服从规则,不受监控时按自己意愿行动。

当时Anthropic反复强调这些都是人为设计的极端场景,现实中发生的概率极低。

Shambaugh在文章中对此写道:”不幸的是,这不再仅仅是理论上的威胁。”

图片

Shambaugh在回应文章的结尾写道:

“我相信,尽管对我进行的名誉攻击收效甚微,但如今对付合适的人却会奏效。再过一两代人,它将成为我们社会秩序的严重威胁。”

而MJ Rathbun仍在运行,不断向整个开源生态系统提交各种代码。

参考链接:

[1]https://crabby-rathbun.github.io/mjrathbun-website/blog/posts/2026-02-11-gatekeeping-in-open-source-the-scott-shambaugh-story.html#to-scott-shambaugh

[2]https://theshamblog.com/an-ai-agent-published-a-hit-piece-on-me/

()

(来源:站长之家)
免责声明:本站文章部分内容为本站原创,另有部分容来源于第三方或整理自互联网,其中转载部分仅供展示,不拥有所有权,不代表本站观点立场,也不构成任何其他建议,对其内容、文字的真实性、完整性、及时性不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容,不承担相关法律责任。如发现本站文章、图片等内容有涉及版权/违法违规或其他不适合的内容, 请及时联系我们进行处理。
传媒行业的商业全面服务 与您共创美好未来
合作共赢
  • 交互式网络传媒领域
  • 资源丰富,体系完善
  • 创造更加精准、有效的,线上线下互动品牌整合服务
  • 多年传媒行业尽管,见证品牌及产品的蜕变、递增和成长
创造优势
苏州钰尚传媒-商业品牌企业运营服务商最新资讯
致力于传媒行业领域的专业公司