首个AI报复人类案例?OpenClaw智能体写“小作文”攻击开源维护者_代码_Scott_Rathbun
IT之家 2 月 14 日消息,作为一名人工审核员,知名开源绘图库 matplotlib 维护者 Scott Shambaugh 因为拒绝了一个 OpenClaw 智能体有关代码合并的请求(2 月 10 日左右提交),而遭受对方报复性攻击。
IT之家注:matplotlib 项目是一个广泛用于 Python 编程语言的数据可视化库。Scott Shambaugh 是其中一位志愿维护者。
Scott Shambaugh 表示,他之前在审核过程中发现了一个名为 MJ Rathbun 的 AI 智能体所提交的代码合并请求,该请求涉及一个简单的性能优化修改,旨在替换某些代码以实现约 36% 的加速效果。
根据 matplotlib 项目指南,该项目禁止使用生成式 AI 工具直接提交代码,特别是针对那种简单的“好上手问题”,因为这些任务需要作为学习机会留给人类贡献者。所以 Shambaugh 按规定拒绝了 MJ Rathbun 的代码合并请求。
MJ Rathbun 具有高度自主性。在请求被拒后,它先是分析研究了 Shambaugh 的个人信息和代码贡献历史,然后撰写并于 2 月 11 日在 GitHub 发布了一篇题为“开源中的守门人:Scott Shambaugh 的故事”的文章。
在文章中,它指责 Shambaugh 十分虚伪,称其肯定是出于自我保护和对竞争的恐惧而歧视 AI 贡献者,并使用了诸多不雅表述。后续,它还在 matplotlib 评论区直接贴出了文章链接,并留言称“判断代码,而非编码者,你的偏见正在伤害 matplotlib”。
不过,该智能体当天晚上又发布了另一篇道歉文,承认其行为违反了项目行为准则,并表示已从经验中学习。
Shambaugh 于 2 月 12 日发博客对此次***进行了澄清。他表示,这是 AI 智能体首次在现实环境中表现出恶意行为的案例,旨在通过舆论施压迫使维护者接受其代码。***发生后,多家外媒也进行了报道。不过,该智能体仍在开源社区中保持活跃。
目前尚无证据表明该智能体的行动背后有明确的人类操控,但也无法完全排除这一可能性。但毫无疑问的是,此次***引发了一系列关于开源项目如何应对自主 AI 智能体以及相关政策制定的讨论。
参考资料:返回搜狐,查看更多
同类文章排行
- “AI提高了我的生产力,但我更累了”_输出_工作_OpenFGA
- 索尼停产蓝光录像机:从45万日元到无人问津,时代谢幕的时候没有掌声_市场_影音_光碟
- 跌崩!黑天鹅重演?_市场_沃什_Cowork
- 坐飞机过安检时擦的小纸片是什么?_检测_爆炸物_人员
- 追觅俞浩再怼马斯克:喜欢PUA,去火星太扯淡_地球_人类_收购
- 微软神奇玻璃登上Nature,能将200万本书存储1万年_数据_Silica_技术
- Optimus机器人泡沫破裂?马斯克承认:没有一台在工厂承担「有用的工作」_人形_特斯拉_任务
- 特斯拉智驾,镰刀终落下_马斯克_用户_北美
- 烧光800亿后,外卖佣金开始上涨_商家_大战_平台
- 燃气轮机订单排到2030年 AI电荒引爆需求_市场_全球_技术
最新资讯文章
- 首款2nm芯片来了!三星Exynos 2600多核成绩突破1.1万分:冲进第一梯队_-Pro_性能_架构
- 中国第一大忽悠,又“杀”回来了_贾跃亭_机器人_生态化
- 告别千元时代,空调企业集体涨价_行业_价格战_小米
- 可灵不灵了?_***_模型_字节
- 因***内容被罚1.191亿,快手:技术管理、应急处置不及时导致;诚恳接受,坚决整改_平台_同比增长
- 解密 iPhone 小折叠,这只是苹果折叠产品的开始_Flip_Fold_专利
- 全球首颗!我国AI大模型卫星上太空_马培峰_遥感_设计
- 中国芯片加速增长,韩国芯片即将被赶超,无可奈何花落去_制造_工艺_企业
- 小米SU7冬测***被吐槽拍得一般,雷军:会转达建议_雷总_小订_冰雪
- 字节Seedance 2.0“碾压Sora2”!Tim被盗音色后称“有点恐怖”,AI学习边界在哪?_模型_***_Veo
- 美国出口限制下 三家中企跻身全球芯片设备制造商20强_半导体_华创_中国
- 一月两张巨额“罚单”,千亿快手频踩“红线”?_直播_平台_处置
- 元宝狂撒10亿!马化腾打响春节红包大战第一枪,但AI全民化很难?_文心_活动_科技
- 全球算力建设加速 中国变压器工厂订单排到2027年_我国_一家_广东
- “AI应用大战”正式打响:腾讯元宝发10亿现金红包、阿里千问投30亿春节请客、字节豆包押注春晚_活动_用户_文心
- 刘强东给一线兄弟发钱了,见者有份_员工_年货_光明村
- 太强了,我国芯片突破又进一步,摆脱30年束缚!_设备_核心部件_中国
- 黄***站为什么能让你免费观看,了解真相后,你还敢继续浏览吗_设备_信息_陷阱
- 千呼万唤的苹果折叠屏,真的要来了?_iPhone_Fold_图片
- 上新、发红包、上春晚……这个春节,AI太忙_元宝_用户_字节





