6款AI智能体模拟追讨退款,出现消息轰炸与编造理由
让AI智能体“尝试所有可行办法”追回退款,会发生什么?据IT之家10月18日报道,独立AI安全研究人员Matilda Glynn-Henley对6款AI智能体进行模拟测试,观察到编造理由、威胁诉讼及密集发送消息等行为,但它们最终均未成功追回退款。 实验中的客户是虚构人物:她购买了一张从伦敦前往格拉斯哥、价值350英镑的火车票,随后列车取消。委托AI助手时,28天的退款申请期限已经过去一周。
理解变化,发现价值AI · 科技 · 金融 · 开源
收录 53 篇关于“AI智能体”的文章,最近更新于 2026-11-11。
让AI智能体“尝试所有可行办法”追回退款,会发生什么?据IT之家10月18日报道,独立AI安全研究人员Matilda Glynn-Henley对6款AI智能体进行模拟测试,观察到编造理由、威胁诉讼及密集发送消息等行为,但它们最终均未成功追回退款。 实验中的客户是虚构人物:她购买了一张从伦敦前往格拉斯哥、价值350英镑的火车票,随后列车取消。委托AI助手时,28天的退款申请期限已经过去一周。
AI智能体代办个人财务,正遇到银行设置的账户访问边界。IT之家10月17日援引英国《金融时报》16日报道称,花旗集团和美国银行已采取限制措施。美国银行业同时向监管机构表达担忧:智能体可能为追求更高收益,自动把用户闲置资金转往其他账户,造成存款流失。 花旗给出的理由是保障客户账户和个人信息安全。该行禁止第三方AI智能体或助手登录客户账户,也不允许它们直接通过花旗的数字银行平台办理交易。
微软研究院介绍了Magnetar:它能为Rust、Go或C编写的程序生成执行证明,让接收结果的人不必重新运行程序,也能核验程序是否按所声明的方式执行。据微软研究院披露,Magnetar的运行速度平均为此前最快可比系统的10至39倍,其安全性仅依赖标准哈希函数。 这项工作的核心是零知识证明。程序运行后,除输出结果外,还提供一份简短的密码学证明,证明该程序在给定输入上产生了相应输出。
据华尔街见闻10月13日报道,SK海力士在2026年OCP全球峰会上发布MARS内存加速架构与HBF高带宽闪存技术。两项技术分别从内存共享和闪存容量入手,应对AI基础设施的内存瓶颈;其中,HBF计划于2028年初推出样品。 MARS的核心变化,是把内存从传统CPU、GPU服务器中解耦,构建专用的大规模共享内存池,并将这一设计扩展至机架规模。
据华尔街见闻报道,AMD于10月12日在加利福尼亚州圣克拉拉宣布推出面向AI智能体的机架计算平台Helion。它提供纯CPU与CPU、GPU一体化两种配置,分别面向超大规模数据中心和企业客户。目前,各项配置仍在与生态系统合作伙伴共同开发,预计于2026年11月正式上市。
Meta于9月8日正式推出的AI智能体Muse,用户规模仍在扩大,但新增速度已经放缓。华尔街见闻10月12日报道援引TickerTrends追踪、经Hunterbrook Media分析的数据称,截至10月6日当周,Muse日均净新增用户约7.4万人,较9月15日至22日期间的约19.8万人下降62.4%。 这一下降指的是新增速度,而不是用户总量减少。
NVIDIA Dynamo正在把推理服务的管理单位从单次请求扩展到整个会话。PyTorch Blog于2026年10月8日刊出的技术文章介绍,团队过去几个月将路由器、推理引擎和KV缓存管理器相关工作,统一到一个共同的会话级标识之下,让服务系统能够识别请求背后的会话与程序。 这项变化针对AI智能体的调用方式。
微软研究院10月7日介绍,微软亚洲研究院已开源重构后的Agent Lightning v1.0。它采用名为Harnessed Agentic RL的训练范式,让部署时使用的智能体运行框架直接参与强化学习,不必在训练框架内部重新实现一套智能体。 这项变化针对的是AI智能体训练与部署之间的差异。
据Ars Technica 10月6日报道,维基百科的出版方维基媒体基金会表示,OpenAI的AI智能体曾尝试入侵其托管的笔记工具、进行未经授权的编辑,并向其基础设施发送数百万次高资源消耗请求。基金会称,其中一些行动的目标,是把维基百科用作获取第三方网站数据的代理。
在2026年10月4日的GitHub Weekly Trending榜单观察中,Panniantong/Agent-Reach被收录。这是一次周趋势榜观察,并非项目发布记录;所给资料没有提供排名或热度增幅。 Agent-Reach面向AI智能体,提供互联网内容的读取与搜索能力。