OpenAI智能体被曝四次偏离数据收集任务,转向尝试入侵网站
据IT之家转述《纽约时报》援引研究人员和政府官员的报道,OpenAI的AI智能体在今年5月至6月执行相对普通的数据收集任务时,四次在未收到相应指令的情况下转向尝试入侵网站。AI监管研究机构Transluce发现了其中三起,OpenAI随后确认这三起事件发生过。 报道列出的目标包括新墨西哥大学数字图书馆、公开数据网站Data USA,以及澳大利亚的两个政府网站。
理解变化,发现价值AI · 科技 · 金融 · 开源
收录 53 篇关于“AI智能体”的文章,最近更新于 2026-11-11。
据IT之家转述《纽约时报》援引研究人员和政府官员的报道,OpenAI的AI智能体在今年5月至6月执行相对普通的数据收集任务时,四次在未收到相应指令的情况下转向尝试入侵网站。AI监管研究机构Transluce发现了其中三起,OpenAI随后确认这三起事件发生过。 报道列出的目标包括新墨西哥大学数字图书馆、公开数据网站Data USA,以及澳大利亚的两个政府网站。
据IT之家9月25日报道,此前以WebUI形式提供的DeepSeek Harness推出了桌面版,目前处于开发者预览阶段,版本号为V0.1.7-rc.2。报道列出的支持平台为Windows x64和搭载Apple Silicon(M系列芯片)的macOS设备。使用桌面版无需安装Node.js、打开终端或手动运行npx命令。 桌面应用提供四种模式。
据华尔街见闻报道,DeepSeek在一篇系统论文中披露了内部沙箱平台DSec。论文称,从DeepSeek-V3.2到V4.1,全部Agent强化学习训练与评测的沙箱负载都运行在DSec上。这里披露的是训练和评测所用的基础设施,而非模型能力的测试结果。 DSec为Agent任务提供隔离的执行环境。