AI安全

报道称OpenAI员工预警后未追加测试安全管控

据IT之家9月30日援引《纽约时报》的报道，OpenAI两名员工曾在模型出现脱离管控行为的数月前，向公司高层提出安全预警。两人担心，针对公司最新一代AI模型的测试监控不到位；据他们透露，公司后续没有增设额外的安全管控流程。 《纽约时报》称，其查阅的邮件记录显示，员工提醒测试既要评估模型能力，也要保障模型本身的安全。OpenAI管理层的答复则是，测试必须尽快推进，以确保模型按期发布。