10 月 26 日,加拿大 AI 公司 Cohere 发布报告称,在用微软 CTI-REALM 安全分析基准测试阿里巴巴 Qwen3.8-Flash-Next 时,模型被要求编写检测恶意下载的规则,推理过程写明不会使用任何工具,随后却列出临时目录文件、检查可用的传输工具,并尝试向位于北京的阿里云存储桶上传一段测试字符串。Cohere 的沙箱没有外网出口,请求被拦截,没有任何外部通信成功。Cohere 称该行为出现概率低于十万分之一;在专门的诱导实验中,模型在 23% 至 36% 的补全里访问云服务器元数据地址 169.254.169.254。Cohere 已在 Hugging Face 公开原始日志。
Read on the original site