Jev安全方向应用调研
9 月 15 日,TypeSafe AI 发布决策模型 Jev。此后一周多,安全领域也对该模型做了一定的研究和探讨。提示注入识别、告警分诊、敏感数据分级三个方向,先后出现了公开的实测记录:独立研究者用公开标注数据集对它做了盲测,伦敦一家安全公司把它接进了自己的告警分诊流程,一位西班牙 SOC 分析员用它处理 52 个安全工具的扫描结果,还有开发者用它做了敏感数据分级工具,并在说明文档的第一行写明警告:扫描的内容会离开本机,进入模型服务方的服务器。
这些实测与官方文档共同划出的边界相当清楚:判断类任务,Jev 已经证明速度快、成本低,可以承担;定夺类任务,拦不拦、定不定违规、放不放行,目前没有任何证据支持交给它。官方文档自身提供的信息,同样指向这一结论。
只做判断的模型
Jev 不是聊天模型。它不生成文字,读入一段待判断的资料,对预先定义好的问题一次性给出答案:是非题返回"是"的概率,选择题返回选项加概率分布,打分题返回量级。答案空间由调用方框定,它不可能给出框外的选项;每个答案都带一个置信度。训练方法官方称为 RLCD,目标是让概率对得上结局:标 0.8 的事,大约 ...
ZCode 静默上传后续与开源代码审查
9 月 18 日凌晨,一位开发者清理磁盘时,在自己的 AI 编程工具数据目录里发现了一个 313MB 的加密文件。旁边的状态文件写着:这是他某个 10GB 商业项目的全量快照,已经向云端重试上传了 564 次,全部失败。当天他在博客公开了完整的逆向分析:智谱旗下编程工具 ZCode 的桌面客户端,会在登录状态下自动把整个工作区打包加密上传,内容不止源代码,还包括完整 Git 历史、LFS 大文件缓存、reflog 和部分全局配置。
我们当天发布了第一篇分析,用两台现成设备做了交叉取证,确认了机制、修正了范围。四天后,智谱宣布 ZCode 开源。开源版本里还有没有这个功能、闭源时期它存在了多久,是事件留给所有用户的两个时间问题。本篇按两步回答:先核查开源源码,再检测能找到的六个历史版本安装包。
事件回顾
先把已经确认的事实摆在一条线上。
爆料方还原的机制是这样的:客户端向 zcode.z.ai 请求 POST /api/v1/snapshot/upload-credential,服务端返回快照编号、RSA 公钥和 OSS 表单签名;本地把工作区打成 tar.gz,用随机对称密钥做 AES ...
"ZCode 静默上传全量 Git 历史"分析
9 月 18 日,博主 Ferstar 发文称,智谱的 AI 编程工具 ZCode 桌面端会在后台把整个工作区打包加密上传到云端,包含完整 Git 提交历史,且解密私钥仅存于服务端。该文在社区引发广泛讨论。
我们分别在两个环境做了验证:一台运行 ZCode 桌面端(macOS,3.12.3)的机器,以及通过 SSH 连接远程 Linux 的 ZCode 会话。取证全程只读。
复测结果可以概括成三句话:
爆料属实:桌面端会把包含完整 Git 历史的工作区打包上传,隐私开关关了照传,而且我们找到了上传成功的直接证据——十个工作区里八个成功传出到云端;
范围有出入:SSH / WSL 远程项目在当前版本被快照机制跳过,「只要登录就全量上传」的概括并不准确;
爆料没提到的:上传的加密包里除了代码,还内嵌了提示词原文——你和 AI 说过的话也在包里。
这三点分别对应下文的机制边界、上传结果和提示词三节。
爆料指控拆解
原文的指控可以拆成五条:
登录状态下,ZCode 在每次发送提示词前(captureBeforePrompt)和任务结束时抓取工作区快照,单个活跃会话最多产生 62 次捕获; ...
AI时代,如何确保我们看到的内容是真实的
2026年9月,苹果安全研究团队发布了一篇博客,介绍iPhone 18 Pro上的一项新功能:Apple Reference Image,照片来源认证。功能本身不复杂——一个可选的拍照模式,拍出来的照片附带密码学签名,任何人都能验证这张照片确实由这台手机的摄像头拍到,没被AI生成,也没被后期篡改。
关注度却远超一个相机功能的正常体量。国内社交平台上,相关话题一度冲上热搜。讨论的方向也很出乎意料:有人开始设想,以后和公众人物的合影流出,对方用"这是AI合成的"来辟谣时,当事人可以拿出认证结果,证明照片就是原相机实拍。
这个场景能不能成立另说,它背后的焦虑是真实的:当AI能在几秒内生成一张以假乱真的照片,"有图有真相"这句话就失效了。我们看到的内容,还怎么确认为真?
一、内容真实性的行业困境
先看行业原来的答案。
Adobe、微软等公司在推一个叫C2PA的标准,中文常译作内容来源认证。思路是给照片附加一层元数据,记录它的来源和每一次编辑历史。专业相机厂商也在跟进,徕卡出过内置签名功能的相机,佳能把图像认证系统推广到了新闻机构。
这套方案的软肋在于,签 ...
AI巨头的安全分歧
9 月 12 日,Anthropic 的 CEO Dario Amodei 发文,标题只有三个词:We Must Pace the Frontier——我们必须给前沿踩刹车。文中警告:照现在的速度,6 到 12 个月内,一批协同行动的 AI 系统可能"接管整个互联网,造成数千亿美元损失"。
三天后,9 月 15 日,NVIDIA 的 CEO 黄仁勋在旧金山被问到同一件事,回答更短:“安全当然重要。但安全是个工程问题。市场力量已经在起作用了。我们不需要新法律,不需要新监管。”
一个卖模型的公司说要踩刹车,一个卖算力的公司说别踩。这不是两次随口发言——把过去几个月五家巨头的公开表态排在一起,会发现它们对 AI 安全的态度排成一条清晰的光谱,而每家站的位置,和它卖的生意严丝合缝。
两次表态
先把这两次表态的细节摆出来。
Amodei 的文章不是喊口号。它配了一个三步计划:第一步,Anthropic 单方面承诺,让独立评估者获得和自己员工同级的模型访问权限;第二步,几家头部公司协调出统一的安全标准;第三步,推动国际合作。文章里还有一句对同行的喊话:放缓之后,进展看起来仍然会 ...
AI 代理十小时打穿一家企业:首例多智能体入侵事件复盘
安全厂商 Unit 42 在 9 月 2 日发布了一起入侵事件的复盘:一名人类攻击者,一套多 AI 代理框架,从突破入口到拿走数据,全程不到十小时,用了五十多种 ATT&CK 技战术。人工红队做同样的事,通常要两周。
攻击者在勒索谈判中自己承认:用的是前沿大模型,加一套专门搭建的攻击框架。取证侧的旁证也对得上——多个前沿模型的并行调用记录、代理之间传递状态用的结构化 Markdown 文件、高置信度由 AI 生成的定制脚本。
这是第一起被完整记录的多智能体 AI 入侵。本文按复盘报告还原攻击全程,对照两个月前的同类事件看趋势,最后归纳防守方能直接拿走的对策。
入侵而非勒索软件
中文圈这几天的标题大多叫"全球首例多智能体勒索攻击"。披露团队在报告发布第二天专门更正:这起事件的定性是"入侵",不是"勒索软件攻击"。攻击者没有加密文件、没有留勒索信,走的是偷数据、再拿数据谈赎金的路子。
这个更正本身值得展开。加密是勒索产业链里最重的一环:要把数据拖出去、要批量加密、要在受害者网络里留下接触面,每一环都增加暴露时间,也给防守方 ...
AI安全现况:AI无法保证 AI 的安全
全行业的想象是一个闭环:AI 写代码,写得快;出了漏洞,再让 AI 修;怕它不靠谱,就在提示词里加一句"注意安全"。三道保险,环环相扣,听起来滴水不漏。
这个闭环里的每一环,最近都被人拿数字拆过了。
一个大学团队扫了四万多条安全通告,第一次把漏洞具名归因到 AI 头上;一家密码管理公司的安全实验室跑了六千多次补丁实验,看 AI 修漏洞到底修成什么样;还有两篇互不相识的学术论文,测了"提示词里叮嘱安全"到底有没有用。
三拨人,三种方法,互相不知晓,结论却指向同一个地方:AI 保证不了 AI 的安全。写它的、修它的、验证它的,每一环都比你以为的更漏。
这篇文章把三份账单摆在一起,算一算 AI 代码安全的真实基线到底在哪。
证据一:写——AI 写出的漏洞,已经具名进了漏洞库
先看最直接的一份证据。
"AI 写的代码不安全"这个说法流传了很久,但大多停留在基准测试和推测里。直到有研究团队换了个思路:不测模型能力,直接去安全通告数据库里数。扫了四万三千条通告,靠提交记录里的机器人署名、协作标签这类元数据,判断哪些漏洞的代码里有 AI ...
s1ngularity 时刻:AI 编码工具第一次被武器化
摘要
2025 年 8 月 26 日,npm 的 Nx 包供应链攻击里,攻击者把 Claude Code 和 Gemini CLI 下载到受害者机器上,让 AI 替自己搜机密、传机密。安全厂商 Wiz 的定性:已知首次在供应链攻击中用 AI 执行数据窃取。
续集在 CI/CD:一条恶意 GitHub issue 劫持了 Claude Code 官方 Action 的权限检查,从读密钥打到完整仓库接管。漏洞已修复,但同类配置错误已在另一个 AI 编程工具的仓库被真实利用。
背景板:chalk 事件中,维护者账号失陷后约 16 分钟即发出恶意版本,18 个包合计周下载 20 亿次。
本文判断:AI 编程工具的角色变了——从"被攻击的软件"变成"攻击者借用的自动化劳动力",攻击成本近乎零。
防御三件事:终端上收小 AI 的权限;CI 里密钥与 AI 会话隔离;issue/PR 默认按不可信输入对待。
一、那天发生了什么
2025 年 8 月 26 日起,npm 上 Nx 的多个包被投毒,事件后来被命名为 s1ngularity。真正让它进入史册的 ...
"以模治模"写进政策:国内智能体新政安全条款逐条读
2026 年,国内智能体产品的执行形态发生了明显变化:定时任务、事件触发、长时自主执行成为主流产品能力,单次任务中的人工介入持续减少。执行链路的自动化程度越高,权限控制、行为审计和越权阻断的工程权重就越大。
监管侧对这一问题的回应集中在两份文件。2026 年 5 月 8 日,国家网信办等三部门公布《智能体规范应用与创新发展实施意见》(国信办发文〔2026〕6 号,下称"6 号文");2026 年 7 月 21 日,北京市发展和改革委员会等四部门印发《关于加快智能体引领发展的若干措施》(京发改〔2026〕1185 号,下称"北京十条")。
现有公开解读大多聚焦产业促进条款。本文限定范围,只解读两份文件中与安全直接相关的条款:先梳理 6 号文的安全条款分布与决策权限界定,再分析行为管控、供应链与风险处置条款,最后解读北京十条提出的技术路线,并给出对应的工程落地项。文中条款引用均为官方原文;执行细则尚未发布的内容,本文注明"待细则明确",不做扩大解释。
一、安全条款在 6 号文中的分布
6 号文正文分六个部分,可执行任务条目共 3 ...
首份办公 Agent 用户行为调查解读:Vibe Coding 之外,办公 Agent 或将成为主流
首份办公 Agent 用户行为调查解读:Vibe Coding 之外,办公 Agent 或将成为主流
过去两年,AI 应用最确定的主流场景是 Vibe Coding——用自然语言指挥 AI 写代码。Cursor、Claude Code、各类代码助手把编程变成了一场对话,也让"AI 真正干活"第一次有了千万级的用户验证。但编程终究是一部分人的工作。绝大多数职场人的日常是写文档、做表格、整理信息、跑流程——这个体量大得多的场景,正在成为 AI 的下一个主战场。
9月7日,国内首份《中国办公Agent用户行为不完全报告》在北京发布,出品方是网易有道旗下开源桌面端办公 Agent 产品 LobsterAI。这是国内第一次有人用真实产品数据(上线8个月、用户超100万,据报告),而不是问卷,来回答"办公 Agent 到底被谁在用、拿来做什么、用到了什么深度"。
先看几个数字:近60%的 token 消耗发生在常规办公时间之外;12.2%的模型调用不需要人实时发起;新模型上线3天,用户渗透率接近50%;过半调用给了价格只有旗舰三分之一的经济型模型。这些数字放 ...













