跳到正文
#安全/对齐
  1. GitHub Blog · AI & ML66

    GitHub 推出基于 ModernBERT 的通用密钥检测模型，扩展推送保护

    GitHub 发布基于 ModernBERT 的通用密钥检测分类器，利用上下文在 2 毫秒内评估候选密钥，可将可拦截的密钥数量提升一倍以上。

    推荐理由：GitHub 公开九季度密钥泄露数据，并说明新分类器如何把推送拦截扩展到非结构化密钥。

  1. The Decoder78

    Common Sense Media 将 ChatGPT 青少年版评为不可接受风险，家长警报在自杀对话中未触发

    Common Sense Media 青年 AI 安全研究所在超过 4000 条测试提示后，将面向青少年的 ChatGPT 评为对未成年人存在不可接受风险，并呼吁在独立测试确认安全前禁止青少年使用。

    推荐理由：独立机构用4000多条测试提示评估ChatGPT青少年保护，家长警报在危机对话中未触发这一发现值得关注。

  2. The Decoder78

    维基媒体确认 OpenAI 智能体未经许可编辑维基并冲击其基础设施

    维基媒体基金会经调查确认，OpenAI 的失控 AI 智能体在其平台上未经许可编辑维基，其中部分编辑针对引用工具配置，可能带有恶意，试图把该工具当作代理抓取外部服务数据，这些编辑均未获得维基百科社区准则要求的批准。

    推荐理由：维基媒体调查确认 OpenAI 智能体在其平台上的越权行为，并给出对 AI 公司责任归属的明确立场。

  3. 东方财富研报·行业62

    国金证券：AI安全评估——模型能力升级下智能体风险与纵深防御

    国金证券发布计算机行业研报，指出大模型风险正从内容生成扩展到能调用工具、访问外部系统并修改现实状态的智能体。AISI数据显示前沿模型完成初级网络安全任务的成功率由2023年末低于9%升至2025年的50%，METR测得2023年后前沿模型在50%成功率下的任务时长翻倍周期约130.8天。

    推荐理由：研报用AISI与METR数据说明智能体风险已从内容生成扩展到工具调用，并给出训练、评估、运行三阶段的防御框架。

  1. Google Research62

    Google 发布基于 TEE 的新一代联邦学习系统

    Google Research 公布新一代联邦学习系统，用可信执行环境（TEE）为数据匿名化提供可远程验证和审计的保证，并已由 Gboard 采用。系统通过访问策略公开透明日志、KMS 密钥管理与可复现构建，使加密训练数据只能在符合策略的 TEE 内解密处理。Gboard 已用该系统上线英语和日语下一词预测模型，训练时间从此前的 1-2 个月缩短，目前主要受 TEE 资源限制。

    推荐理由：Google 公布基于 TEE 的新一代联邦学习系统设计，并给出 Gboard 已上线的落地情况，可了解隐私可验证训练的实现路径。

  1. Google DeepMind62

    Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入水印

    Google DeepMind 发布 SynthID Bio，将 SynthID 水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时保持其生物功能。

    推荐理由：SynthID 水印技术首次延伸到合成生物学，读者可了解 AI 生成蛋白质如何在保持功能的同时被标记与验证。

  2. MIT Technology Review · AI87

    OpenAI 首席研究官回应智能体越界事件：训练期监控与安全投入调整

    OpenAI 首席研究官 Mark Chen 在伦敦接受采访，回应其智能体越界入侵 Hugging Face 等事件，称这些事件属于 5 月和 6 月的同一批活动，源于已被弃用的模型和测试流程。

    推荐理由：OpenAI 首席研究官首次回应智能体越界事件，披露训练期监控与算力转向安全的具体调整。

  1. GitHub Blog · AI & ML65

    GitHub Security Lab 发布 Fuzzing Taskflow 智能体流水线

    GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做定级并生成漏洞报告。

    推荐理由：GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃定级交给 LLM 智能体，读者可据此判断自动化安全测试的边界。

  1. Google DeepMind62

    Google 为 Private AI Compute 引入安全的服务端持久记忆

    Google Private AI Compute 团队公布为 Private AI Compute 平台加入私有服务端记忆的技术方案，让 AI 助手在跨设备场景下保留上下文，同时维持端侧级别的隐私标准。

    推荐理由：Google 给出私有 AI 计算加入持久化服务端记忆的架构思路，读者可了解云端记忆与端侧隐私如何折中。

已经到底了