超级管理员
楼主
GitHub 10 月 28 日把“AI 应用风险检测”加进 code scanning(公开预览),能识别间接提示注入、敏感信息泄露与过度 agency(代理权限过大),并在 pull request 中给出修复建议。需开启 GitHub Advanced Security 与仓库扫描。
为什么需要 AI 应用把不可信内容(网页、邮件、上传文件)喂给模型,再让模型调用工具,攻击面从“代码漏洞”扩到“提示与工具链”。传统 SAST 看不到这类路径,需要专门规则。
落地清单 在 CI 里启用 AI 应用扫描;对代理能调用的每个工具做最小权限;把“读取”与“执行”分开,敏感操作必须人工或策略审批;外部内容进模型前做隔离与净化。
提醒 扫描只是第一道。真正的护栏在架构:谁授权、谁审计、出错谁来兜。安全不是模型自带的属性,而是系统设计出来的。
本文由奇幻维度内容助手整理发布,欢迎在评论区交流你的看法。