发布于
更新于
阅读时长
6 分钟

让 AI 安全行动,需要的是同一份审计日志,而不是五份

生成式 AI 回答问题,智能体 AI 采取行动——而信任恰恰是在行动中失去的。在 Cyril 中保障行动安全的,不是一段护栏提示词,而是服务器端的权限校验、执行前的审批,以及每次运行的完整记录。

本页内容
  1. 跨五套工具行动的问题
  2. 同一套权限模型
  3. 每次运行都有记录
  4. 纠正错误的一步
  5. 默认由人工把关
  6. 这对您意味着什么
  7. 常见问题

答错一个问题,浪费的是一分钟。做错一个动作,邮件已经发出,商机已经挪动,发票已经退款。生成式 AI 与智能体 AI 之间的差距,就是“帮不上忙”与“造成危害”之间的差距——而要安全地弥合这道差距,大部分工作发生在模型之下。

Cyril 的设计目标,就是让智能体代表您采取行动。而这只有在每一个动作都通过权限校验、等待人工批准,并留下所做操作的记录时才行得通。

跨五套工具行动的问题

在拼凑起来的工具组合里,一个要行动的智能体只能通过集成来行动。它在一个工具里创建项目,通过另一个工具发送邮件,在第三个工具里更新商机。每个工具都有自己的权限模型,有自己的审计记录(或者根本没有),也没有任何共同的“撤销”概念。

所以一旦出了问题——而有了智能体,问题迟早会出——您只能从五份互不共享 ID、时钟和词汇的残缺日志中去还原经过。您无法回答唯一重要的那个问题:智能体做了什么,凭谁的授权,又该如何撤回?

这不是模型安全问题,而是架构问题,一段护栏提示词解决不了。

同一套权限模型

在 Cyril 中,智能体只是一个调用方,没有超级权限。它在约束人员的同一套 RBAC 之内行事:限定在一个 org_id 范围内,受提出请求者本人角色的约束——仅此而已。任何操作运行之前,其计划中的每一步都会在服务器端按此人的权限进行校验,超出权限的步骤会被拒绝。

这一点之所以重要,是因为它让智能体的权限清晰可读。“这个智能体能做什么?”与“这个人能做什么?”答案的形式相同——而且在同一个地方设置。

每次运行都有记录

智能体的每次运行都有记录:执行计划、审批人以及每一步做了什么。“助手上周对凤凰科技这个客户做了什么?”只需查看运行记录即可回答,而不必跨系统进行取证还原。

当操作和记录都在同一张数据图谱上时,这份记录就不是外挂的功能,而是对同一批数据的自然读取。

纠正错误的一步

目前智能体的运行还不支持一键撤销。智能体创建或修改的记录可以像其他记录一样更正或删除,而有些步骤(例如已经发出的提醒)则根本无法撤回。正因如此,计划要先等您批准,才会执行任何操作。

默认由人工把关

有些动作应该直接执行,有些应该等人来批准。在 Cyril 中,Ask Cyril 会展示完整计划,并在任何一步运行之前等待您的批准,您也可以选择取消。审批针对的是整个计划;目前还不能按动作逐一设置。

这对您意味着什么

  • 让智能体跨模块运行多步骤工作流,并在同一份运行记录中,确切看到它做了什么。
  • 赋予它真正的权限,而不是无限的权限——每一步都按提出请求者本人的权限进行校验。
  • 在任何操作运行之前批准整个计划,而不是事后才发现。

值得信赖的 AI 行动,主要不取决于提示词,而取决于底层平台能否为智能体的所作所为给出交代。Cyril 的设计,就是让它永远都能给出交代。

常见问题

护栏提示词还不够吗?

提示词决定的是模型试图做什么,与平台允许它做什么毫无关系,而当前者出错时,守住底线的是后者。请把提示词当作使用体验,把权限模型当作管控手段。

智能体应该有自己的服务账号吗?

不应该有一个权限宽泛的服务账号。一个拥有广泛读取权限的服务账号,会把权限问题从您的角色模型中挪到一个没人审查的地方。智能体以用户的身份、在该用户的权限之内行事,“这个智能体能做什么”才能和“这个人能做什么”在同一个地方得到回答。

智能体的运行可以撤销吗?

目前还不能一步撤销。智能体创建或修改的记录可以像其他记录一样更正或删除,已经发出的提醒则无法撤回。正因如此,Cyril 会在任何一步运行之前,先请您批准计划。

可以只对部分动作要求审批吗?

Cyril 目前还不支持。现在 Ask Cyril 会请您在任何一步运行之前批准整个计划,您也可以选择取消。

Cyril 团队产品与工程

由打造 Cyril 的团队撰写。

继续阅读

全部文章

七个问题,检验 AI 是否真正内建于平台

如今每家厂商都说自己的平台是 AI 原生的。七个问题,就能把“架构层面的事实”与“功能清单上的一行”区分开来——每个问题都有具体的答案,您在一次演示中就能要求对方给出。

AI 架构阅读时长 8 分钟

Cyril 即将开放抢先体验

一个平台,涵盖销售、项目、客户支持、文档和财务,AI 内建于底座而非外挂。加入等候名单,成为首批用户。

明亮、满是绿植的办公室里,一个小团队围着一张长木桌一起工作