低调学安全

CyberStrikeAI 新增人机协同(HITL):工具调用可审批、可配置白名单

CyberStrikeAI 人机协同(HITL)上线:在自动化与可控之间,留一扇人类能推开的门

Image

一、效率与责任,从来不是单选题

安全测试正在经历一场静默的重构:模型读得懂自然语言,编排得了上百种工具,一条指令就能串起信息收集、验证、利用的链条。效率被拉满的同时,一个老问题反而更尖锐了——当执行链的末端是真实资产、真实流量、真实后果时,「全自动」是否还等于「可托付」?

不是反对自动化。恰恰相反,没有自动化,复杂攻击面根本测不完。我们警惕的是无人签字的自动化:在关键节点上,既没有减速带,也没有退出通道,更没有把「谁拍板」写进流程里。人机协同(Human-in-the-Loop,HITL)想解决的,正是这层张力:让机器跑得够快,又让人在必须出现的地方,一定出现。


二、人机协同在 CyberStrikeAI 里,具体是什么

在 CyberStrikeAI 中,人机协同不是一句口号,而是一套可配置、可落盘、可延续工作习惯的机制:

  • 协同模式:可在对话侧栏选择关闭、审批、审查编辑等模式,按任务敏感度决定是否由人工介入工具调用。
  • 免审批白名单:将只读、低风险或你充分信任的工具放入白名单,其余调用仍可走审批——在「卡死流程」与「全盘放手」之间,取一条可调的中间路线。
  • 全局与会话的结合:全局白名单可写在 config.yaml 的 hitl.tool_whitelist 中;侧栏中的增量可在应用后合并进配置,无需重启服务即可与运行中的实例对齐。新开会话时,侧栏会尽量记住你上一次的偏好,减少重复配置的心智负担。
  • 独立审批入口:导航中的「人机协同」页面承接待处理中断,把「排队等你点头」的事项从聊天流里拎清,避免淹没在日志与流式输出里。

这些能力指向同一件事:把「是否执行」从模型的瞬时冲动,还原成可审计、可复盘的人类决策。


三、再深一层:HITL 本质是「治理接口」

若只把 HITL 理解成「多弹一个确认框」,会低估它的位置。

在组织里,安全测试往往要同时满足几类约束:授权边界(测什么、不测什么)、操作留痕(谁在何时批准了什么)、风险分级(哪些动作必须双人或必须审批)。传统做法靠制度与工单;AI 时代若仍只靠事后审计,成本会指数级上升。HITL 把一部分治理前置到执行路径上:模型可以提议,工具可以待命,但高后果动作默认不自动越过人类设定的阈值。

这不是拖慢 AI,而是给 AI 装转向与刹车——尤其在渗透、应急、红队等场景中,「快」必须与「可解释、可撤回、可担责」绑在一起,专业团队才敢把平台交给一线长期使用。


四、会持续迭代

当前CyberStrikeAI的人机协同我还不是很满意。接下来我会继续打磨交互、策略粒度、与多代理/批量场景的配合,以及与企业内真实流程(角色、分级、留痕)的衔接。当前版本是起点,不是终点;欢迎通过 Issue 与讨论区反馈真实场景里的痛点,它们会优先进入迭代队列。


五、开源与共建

CyberStrikeAI 持续开源迭代,人机协同相关逻辑与配置约定均可在仓库中查阅与扩展。

项目地址:
https://github.com/Ed1s0nZ/CyberStrikeAI

若你也在思考「如何让 AI 安全工具既强大又可治理」,不妨 Star、Fork,或直接参与进来。自动化负责规模,人类负责边界——我们一起把那条边界画清楚。

最后附上几张gpt生成的海报:
Image
Image
Image
Image
Image