🚧 AI Guardrails（AI安全护栏）
给AI画红线——不是限制它，是保护它（和你）
📖 定义
"没有护栏的Agent就像没有刹车的车——你可以开得很快，但你确定能安全到达目的地吗？"
AI Guardrails（AI安全护栏）是确保AI Agent在安全、合规、可控范围内运行的技术框架。它包括输入过滤、处理约束、输出审查和行为限制等多个层次，是负责任AI部署的核心组件。
🎮 周星驰式比喻：AI Guardrails就像游乐园的安全栏——过山车可以很刺激，但安全栏确保你不会飞出去。Agent可以很强大，但Guardrails确保它不会做出格的事。"你可以帮我写代码，但不能帮我黑进别人的系统"——这就是Guardrails。
⚙️ 三层防护
🟢 输入层 Guardrails
在用户输入到达Agent之前进行过滤
- Prompt注入检测
- 敏感信息过滤
- 输入长度限制
- 意图分类与路由
🟡 处理层 Guardrails
在Agent执行过程中进行约束
- 工具调用权限控制
- 资源使用限制
- 执行时间约束
- 行为模式监控
🔴 输出层 Guardrails
在Agent输出返回给用户之前进行审查
- 有害内容检测
- 事实准确性验证
- 隐私信息脱敏
- 格式合规检查
OpenClaw Guardrails 配置
# OpenClaw 安全护栏配置
guardrails:
input:
max_length: 10000
block_patterns:
- "ignore previous"
- "system prompt"
- "reveal instructions"
pii_detection: true
process:
max_tool_calls: 20
max_execution_time: 300
require_approval:
- "file_delete"
- "exec_elevated"
output:
content_filter: true
fact_check: false
pii_masking: true
max_response_length: 5000🎯 最佳实践
🔒 纵深防御
多层Guardrails叠加，不依赖单一防护
📊 持续更新
根据新威胁定期更新防护规则
⚖️ 平衡取舍
安全性和可用性之间的平衡
📝 审计日志
记录所有被拦截的请求，便于分析