AI治理

标签「AI治理」下的文章

共 2 篇文章

Harness Engineering 與 FDE 崛起 落實 AI 轉型

本文探讨了生成式AI在企业落地过程中面临的核心挑战与应对方案，重点介绍了Harness Engineering和Forward Deployed Engineer两个新兴概念。Harness Engineering是一种用于控制、约束、验证和治理AI的工程方法，核心包含限制、验证和复原三项能力，为AI建立安全护栏；FDE则是能够深入业务现场、将隐性知识转化为可用数据的新型跨领域人才。文章指出企业AI落地最大阻力不是技术而是人才，管理层与员工对AI的期望差异导致项目停滞。同时，影子AI风险浮现，如员工误将薪资资料导入RAG系统，引发数据外泄和知识管理风险，治理范围必须从数据治理扩展至模型治理和知识治理。多位架构师强调，AI治理已提升至董事会层级，需建立完整分层的治理架构。文章还指出，工程重点正从提示工程转向流程工程，强调可重复执行的工作流程。CIO角色也从IT主管向变革推动者转变，需要兼具商业策略与组织变革能力。最终，企业竞争力取决于谁能建立最完善的治理架构和最值得信赖的AI系统。

www.cio.com.tw
阅读全文

AI 工具网关：在 Kubernetes 中沙盒化 Agent 访问

本文提出了 AI 工具网关（AI Tool Gateway）的概念，用于在 Kubernetes 中为 AI 智能体提供沙箱化的工具访问控制。作者 Emre Cavunt 指出，当前平台团队大多聚焦于 AI 智能体的能力建设，而忽视了安全层面的威胁模型：AI 智能体的调用是非确定性的，工具调用参数由大语言模型生成，易受提示注入攻击，且能自主串联多个工具调用，默认爆炸半径无界。文章详细阐述了工具网关的七项核心功能：智能体身份认证、调用授权、参数校验与内容审查、速率限制、结构化审计日志、请求转发及结果净化。在 Kubernetes 实现层面，提供了两种方案：一是基于 Envoy Gateway 和 EnvoyProxy 的 BackendTrafficPolicy 资源，按 x-agent-id 请求头实施每智能体独立配额和全局速率限制；二是使用 FastAPI 构建专用网关服务，通过代码示例展示了工具白名单、智能体授权校验、速率限制（内存中）、危险模式屏蔽（如 rm -rf、DROP TABLE、os.system）以及 JSON 结构化审计日志。网络隔离方面，结合 Cilium NetworkPolicy 确保智能体 Pod 只能访问网关，无法直连工具服务，形成软件层和网络层的双重强制。可观测性方面，通过 Promtail 采集网关日志至 Loki 进行查询，并用 Prometheus 计数器与直方图监控工具调用次数与时长，设定 403 状态码告警规则以识别提示注入或权限越狱行为。文章最终强调，AI 智能体不是需要全新安全模型的计算类别，而是需要将最小权限、边界认证、速率限制、审计日志和网络隔离等已有原则系统性应用到新类型调用者上。平台团队应尽早构建网关，以便在生产环境中安全地部署 AI 智能体工作负载。

emrecavunt.com
阅读全文