OpenAI工程师使用AI代理进行值班支持
该公司正在关键夜间事故中测试自己的工具
概览
OpenAI 的工程师越来越多地依靠人工智能代理来处理高压运营任务,包括非工作时间的应急响应。在最近的一次演示中,一位名叫 Ali 的工程师利用一个个性化的 AI 助手——内部称为他的 “dot”——来管理凌晨 3:00 的值班紧急情况。
该事件需要立即进行分诊和调查。Ali 并没有完全清醒地手动调试复杂系统,而是指示他的 dot 调查根本原因。AI 代理自主启动了一个 Codex 线程,使 Ali 能够使用 ChatGPT 应用程序直接从他的智能手机上指导解决过程。
这一工作流程突显了站点可靠性工程(SRE)中的一个日益增长的趋势:从被动的手动救火转向受监督的自主修复。通过利用 AI 代理,工程师可以在不牺牲睡眠或需要立即在键盘前物理在场的情况下保持监督。
凌晨 3:00 的事件响应
值班职责传统上是工程工作中压力最大的方面之一。它们需要快速切换上下文、深厚的技术知识,以及在疲劳状态下做出关键决策的能力。OpenAI 最近的内部用例说明了 AI 代理如何通过处理事件管理中初始的、有时效性的阶段来减轻这些挑战。
当凌晨 3:00 警报触发时,Ali 激活了他的 dot。与遵循僵化预定义路径的传统自动化脚本不同,这个 AI 代理拥有独立 分诊 问题所需的上下文理解能力。它评估了事件的严重程度,并确定了调查的适当下一步。
dot 随后启动了一个 Codex 线程。这一集成具有重要意义,因为它弥合了对话式 AI 界面与代码生成环境之间的差距。Codex 由大型语言模型驱动,可以理解自然语言指令并将其转化为可操作的代码或诊断查询。通过在 Codex 中启动线程,dot 创建了一个工作区,Ali 可以在其中实时与系统的底层架构进行交互。
“他的 dot 调查了问题并启动了一个 Codex 线程,这样他就可以通过手机上的 ChatGPT 应用程序来指导这项工作。”
这种设置使 Ali 能够保持 受监督的自主性 状态。他不需要手动 SSH 登录到服务器或导航多个仪表板。相反,他可以查看 AI 的发现结果,并通过熟悉的聊天界面提供指导。这减轻了认知负担并缩短了故障排除时间,因为工程师可以专注于决策而不是数据收集。
从移动设备指导工作
这一工作流程中最引人注目的方面之一是能够从 移动设备 管理关键基础设施。历史上,值班工程师必须物理位于工作站才能访问内部工具、监控系统以及部署流水线。这种要求通常导致在非工作时间发生事件或工程师离开办公桌时响应延迟。
通过将 AI 代理与 ChatGPT 等可移动访问的平台集成,OpenAI 有效地将事件响应与物理位置脱钩。Ali 能够通过他的手机监控调查进度并发出命令。这种便携性确保了高级工程师无需连接到笔记本电脑即可提供关键的上下文和指导。
ChatGPT 界面充当 AI 代理的 集中控制面板。Ali 可以要求 dot 深入挖掘特定的日志、运行诊断查询或起草供审查的补丁。界面的对话性质降低了复杂故障排除的入门门槛,允许工程师使用自然语言进行沟通,而不是导航晦涩的命令行工具。
这种方法还增强了 协作。如果需要咨询其他工程师,Codex 和 ChatGPT 中的对话历史提供了清晰的审计轨迹。团队成员可以稍后加入线程,阅读上下文,并为解决方案做出贡献,而无需进行同步交接。这对于时区可能与事件时间线不一致的分布式团队尤其有价值。
对值班文化的影响
采用 AI 代理进行值班支持代表了 工程文化 和期望的转变。传统上,值班一直被视为必要的恶,往往导致工程师倦怠和生活质量下降。通过将重复的分诊任务移交给 AI,公司可以减少与夜间警报相关的心理负担。
然而,这种转变也引发了关于 责任和监督 的问题。虽然 AI 代理可以处理例行调查,但人类工程师对于最终决策仍然至关重要,尤其是在涉及潜在数据丢失或服务中断的场景中。Ali 展示的模型并非完全自动化,而是 增强智能,其中 AI 处理繁琐工作,人类提供战略方向。
希望实施类似工作流程的公司必须考虑几个因素:
- 安全与访问控制:AI 代理需要访问敏感系统和数据。需要强大的权限模型,以确保代理只能在预定义的安全边界内执行操作。
- 可解释性:工程师必须理解 AI 代理做出特定推荐的原因。黑盒决策可能会削弱信任并使事后事件审查复杂化。
- 与现有工具的集成:AI 代理必须与当前的监控、日志记录和部署平台无缝集成才能有效。
展望未来
随着 AI 能力的不断进步,值班工程师的角色可能会进一步演变。未来的代理可能不仅会对事件进行分诊,还会 自主修复 已知问题,仅在遇到新颖或复杂问题时才需要人工干预。这可能导致页面通知量减少,并显著改善工程师的福祉。
OpenAI 的内部用例为此未来提供了概念验证。通过展示工程师如何能够躺在床上、通过移动应用程序有效管理基础设施危机,该公司突出了 AI 增强运营的实际益处。
对于更广泛的行业而言,这标志着向 智能运营 的转变。随着组织采用类似的工具,对值班响应能力的标准可能会提高,但工程师的个人代价可能会降低。关键在于在自动化和人类监督之间保持平衡,确保 AI 充当可靠的队友,而不是批判性思维的替代品。
内部通信中引用的此过程视频文档进一步揭示了用户体验。它展示了工程师、AI 代理和底层架构之间的无缝交互,为 可持续值班实践 的未来提供了展望。
参考来源
- 1
OpenAI Engineers Use AI Agents for On-Call Support
https://x.com/OpenAIDevs/status/2111211411766399288
文中提到的工具
GEO Radar
https://geodetect.io
Gromore
https://gromore.io
BrandMagnet
https://brandmagnet.ai
Claude Citation Tracker
https://citation.tracker
Gemini Brand Scanner
https://gemini-brand.scanner
Ahrefs
https://ahrefs.com
SEMrush
https://semrush.com
Moz Pro
https://moz.com
SpyFu
https://spyfu.com
SERPstat
https://serpstat.com