👁 86 次阅读
AI正在接手事故处理。当它做得越来越好，真正出事时能顶上的人可能已经不会修了。
AI SRE越强，工程师越生疏
今天的HackerNews热榜上，一篇标题直指要害的文章拿到了397分和338条评论：《AI handles incidents, engineers lose touch with their systems》（AI处理事故，工程师与系统脱节），作者Sylvain Kalache。他曾是LinkedIn的SRE——2012年就设计过一套能自我修复、能从历史事故中学习的系统；当年AI能力还很弱，那只是一个原型，如今却成了现实。
现在的AI SRE能检查告警、形成假设、查询遥测、关联最近的部署，甚至自己动手把修复实施掉。Kalache承认这很惊艳，尤其夜里一台机器容量告警被自动抹平、你不必被叫醒时。但他紧接着抛出一个更大的担忧：我们正在与自己的系统失去联系。
常规事故恰恰是响应者『安全地』积累系统直觉的地方——观察它怎么坏、怎么恢复。AI把这些都包了，人拿到的练习就越来越少。等一个模糊的、前所未见的高危事故砸下来、自动化束手无策时，接手的人经验会比从前少得多。
自动化悖论：越自动，越没人会修
人机交互研究者Lisanne Bainbridge早在1983年的经典论文《The Ironies of Automation》里就点破了这个悖论：自动化减少了操作员练习常规工作的机会，却让他们继续对新型和异常情况负责。她的结论是，操作员需要比自动化之前更高的技能和更多训练，而不是更少。
Kalache据此做出一个具体预测：得益于AI辅助事故响应，大多数事故的平均修复时间（MTTR）会下降；但复杂事故的解决时间会飙升——因为响应者与系统脱节、陷入排查困境。
航空业早就踩过这个坑。飞机自动化承担了大部分飞行，但发动机失效、仪表故障、中断起飞、失速这些异常仍由飞行员负责。现代涡轮发动机的空中停车率低于每10万飞行小时一次——罕见到一名商业飞行员整个职业生涯都可能没在真实飞行中遇到一次，只在模拟器里练过。可一旦真的发生，机组必须快速且正确。Kalache举了一个案例：一架飞机起飞后右发动机螺旋桨自动折叠，飞机本应能靠左发动机继续飞，但机组误判了故障，飞机在首次警告后仅117秒就失速坠毁。正因如此，美国FAA要求机长每六个月完成一次复训或熟练检查，其中就包括起飞时发动机失效这类场景。
解药不是看AI解释，而是自己上手
Kalache给出两条路。第一条是练习：他所在的事故管理公司Rootly与合作方做仿真事故演练——工程师坐上事故指挥官的位子，在一场模拟的电商宕机里用可观测性工具排查，同时和Slack里由LLM驱动的干系人协调，一边查问题一边面对CEO和客服压力。他强调：解释和观察替代不了练习。看塞雷娜·威廉姆斯打球能学到一点，但网球只能在球场上学。
第二条是警惕新债务。他把这种积累叫做『理解债』（comprehension debt）：系统实际怎么运作，与响应者对它的理解之间，缺口越拉越大。文末他还埋了一刀：AI写的代码人类已经无法全部审查——AI辅助编码本身可能就是事故的温床。
今日其他AI热点速览
美国两大学区对学生AI亮出红色禁令。纽约市与洛杉矶联合学区——全美最大和第二大学区——在本周新学年开始前收紧政策：K-8年级课堂全面禁用面向学生的生成式AI，高中仅允许有限批准工具。这是覆盖约37.8万名学生的一年期禁令，明显严于3月那份把绝大多数使用归入『黄灯』、决策权下放给老师的红绿灯方案。父母、教师和学生组成的AIM Coalition与Schools Beyond Screens是主要推手，前一份方案的讨论甚至让校方官员自己始料未及。（据TechPolicy.Press报道，HN 61分/74评论）
tokentab：一条命令算清Claude Code到底花了你多少钱。GitHub新仓库damejan80/tokentab上线约10天拿到1160颗星，它能读取Claude Code、Codex、Gemini CLI的会话日志，自动算出实际花费了多少token与金额。订阅之外悄悄烧钱的API消耗，正成为AI团队最容易被忽视的成本黑洞。（据GitHub社区数据）
结语
AI把MTTR砍下去是真的，把人手艺掏空也是真的。答案不是拒绝AI SRE，也不是让AI讲一遍它的思路——而是像飞行员一样，定期回到模拟器。理解债不还，账迟早会一起到期。