上个月有个值班的哥们儿跟我说,他们组里新上的那套自动处置系统,半夜把一次容量告警自己就给消化了,他连床都没起。搁五年前,这得算科幻——我2012年在LinkedIn做SRE那会儿,也琢磨过让系统自己学着自己修,可那时候AI连影子都没有,最后就烂在原型里了。
现在这玩意儿真成了,而且比我想的还猛:自动看告警、自己提假设、查监控、比对最近的发布记录,最后干脆把修复也一起干了。你半夜不用被叫起来,确实爽。我看了也喜欢。
可我心里一直别着件事。你想啊,那些日常的小故障,本来就是工程师练手的地方——系统什么脾气、哪里容易出毛病,都是在这种小打小闹里摸出来的。现在AI把这些活儿全包了,人就没得练了。万一哪天来个它没见过的、模棱两可的大故障,自动处置兜不住,得人上去接管的时候,我们手里那点手感还在吗?1983年有个研究人因的学者叫Lisanne Bainbridge,把这叫"自动化的反讽":机器把常规活儿接走了,可真正出了新状况,还得靠人,而人因为没活儿练,反而更生疏了。
这事儿航空业最有发言权。飞机上天,自动驾驶管着大部分时间,可飞行员年年要回模拟机里练发动机失效、仪表失灵——这些事儿真飞的时候一辈子可能都碰不上一回,但公司不敢让你不练。2015年复兴航空235号班机,起飞后右发动机自动顺桨,飞机本来单发也能飞,可机组没判断对,从第一声告警到坠毁,只有117秒。
我估摸着往后几年,一般故障的平均修复时间会被AI拉下来不少,可碰上复杂的大故障,处理时间八成要飙上去——因为人真的跟自己的系统生分了。这话我也就是自己嘀咕,做这行的人未必都认。