复杂系统如何失效
来源：how.complexsystems.fail — 排名 #1 · 76 分
📋 概述
Richard I. Cook 的经典短文，系统性地剖析复杂系统（医疗、运输、电力等）为何会发生灾难性失效。核心论点：复杂系统本质上充满危险，靠层层防御才能维持运转；灾难并非单点故障，而是多个微小无害的失效共同汇合所致，事后把事故归咎于单一根本原因从根本上就是错误的。
🔑 核心要点
- 复杂系统具有内在的、不可消除的危险性，正是危险催生了层层防御。
- 灾难需要多重失效叠加，单点故障不足以酿成大祸，但无数初始失效轨迹被系统部件拦截。
- 复杂系统常年以退化模式运行，事后总能发现一连串的准事故。
- 把事故归因于根本原因是基于社会文化需要的谬误，而非对失效本质的技术理解。
- 操作者身兼生产者与防御者双重角色，所有临场行动本质上都是赌注。
- 安全是系统的涌现属性而非部件属性，人时刻在用适应行为创造安全。
💡 金句
灾难性失效总是近在眼前——复杂系统本质上永远蕴含着灾难的可能。
👍 0
👎 0
← 返回 Hacker News 首页