間違い学〜「ゼロリスク」と「レジリエンス」〜

松尾太加志 2024年6月 新潮社より出版 880円


 ヒューマンエラーだと思って判断や行為を行っている人はいない。その人は気づいていない。そのため、どんなに注意をしてもヒューマンエラーはなくならない。ヒューマンエラーを防止するには、外から気づかせるしかない。「外的手がかり」をうまく使ってヒューマンエラーに気づかせることが重要である。
 しかし、外的手がかりの対策はヒューマンエラーをゼロにすることを目指しているわけではない。ゼロリスクを想定していない。ゼロリスクを目指そうとする対策は複雑なシステムになるとかえって負荷をかけてしまう。エラーには寛容になって、エラーが生じてもうまく立ち直れるようなレジリエントな対策が重要である。

詳細目次

第1章 ヒューマンエラーがもたらす事故

 手術で患者を取り違えた事故【事例 1-1】
 複数のエラーが生じて事故に至る
 どうすべきだったか
 リストバンドの装着ミス【事例 1-2】
 ITやDXは新たなヒューマンエラーを生み出す

第2章 ヒューマンエラーとは

 キャッシュレス決済での失敗【事例2】
 本来できたはずなのに
 エラーとそうでない場合の違い
 ヒューマンエラーの定義
 モノや機器とのかかわりでヒューマンエラーが生じる
 AIも万能ではない

第3章 エラーをした人は悪いのか?

 遮断機を上げざるをえなかった開かずの踏切の事故【事例3】
 不完全なシステムを人が調整している
 システムの問題がヒューマンエラーを生む
 人を責めない対策
 意味のない「気をつける」対策
 注意すると改善されるという誤謬
 後知恵バイアスによる指摘〜後だしじゃんけん〜

第4章 外的手がかりでヒューマンエラーに気づかせる

 欠席者を合格にしてしまった入試ミス【事例4】
 外的手がかりで防止策を検討
 外的手がかりで考えることが大事

第5章 外的手がかりの枠組みでエラー防止を整理

 インターホンの配線間違い【事例5】
 文書で気づかされる
 表示で気づかされる
 対象で気づかされる
 電子アシスタントで気づかされる
 人(他者)から気づかされる
  外的手がかりの効果と実現可能性
 5つの枠組みで防止策を現場で考える

第6章 そのときの状況がエラーを招く

 薬の処方ミスによる死亡事故【事例6】
 さまざまな背景要因がエラーを誘発
 医師のおかれた多忙な背景
 モノやシステムの改善によるエラー防止策

第7章 外的手がかりは使いものになるのか

 照合せずに輸血をしてしまった【事例7】
 外的手がかりは使ってもらえるか?〜動機づけ理論〜
 人の行動は誘因と動因で決まる
 外的手がかりは何を防いでいるのか
 行為をどうとらえるか―行為の制止、防護、修正
 外的手がかりだけでヒューマンエラーは防ぐことができるのか

第8章 IT、DX、AI はヒューマンエラーを防止するのか

 人は進化していない
 人を介さないことでエラーがなくなる
 電子アシスタントによるエラーに気づかせるしくみ
 エラーに気づきやすいインタフェースが可能か
 ネットワーク上の外的手がかり
 人間をどう活かすか

第9章 ゼロリスクを求める危険性

 新型コロナウィルスへの対処の異常さ
 複雑なシステムには必ずリスクが
 Safety-I, Safety-II の考え方
 感染者ゼロを目指すSafety-I, ウィズコロナのSafety-II
 人間というシステムに合うのは Safty-II
 レジリエンスという考え方
 リスクとベネフィットを考える
 人工知能がうまくいくのは
 エラーに気づいてうまく対処できればよい

本書の紹介記事サイト


TOP