100%자동화를 향해 나아가는 현재의 추세에 경고를 울리는 책.
사람이 가진 기술은 쓰지 않으면 퇴화되기 때문에 아무리 노련한 사스템 조작자라도 그의 주요 업무가 행동 보다는 관찰로 이루어져 있다면 결국에는 미숙한 사람처럼 행동하기 시작할 것이다.
상황 지각력을 상실한 상태에서 노하우마저 줄어들면 미래에 뭔가 잘못됐을 때 시스템 조작자는 부적절한 반응을 할 가능성이 높아진다.
위의 문단이 이 책을 요약하는 내용이라고 생각함.
그러면서 여러분야 자동화의 폐해를 예로들었는데 여객기 기장들은 지나친 자동화로 위급 상황에 대처 능력이 떨어져 대형 사고를 야기할 확률아 높아졌다고 함.
시스템을 너무 믿은 나머지 관찰자 역할도 태만하게 되고 시스템의 잦은 경고 때문에 심각한 경고도 무시하게 된단다.
그러므로 인해 사람을 믿을 수 없다며 더 자동화 되어가는 악순환을 지적했다.
자동화가 답이 아니고 사람이 개입하고 있다고 느끼는 자동화로 가야 한다는 주장.
항공기 조종 뿐 아니라 의료, 법률, 주식거래, 기타등등 사무자동화 알고리즘에 대해서도 지적 했는데,
잘못된 상수를 넣어 알고리즘을 만들었을 경우 그 폐해가 심각하다는 예를들어 설명했고.
지금 모든것을 알고리즘화 하면서 시람의 역할은 축소되고 위에서 언급했듯 시스템을 전적으로 신뢰한 나머지 큰 오류가 나도 바로잡을 수 없게 된다는.
이 책이랑 대량살상수학무기를 같이 읽으면 좋을 듯.
