"Errar es humano; realmente ensuciar las cosas requiere una computadora ”. William E. Vaughan hizo esta observación en 1969. Darle el control a un sistema automatizado conlleva el potencial de que el sistema se salga mal y cause daños graves antes de que se verifique.
La automatización no es nueva, pero se está extendiendo mucho más gracias a la integración de los sistemas digitales y físicos. La ventaja de la automatización a escala es la gran eficiencia. Pero la desventaja de confiar en un sistema de configurarlo y olvidarlo es que alguien puede fallar al configurarlo correctamente.
Con un sistema que simplemente sigue sin intervención y sin forma de detener la maquinaria, puede tener efectos destructivos. En consecuencia, la tecnología puede crear el tipo de situación descrita en "El aprendiz de brujo", cuando lo que parece hacer la vida más fácil realmente se descontrola.
