“ การทำผิดคือมนุษย์ สิ่งที่เลวร้ายจริงๆต้องใช้คอมพิวเตอร์” วิลเลียมอี. วอห์นทำข้อสังเกตนี้ย้อนกลับไปในปี 2512 การควบคุมระบบอัตโนมัตินั้นมีศักยภาพสำหรับระบบที่จะผิดพลาดและก่อให้เกิดอันตรายร้ายแรงก่อนที่จะมีการตรวจสอบ
ระบบอัตโนมัติไม่ใช่เรื่องใหม่ แต่มันได้กลายเป็นที่แพร่หลายมากขึ้นด้วยการบูรณาการระบบดิจิตอลและระบบกายภาพ ข้อดีของระบบอัตโนมัติในระดับสูงนั้นมีประสิทธิภาพที่ดี แต่ข้อเสียของการใช้ระบบ set-it-and-forget-it คือคนที่ไม่สามารถตั้งค่าได้อย่างถูกต้อง
ด้วยระบบที่ติดตามอย่างต่อเนื่องโดยไม่มีการแทรกแซงและไม่มีวิธีหยุดเครื่องจักรคุณสามารถมีผลการทำลายล้างได้ ดังนั้นเทคโนโลยีสามารถสร้างประเภทของสถานการณ์ที่ปรากฎใน“ The Sorcerer's Apprentice” เมื่อสิ่งที่ดูเหมือนจะทำให้ชีวิตง่ายขึ้นจริงๆแล้วควบคุม
