แฮกเกอร์ใช้ไอเพื่อเจตนาร้ายหรือไม่?

ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์กำลังมองหาปัญญาประดิษฐ์ (AI) ด้วยความกระตือรือร้นและความกังวลใจ ในอีกด้านหนึ่งมันมีศักยภาพที่จะเพิ่มเลเยอร์การป้องกันใหม่ทั้งหมดสำหรับข้อมูลที่สำคัญและโครงสร้างพื้นฐาน แต่ในอีกแง่หนึ่งมันสามารถใช้เป็นอาวุธอันทรงพลังเพื่อป้องกันการป้องกันเหล่านั้นโดยไม่ทิ้งร่องรอยใด ๆ

เช่นเดียวกับเทคโนโลยีใด ๆ AI มีทั้งจุดแข็งที่จะยกระดับและจุดอ่อนที่สามารถใช้ประโยชน์ได้ ความท้าทายสำหรับผู้เชี่ยวชาญด้านความปลอดภัยในปัจจุบันคือการก้าวไปข้างหน้าคนร้ายซึ่งควรเริ่มต้นด้วยความเข้าใจที่ชัดเจนว่า AI สามารถใช้เป็นอาวุธข้อมูลที่น่ารังเกียจได้อย่างไร

แฮ็ค AI

สำหรับสิ่งหนึ่ง Nicole Kobie ของ Wired กล่าวว่าเราควรตระหนักว่าเช่นเดียวกับสภาพแวดล้อมข้อมูลใด ๆ AI สามารถถูกแฮ็กได้ หัวใจของกระบวนการที่ชาญฉลาดนั้นมีอัลกอริธึมและอัลกอริธึมตอบสนองต่อข้อมูลที่ได้รับ นักวิจัยกำลังแสดงให้เห็นว่าเครือข่ายประสาทสามารถหลอกให้คิดว่ารูปเต่าเป็นภาพของปืนไรเฟิลและสติกเกอร์ง่าย ๆ บนป้ายหยุดรถทำให้เกิดการปกครองตนเองในการขับรถเข้าไปในสี่แยก การจัดการแบบนี้ไม่เพียงเป็นไปได้หลังจากติดตั้ง AI แล้ว แต่เมื่อได้รับการฝึกฝนเช่นกันอาจทำให้แฮกเกอร์สามารถทำลายความเสียหายทุกประเภทได้โดยไม่ต้องสัมผัสโครงสร้างพื้นฐานขององค์กรลูกค้า