Q:
เหตุใด DARPA จึงค้นคว้า "AI ที่อธิบายได้"
A:โดยทั่วไปปัญญาประดิษฐ์ที่อธิบายได้กลายเป็นส่วนหนึ่งของการทำงานที่ล้ำสมัยในศาสตร์ข้อมูล มันช่วยชี้แนะการควบคุมของมนุษย์เกี่ยวกับเทคโนโลยีที่มีความผันผวนและมีพลวัตโดยกำเนิด - AI ที่สามารถอธิบายได้ช่วยตอบคำถามจำนวนมากของเราเกี่ยวกับการทำงานของปัญญาประดิษฐ์
เพื่อให้เข้าใจ AI ที่อธิบายได้จะช่วยให้เข้าใจว่า "AI ปกติ" เป็นอย่างไร ตามเนื้อผ้าเมื่อ AI เริ่มเป็นรูปเป็นร่างโครงการทั่วไปประกอบด้วยความสามารถซอฟต์แวร์ใหม่ที่ซ่อนอยู่ในอัลกอริทึมและชุดฝึกอบรมและรหัสเชิงเส้นนั่นเป็น "กล่องบล็อก" สำหรับผู้ใช้ พวกเขารู้ว่ามันใช้งานได้ - พวกเขาไม่รู้ว่าจะทำอย่างไร
สิ่งนี้สามารถนำไปสู่ "ปัญหาความน่าเชื่อถือ" ซึ่งผู้ใช้อาจตั้งคำถามถึงพื้นฐานที่เทคโนโลยีตัดสินใจ นั่นคือสิ่งที่ AI ควรอธิบายได้: โครงการ AI ที่อธิบายได้มาพร้อมกับโครงสร้างพื้นฐานเพิ่มเติมเพื่อแสดงเจตนาและโครงสร้างของ AI - ผู้ใช้ปลายทาง - ทำไมจึงทำในสิ่งที่ทำ
ในยุคที่นักประดิษฐ์ชั้นแนวหน้าเช่น Bill Gates และ Elon Musk แสดงความกังวลเกี่ยวกับวิธีการทำงานของปัญญาประดิษฐ์ AI ที่อธิบายได้น่าดึงดูดมาก ผู้เชี่ยวชาญยืนยันว่า AI ที่อธิบายได้ดีจะช่วยให้ผู้ใช้เข้าใจว่าทำไมเทคโนโลยีถึงทำในสิ่งที่พวกเขาทำเพิ่มความไว้วางใจและเพิ่มความสะดวกในการใช้งานและการใช้ประโยชน์จากเทคโนโลยีเหล่านี้
แม้ว่าโดยเฉพาะ DARPA จะอธิบายด้วยตัวเองว่าทำไมมันถึงสนใจโครงการใหม่ หน้าหนึ่งของ DARPA แสดงให้เห็นว่ากระทรวงกลาโหมคาดว่าจะมี“ ฝนตกหนัก” ของแอพพลิเคชั่นปัญญาประดิษฐ์และความโกลาหลจำนวนหนึ่งในการพัฒนา
“ ความก้าวหน้าอย่างต่อเนื่องสัญญาว่าจะสร้างระบบปกครองตนเองที่จะรับรู้เรียนรู้ตัดสินใจและดำเนินการด้วยตนเอง” เดวิดกันนิ่งเขียน “ อย่างไรก็ตามประสิทธิภาพของระบบเหล่านี้ถูก จำกัด ด้วยการไร้ความสามารถในปัจจุบันของเครื่องเพื่ออธิบายการตัดสินใจและการกระทำของพวกเขาต่อผู้ใช้มนุษย์ … AI ที่สามารถอธิบายได้ - โดยเฉพาะอย่างยิ่งการเรียนรู้ของเครื่องที่สามารถอธิบายได้ - จะมีความสำคัญหากนักสู้ในอนาคตจะต้องเข้าใจเชื่อถือได้อย่างเหมาะสมและจัดการหุ้นส่วนเครื่องจักรอัจฉริยะรุ่นใหม่ที่ปลอมแปลงได้อย่างมีประสิทธิภาพ”
บทความออนไลน์ของ Gunning แนะนำว่าระบบ AI ที่สามารถอธิบายได้จะช่วย“ ให้เหตุผล” สำหรับเทคโนโลยีแสดงจุดแข็งและจุดอ่อนของพวกเขาและทำให้การใช้งานมีความโปร่งใสมากขึ้น ภาพกราฟิกบนหน้าแสดงให้เห็นถึงวิธีการใช้งานฟังก์ชั่นปัญญาประดิษฐ์จากข้อมูลการฝึกอบรมที่ตรงไปตรงมาโดยสิ่งที่เรียกว่าแบบจำลองที่อธิบายได้และส่วนต่อประสานที่อธิบายได้ซึ่งจะช่วยให้ผู้ใช้ตอบคำถาม Gunning ยังแนะนำเพิ่มเติมว่าโปรแกรม AI ที่สามารถอธิบายได้จะมีจุดเน้นที่สำคัญสองจุด - หนึ่งจะกลั่นกรองผ่านข้อมูลมัลติมีเดียเพื่อค้นหาสิ่งที่มีประโยชน์ต่อผู้ใช้และจุดเน้นที่สองคือการจำลองกระบวนการตัดสินใจเพื่อสนับสนุนการตัดสินใจ
DARPA หวังที่จะให้ "เครื่องมือ" ที่สามารถช่วยพัฒนาระบบ AI ที่อธิบายได้ในอนาคต
