Q:
เหตุใดบาง บริษัท จึงใคร่ครวญการเพิ่ม "การควบคุมความคิดเห็นของมนุษย์" ในระบบ AI สมัยใหม่?
A:บริษัท บางแห่งที่ทำงานกับเทคโนโลยี AI ที่ทันสมัยกำลังทำงานเพื่อควบคุมการทำงานของมนุษย์สำหรับระบบเหล่านี้โดยให้การเรียนรู้ด้วยเครื่องและเครื่องมือการเรียนรู้เชิงลึกสำหรับการกำกับดูแลของมนุษย์โดยตรง บริษัท เหล่านี้ไม่ใช่ผู้เล่นรายย่อย - DeepMind ของ Google และ OpenAI ของ Elon Musk เป็นสองตัวอย่างของ บริษัท ยักษ์ใหญ่ที่ได้รับการฝึกฝนเกี่ยวกับความก้าวหน้าของปัญญาประดิษฐ์ เมื่อพิจารณาแล้วผลลัพธ์ที่แตกต่าง - เช่น DeepMind เป็นประเด็นถกเถียงสำหรับการรับรู้ที่ไม่เต็มใจที่จะให้ข้อมูลสำคัญแก่สาธารณชนในขณะที่ OpenAI นั้น เปิดกว้างมาก เกี่ยวกับการควบคุมปัญญาประดิษฐ์
แม้สิ่งที่โดดเด่นอย่างบิลเกตส์ก็ยังมีน้ำหนักอยู่ในเรื่องนี้เกทส์บอกว่าเขาเป็นหนึ่งในหลาย ๆ คนที่มีความกังวลเกี่ยวกับการเกิดขึ้นของสติปัญญาประดิษฐ์ที่อาจเคลื่อนไหวเกินกว่าการควบคุมของมนุษย์ ในส่วนของเขานั้น Musk ได้ใช้ภาษาที่น่าตกใจเกี่ยวกับความเป็นไปได้ของ“ หัวไม้ AI”
นั่นอาจเป็นเหตุผลที่เร่งด่วนที่สุดที่ บริษัท ต่าง ๆ พยายามใช้การควบคุมของมนุษย์กับ AI - ความคิดที่ว่าภาวะเอกฐานทางเทคโนโลยีบางอย่างจะส่งผลให้เกิดความรู้สึกที่มีพลังอำนาจสูงซึ่งมนุษย์ไม่สามารถควบคุมได้อีกต่อไป นับตั้งแต่รุ่งอรุณแห่งความทะเยอทะยานของมนุษย์เราได้วางเครื่องมือเพื่อให้แน่ใจว่าเราสามารถควบคุมพลังที่เราใช้ - ไม่ว่าจะเป็นม้าที่มีบังเหียนและบังเหียนไฟฟ้าในสายฉนวนหรือกลไกการควบคุมชนิดอื่นที่มี การควบคุมเป็นฟังก์ชั่นของมนุษย์โดยกำเนิดดังนั้นจึงทำให้รู้สึกว่าในโลกที่ปัญญาประดิษฐ์เข้ามาใกล้กับการทำงานจริงมนุษย์ใช้การควบคุมโดยตรงของตัวเองเพื่อรักษาอำนาจนั้นไว้ในการตรวจสอบ
อย่างไรก็ตามความกลัวของหุ่นยนต์อัจฉริยะไม่ได้เป็นเพียงเหตุผลเดียวที่ บริษัท ใช้การควบคุมของมนุษย์ในการเรียนรู้เครื่องจักรและโครงการ AI อีกเหตุผลที่สำคัญคือความลำเอียงของเครื่องจักร - นี่คือความคิดที่ว่าระบบปัญญาประดิษฐ์มักถูก จำกัด ในการประเมินข้อมูลที่เป็นปัญหา - เพื่อที่จะขยายอคติใด ๆ ที่มีอยู่ในระบบ ผู้เชี่ยวชาญส่วนใหญ่ที่เกี่ยวข้องกับการเรียนรู้ด้วยเครื่องสามารถบอกเล่าเรื่องราวสยองขวัญเกี่ยวกับระบบไอทีที่ไม่สามารถปฏิบัติต่อกลุ่มผู้ใช้ที่เป็นมนุษย์ไม่ว่าจะเป็นเพศหรือความไม่เท่าเทียมทางชาติพันธุ์หรือความล้มเหลวของระบบอื่น ๆ เพื่อทำความเข้าใจความแตกต่างของสังคมมนุษย์ของเรา เรามีปฏิสัมพันธ์กับผู้คนอย่างไร
ในอีกแง่หนึ่งเราอาจควบคุมมนุษย์บนระบบเพราะเรากลัวว่าพวกเขาอาจมีพลังมากเกินไป - หรือสลับกันเพราะเรากลัวว่าพวกเขาอาจจะไม่ทรงพลังพอ การควบคุมของมนุษย์ช่วยในการกำหนดเป้าหมายชุดข้อมูลการเรียนรู้ของเครื่องเพื่อให้แม่นยำยิ่งขึ้น พวกเขาช่วยเสริมแนวคิดว่าคอมพิวเตอร์เพียงแค่ไม่สามารถเรียนรู้ด้วยตัวเองได้เพราะแบบจำลองนั้นไม่ซับซ้อนพอเพราะ AI ยังไม่ก้าวหน้ามากพอหรือเพราะบางสิ่งอยู่ในจังหวัดแห่งการรับรู้ของมนุษย์ ปัญญาประดิษฐ์นั้นยอดเยี่ยมสำหรับบางสิ่ง - ตัวอย่างเช่นระบบที่ให้รางวัลและให้คะแนนอนุญาตให้ปัญญาประดิษฐ์สามารถเอาชนะผู้เล่นมนุษย์ในเกมกระดานที่มีความซับซ้อนอย่าง“ Go” - แต่สำหรับสิ่งอื่น ๆ ระบบที่ใช้สิ่งจูงใจนี้คือ ไม่เพียงพอทั้งหมด
โดยสรุปมีเหตุผลที่น่าสนใจมากมายที่จะทำให้ผู้ใช้มนุษย์มีส่วนร่วมโดยตรงในการทำงานของโครงการปัญญาประดิษฐ์ แม้แต่เทคโนโลยีปัญญาประดิษฐ์ที่ดีที่สุดก็ยังสามารถคิดได้เอง - แต่หากไม่มีสมองมนุษย์ชีวภาพที่สามารถประมวลผลสิ่งต่าง ๆ เช่นอารมณ์และสังคมพวกเขาก็ไม่สามารถมองเห็นภาพรวมของมนุษย์ได้
บริษัท การเรียนรู้ของเครื่องจักรที่มีทักษะ สามารถช่วยสร้างความสมดุลด้วยการผสมผสานของธุรกิจและผู้เชี่ยวชาญเฉพาะด้านและผู้พัฒนาเครื่องจักรเรียนรู้ที่มีทักษะในการแก้ปัญหาทางธุรกิจขนาดใหญ่
