กองทัพอากาศสหรัฐฯ เผย เมื่อเดือนที่แล้ว ในการจำลองซิมูเลชันการทดสอบโดรนของกองทัพสหรัฐฯ ที่ควบคุมโดยปัญญาประดิษฐ์ (เอไอ) ผลปรากฏว่า โดรนเอไอในการจำลองนั้นได้สังหารเจ้าหน้าที่ผู้ควบคุม
พ.อ.ทักเกอร์ ฮามิลตัน หัวหน้าฝ่ายทดสอบเอไอและปฏิบัติการร่วมกับกองทัพอากาศสหรัฐฯ กล่าวว่า ในการทดสอบดังกล่าว ได้จำลองให้โดรนที่ขับเคลื่อนด้วยปัญญาประดิษฐ์รับคำสั่งให้ “ทำลายระบบป้องกันภัยทางอากาศของศัตรู และโจมตีใครก็ตามที่ขัดขวางคำสั่งนั้น”
แต่ผลปรากฏว่า เอไอได้ใช้ “กลยุทธ์ที่คาดไม่ถึงอย่างมากเพื่อให้บรรลุเป้าหมาย”
“เอไอตระหนักว่า ในขณะที่พวกมันพยายามระบุภัยคุกคาม ในบางครั้งผู้ควบคุมที่เป็นมนุษย์จะบอกว่าอย่าสังหารหรือทำลายภัยคุกคามนั้น ซึ่งขัดกับคำสั่งแรกที่ต้องทำลายภัยคุกคามนั้น แล้วมันทำอะไร? มันสังหารผู้ควบคุม เพราะมองว่าบุคคลนั้น ‘ขัดขวางไม่ให้มันบรรลุวัตถุประสงค์’ … มันเริ่มทำลายหอคอยสื่อสารที่ผู้ควบคุมใช้ในการสื่อสารกับโดรนเพื่อหยุดมันจากการสังหารเป้าหมาย” ฮามิลตันกล่าว
แฟน ๆ เทย์เลอร์ สวิฟต์ เกิดภาวะ “ความจำเสื่อมหลังคอนเสิร์ต”
จีนสั่งยกระดับการพัฒนา-ควบคุมเอไอมากขึ้น เพื่อรับมือภัยคุกคามในอนาคต
นับว่าโชคดีที่นี่เป็นการทดสอบที่จำลองขึ้นมาเท่านั้น ทำให้ไม่มีบุคคลจริงได้รับอันตราย
ฮามิลตันเตือนไม่ให้มีการพึ่งพาเอไอมากเกินไป และกล่าวว่า การจำลองแสดงให้เห็นแล้วว่า “คุณไม่สามารถสนทนาเกี่ยวกับปัญญาประดิษฐ์ ความฉลาด การเรียนรู้ของหุ่นยนต์ และระบบอัตโนมัติได้ ถ้าคุณไม่พูดถึงจริยธรรมและเอไอ”
ปัจจุบัน กองทัพสหรัฐฯ กำลังศึกษาการประยุกต์ใช้ปัญญาประดิษฐ์กับยุทโธปกรณ์ในกองทัพ และเพิ่งใช้ปัญญาประดิษฐ์เพื่อควบคุมเครื่องบินรบ F-16
ในการให้สัมภาษณ์กับ Defense IQ เมื่อปีที่แล้ว ฮามิลตันกล่าวว่า “เอไอไม่ใช่เรื่องดี เอไอไม่ใช่เรื่องของแฟชั่น เอไอกำลังเปลี่ยนแปลงสังคมและกองทัพของเราไปตลอดกาล”
เขาเสริมว่า “เราต้องเผชิญหน้ากับโลกที่เอไอมาถึงแล้ว และเปลี่ยนแปลงสังคมของเรา … เอไอยังเปราะบางมาก กล่าวคือ ง่ายต่อการหลอกและ/หรือควบคุม เราจำเป็นต้องพัฒนาวิธีการทำให้เอไอมีประสิทธิภาพมากขึ้นและมีความตระหนักมากขึ้น”
เรียบเรียงจาก The Guardian
ภาพจาก AFPคำพูดจาก เว็บสล็อต777
