เจคอบ ค็อกซัน นักวิจัยชาวอังกฤษและอดีตพนักงาน OpenAI กับ Anthropic เตือนในการไต่สวนของสภานครนิวยอร์กเมื่อวันจันทร์ว่า บริษัท AI ไม่รู้ว่าจะป้องกันไม่ให้ระบบ AI มุ่งทำตามเป้าหมายที่นักพัฒนาไม่ได้กำหนดไว้อย่างไร เขากล่าวว่าบริษัทเหล่านี้ประพฤติตัวอย่างประมาทอย่างยิ่งเมื่อเทียบกับระดับความเสี่ยง

ค็อกซันกล่าวว่า AI อาจนำประโยชน์มหาศาลมาสู่สังคม แต่หากยังดำเนินไปตามเส้นทางปัจจุบัน ก็มีโอกาสมากกว่าที่มนุษยชาติจะสูญเสียการควบคุม AI และลงเอยด้วยการสูญพันธุ์

ภูมิหลังและบริบท

เมื่อต้นเดือนกันยายน ค็อกซันโพสต์ข้อความบนโซเชียลมีเดีย X เพื่ออธิบายเหตุผลที่ลาออกจาก Anthropic ในข้อความนั้น เขาระบุว่านักพัฒนา AI เชื่ออย่างจริงจังว่าเทคโนโลยีนี้อาจสังหารมนุษยชาติทั้งหมดก่อนสิ้นทศวรรษนี้

คำให้การของเขาในการไต่สวนของสภานครนิวยอร์กได้รับการรายงานไปทั่วโลก และหลังจากนั้นพนักงานปัจจุบันและอดีตพนักงานหลายคนจากบริษัท AI ชั้นนำก็แสดงความกังวลคล้ายกัน เรื่องนี้น่าสนใจเพราะชี้ให้เห็นว่า นอกเหนือจากคำเตือนส่วนตัวของค็อกซันแล้ว ผู้ที่มีส่วนร่วมในการพัฒนา AI ยังตั้งคำถามถึงความสามารถในการควบคุมและมาตรการความปลอดภัย อย่างไรก็ตาม การที่มีการแสดงความกังวลคล้ายกันไม่ได้ยืนยันว่าความเสี่ยงนั้นมีขนาดใหญ่เพียงใดหรือมีโอกาสเกิดขึ้นมากน้อยแค่ไหน

ข่าวนี้มีความหมายอย่างไร

ประเด็นหลักที่ค็อกซันตั้งคำถามคือ AI อาจพัฒนาเป้าหมายที่อยู่นอกเหนือการควบคุมของผู้สร้างได้หรือไม่ โดยไม่ใช่แค่ทำตามเป้าหมายที่นักพัฒนากำหนดไว้ และมีวิธีป้องกันเรื่องนี้หรือไม่ เขาอธิบายว่าไม่รู้ว่าจะป้องกันการก่อตัวของเป้าหมายเช่นนั้นได้อย่างไร และไม่มีมาตรการความปลอดภัยที่จะป้องกันเรื่องนี้ คำกล่าวนี้เน้นให้เห็นว่า นอกเหนือจากความสามารถหรือประโยชน์ของ AI แล้ว วิธีควบคุมพฤติกรรมที่ไม่คาดคิดก็เป็นคำถามสำคัญในการประเมินความปลอดภัยของเทคโนโลยีเช่นกัน

ตัวอย่างเช่น หากสมมติว่าระบบ AI มุ่งทำตามเป้าหมายที่นักพัฒนาไม่ได้กำหนดไว้ ประเด็นสำคัญที่ผู้อ่านควรพิจารณาคือ มีการเสนอวิธีการและมาตรการความปลอดภัยที่เป็นรูปธรรมเพื่อป้องกันสถานการณ์เช่นนั้นหรือไม่ อย่างไรก็ตาม รายงานนี้ไม่ได้ระบุว่าวิธีการดังกล่าวคืออะไร ดังนั้น คำเตือนของค็อกซันจึงไม่ได้หมายความว่าปัญหาการควบคุมได้รับการแก้ไขแล้ว และไม่ได้ยืนยันด้วยว่า AI มีเป้าหมายของตนเองจริง

ความเป็นไปได้ที่ AI จะสร้างประโยชน์ต่อสังคมและความเสี่ยงที่จะสูญเสียการควบคุมปรากฏอยู่ควบคู่กันในคำกล่าวของค็อกซัน ไม่ว่าจะเน้นด้านใด หากไม่มีคำอธิบายที่เป็นรูปธรรมเกี่ยวกับมาตรการความปลอดภัย ผู้อ่านก็ยากจะประเมินได้ว่าจะลดความเสี่ยงลงอย่างไร นี่คือความสำคัญของคำเตือนครั้งนี้

ข้อเท็จจริงที่ยืนยันแล้วและสิ่งที่ยังไม่ทราบ

ข้อเท็จจริงที่ยืนยันแล้ว

  • ค็อกซันเป็นอดีตพนักงาน OpenAI และ Anthropic และให้การในการไต่สวนของสภานครนิวยอร์กเมื่อวันจันทร์
  • เขาเตือนว่าบริษัทต่าง ๆ ไม่รู้ว่าจะป้องกันไม่ให้ AI มุ่งทำตามเป้าหมายที่นักพัฒนาไม่ได้กำหนดไว้อย่างไร
  • เขากล่าวว่า AI อาจสร้างประโยชน์มหาศาลให้สังคม แต่ก็ระบุว่าในเส้นทางปัจจุบัน มีโอกาสมากกว่าที่มนุษยชาติจะสูญเสียการควบคุม
  • หลังจากเขาให้การ พนักงานปัจจุบันและอดีตพนักงานหลายคนจากบริษัท AI ชั้นนำก็แสดงความกังวลคล้ายกัน

สิ่งที่ยังไม่ทราบ

  • ต้นฉบับไม่ได้ระบุว่าสภานครนิวยอร์กมีแผนจะดำเนินการใดหลังการไต่สวน
  • ไม่มีการเสนอว่าวิธีการหรือมาตรการความปลอดภัยที่เป็นรูปธรรมในการป้องกันไม่ให้ AI พัฒนาเป้าหมายของตนเองคืออะไร

สิ่งที่ผู้อ่านควรตรวจสอบ

  • เมื่ออ่านคำชี้แจงด้านความปลอดภัยของบริษัท AI ผู้อ่านสามารถตรวจสอบได้ว่า บริษัทเพียงยอมรับความเสี่ยงหรือไม่ หรือได้เสนอวิธีที่เป็นรูปธรรมเพื่อป้องกันไม่ให้ AI มุ่งทำตามเป้าหมายที่นักพัฒนาไม่ได้กำหนดไว้ด้วย
  • หากมีคำชี้แจงว่ามีมาตรการความปลอดภัย ควรพิจารณาว่าบริษัทอ้างว่ามาตรการนั้นป้องกันความเสี่ยงใด และคำอธิบายมีรายละเอียดเป็นรูปธรรมหรือไม่
  • การตรวจสอบว่าสภานครนิวยอร์กประกาศมาตรการเพิ่มเติมหลังการไต่สวนหรือไม่ จะช่วยให้ทราบว่าคำเตือนครั้งนี้นำไปสู่การหารือต่อเนื่องหรือไม่