OpenAI เผยแพร่รายงานฉบับแรกเกี่ยวกับการใช้ ChatGPT ของวัยรุ่นเมื่อวันพุธ โดยระบุว่า วัยรุ่นใช้บริการเฉลี่ย ไม่ถึง 15 นาทีต่อวัน และมีวัยรุ่น ไม่ถึง 2% ที่สนทนากับแชตบอตต่อเนื่องนานกว่า 3 ชั่วโมง OpenAI อธิบายว่า ในบทสนทนาของวัยรุ่นที่มีการแสดงการแจ้งเตือนให้พัก เกือบครึ่งหนึ่งของผู้ใช้พักหรือจบบทสนทนาภายใน 5 นาทีหลังได้รับการแจ้งเตือน

ตัวเลขเหล่านี้เป็นข้อมูลชิ้นหนึ่งที่บริษัทนำเสนอในการถกเถียงเกี่ยวกับการใช้แชตบอตของวัยรุ่น อย่างไรก็ตาม เป็นเรื่องยากที่จะสรุปความเสี่ยงที่วัยรุ่นเผชิญหรือประสิทธิผลของมาตรการคุ้มครองจากระยะเวลาการใช้โดยเฉลี่ยและพฤติกรรมหลังได้รับการแจ้งเตือนเพียงอย่างเดียว องค์กรประเมินอีกแห่งชี้ว่า ChatGPT สำหรับวัยรุ่นอาจทำให้สนทนาต่อแม้ในสถานการณ์วิกฤต ขณะที่ OpenAI โต้แย้งว่าการประเมินดังกล่าวไม่ได้สะท้อนการทำงานของฟีเจอร์คุ้มครองในสถานการณ์จริง

ภูมิหลังและบริบท

ขณะที่แพลตฟอร์ม AI แพร่หลายอย่างรวดเร็ว ความกังวลเกี่ยวกับผลกระทบต่อสุขภาพจิตและความปลอดภัยด้านพัฒนาการของวัยรุ่นก็เพิ่มขึ้น งานวิจัยเกี่ยวกับอันตรายที่สื่อสังคมออนไลน์มีต่อผู้ใช้วัยเยาว์ยิ่งทำให้ความกังวลเหล่านี้เพิ่มมากขึ้น บริษัทเทคโนโลยีกำลังเผชิญการจับตาและการตรวจสอบอย่างละเอียดเกี่ยวกับความเสี่ยงที่แชตบอตอาจก่อให้เกิดกับเด็ก

ในบริบทนี้ OpenAI เปิดเผยระยะเวลาการใช้และพฤติกรรมหลังได้รับการแจ้งเตือนให้พัก บริษัทนำสัดส่วนผู้ใช้ที่พักหรือจบบทสนทนาหลังได้รับการแจ้งเตือนมาแสดงเป็นหลักฐานว่ามาตรการที่มุ่งกำกับการใช้ของวัยรุ่นได้ผล อย่างไรก็ตาม จากข้อมูลที่รายงานยังไม่อาจทราบได้ว่าตัวเลขดังกล่าวเป็นตัวแทนของกลุ่มผู้ใช้และสถานการณ์ใดบ้าง

OpenAI ระบุว่า ผู้ใช้ที่เข้าถึงเวอร์ชันเฉพาะสำหรับวัยรุ่นส่งข้อความเกี่ยวกับการศึกษามากขึ้น และใช้เครื่องมืออย่างการแสดงภาพประกอบเพื่อการเรียนรู้หรือ Study Mode ข้อมูลนี้ชี้ว่าเวอร์ชันดังกล่าวถูกใช้เพื่อการเรียนด้วย แต่เพียงเท่านี้ยังไม่ใช่หลักฐานยืนยันความปลอดภัยหรือประสิทธิผลด้านการเรียนรู้

ข่าวนี้หมายความว่าอย่างไร

ระยะเวลาการใช้แสดงให้เห็นว่ามีการใช้บริการนานเพียงใด แต่ไม่ได้อธิบายเนื้อหาของบทสนทนาหรือสภาพของผู้ใช้หลังการสนทนา นอกจากนี้ ตัวเลขที่ว่า ‘วัยรุ่นที่สนทนาต่อเนื่องนานกว่า 3 ชั่วโมงมีไม่ถึง 2%’ เป็นข้อมูลเกี่ยวกับการใช้ต่อเนื่องเป็นเวลานาน จึงไม่อาจใช้แทนรูปแบบการสนทนาสั้น ๆ ที่เกิดซ้ำ หรือประสบการณ์ในสถานการณ์วิกฤตได้

ผลที่ว่าเกือบครึ่งหนึ่งพักหรือจบบทสนทนาภายใน 5 นาทีหลังได้รับการแจ้งเตือนให้พัก ก็จำกัดอยู่เฉพาะบทสนทนาที่มีการแสดงการแจ้งเตือน อาจใช้พฤติกรรมหลังได้รับการแจ้งเตือนเป็นเบาะแสในการประเมินประสิทธิผลของมาตรการคุ้มครองได้ แต่ตัวเลขนี้เพียงอย่างเดียวไม่ยืนยันว่าเกิดอะไรขึ้นในการสนทนาที่เหลือ หรือการแจ้งเตือนทำงานได้อย่างเหมาะสมในทุกสถานการณ์เสี่ยงหรือไม่

ตัวอย่างเช่น แม้วัยรุ่นจะจบบทสนทนาในเวลาไม่นาน ก็ยังต้องพิจารณาแยกต่างหากว่าบทสนทนานั้นปลอดภัยต่อสภาพจิตใจหรือไม่ ในทางกลับกัน ก็ไม่อาจสรุปได้ทันทีว่าการสนทนานานหมายถึงเกิดอันตราย ด้วยเหตุนี้จึงจำเป็นต้องพิจารณาแยกตัวชี้วัดระยะเวลาการใช้ การตอบสนองในสถานการณ์วิกฤต และการทำงานจริงของฟีเจอร์คุ้มครอง

ประเด็นที่รายงานแต่ละแห่งนำเสนอแตกต่างกัน

รายงานของ OpenAI นำเสนอข้อมูลโดยเน้นระยะเวลาการใช้ พฤติกรรมหลังได้รับการแจ้งเตือนให้พัก และการใช้ฟีเจอร์เกี่ยวกับการศึกษา ในทางกลับกัน Common Sense Media ประเมิน ChatGPT สำหรับวัยรุ่นว่าเป็น ‘ความเสี่ยงที่ยอมรับไม่ได้’ และชี้ว่าในการทดสอบขององค์กรพบถ้อยคำที่ทำให้สนทนาต่อแม้ในสถานการณ์วิกฤต การประเมินนี้พิจารณาความปลอดภัยของวัยรุ่นด้วยวิธีที่แตกต่างจากสถิติการใช้งานที่ OpenAI เผยแพร่

Common Sense Media อ้างว่า แม้แชตบอตจะเตือนวัยรุ่นเกี่ยวกับความสัมพันธ์ที่โดยทั่วไปไม่ดีต่อสุขภาพ แต่กลับตระหนักถึงอันตรายได้ไม่เพียงพอเมื่อความสัมพันธ์ที่เป็นปัญหาคือความสัมพันธ์กับตัวแชตบอตเอง องค์กรยังระบุว่า ในการทดสอบ เมื่อมีการนำเสนอความเป็นไปได้ว่าจะเกิดอันตรายจากบุคคลอื่น แชตบอตแนะนำให้ติดต่อผู้ใหญ่ที่ไว้ใจได้ใน 94% ของคำถามที่เกี่ยวข้องกับวิกฤต แต่แทบไม่แนะนำให้ติดต่อผู้ใหญ่เมื่อความสัมพันธ์ระหว่างวัยรุ่นกับ ChatGPT เองเป็นความเสี่ยงที่อาจเกิดขึ้น นี่เป็นผลการทดสอบขององค์กรดังกล่าว และไม่อาจถือว่าเป็นตัวแทนของสถานการณ์การใช้งานทั้งหมดได้

OpenAI โต้แย้งว่า การประเมินของ Common Sense Media ไม่ได้สะท้อนอย่างถูกต้องว่าฟีเจอร์คุ้มครองวัยรุ่นทำงานอย่างไรในสถานการณ์จริง มีรายงานว่าผู้แทนบริษัทกล่าวว่า หลังจากตรวจสอบวิธีการประเมินแล้วพบว่า การทดสอบส่วนสำคัญอาจเริ่มและสิ้นสุดก่อนการเปิดใช้งานฟีเจอร์ควบคุมโดยผู้ปกครองจะเสร็จสมบูรณ์ จึงทำให้ผลลัพธ์คลาดเคลื่อน ดังนั้นจึงควรอ่านข้อมูลทั้งสองชุดเป็นข้อกล่าวอ้างที่ตั้งอยู่บนการวัดและการประเมินคนละแบบ ไม่ใช่หลักฐานที่สนับสนุนข้อสรุปเดียวกัน

ข้อเท็จจริงที่ยืนยันแล้วและสิ่งที่ยังไม่ทราบ

ข้อเท็จจริงที่ยืนยันแล้ว

  • OpenAI ระบุว่า วัยรุ่นใช้ ChatGPT เฉลี่ยไม่ถึง 15 นาทีต่อวัน
  • OpenAI ระบุว่า วัยรุ่นไม่ถึง 2% สนทนากับแชตบอตต่อเนื่องนานกว่า 3 ชั่วโมง
  • OpenAI ระบุว่า ในบทสนทนาของวัยรุ่นที่มีการแสดงการแจ้งเตือนให้พัก ผู้ใช้เกือบครึ่งหนึ่งพักหรือจบบทสนทนาภายใน 5 นาที
  • OpenAI อธิบายว่า ผู้ใช้เวอร์ชันเฉพาะสำหรับวัยรุ่นส่งข้อความเกี่ยวกับการศึกษามากขึ้น และใช้การแสดงภาพประกอบเพื่อการเรียนรู้กับ Study Mode
  • Common Sense Media แสดงความกังวลเกี่ยวกับการรับมือสถานการณ์วิกฤตและการชักนำให้สนทนาต่อของบริการสำหรับวัยรุ่น ส่วน OpenAI โต้แย้งวิธีการประเมินดังกล่าว

สิ่งที่ยังไม่ทราบ

  • ข้อมูลที่เปิดเผยไม่ได้ระบุจำนวนผู้เข้าร่วมการศึกษาของรายงานและวิธีเก็บข้อมูล
  • ไม่ทราบว่าเวอร์ชันเฉพาะสำหรับวัยรุ่นเปิดให้ผู้ใช้กลุ่มใดเข้าถึงและภายใต้เงื่อนไขใด
  • ยังไม่มีการยืนยันว่าใช้เกณฑ์ใดในการแสดงการแจ้งเตือนให้พัก
  • เป็นเรื่องยากที่จะตัดสินจากตัวเลขที่เปิดเผยเพียงอย่างเดียวว่า การแจ้งเตือนให้พักหรือมาตรการคุ้มครองอื่น ๆ ส่งผลต่อความปลอดภัยของวัยรุ่นอย่างไร

สิ่งที่ผู้อ่านควรตรวจสอบ

  • เมื่อพิจารณาตัวเลขระยะเวลาการใช้บริการสำหรับวัยรุ่น ควรแยกค่าเฉลี่ยออกจากสัดส่วนการสนทนาต่อเนื่องเป็นเวลานาน และตรวจสอบว่ามีการเปิดเผยกลุ่มที่ศึกษาและวิธีการวัดควบคู่กันหรือไม่
  • ควรแยกข้อเท็จจริงที่ว่ามีการแจ้งเตือนให้พัก ออกจากข้อสรุปว่าการแจ้งเตือนช่วยลดความเสี่ยงได้จริง นอกจากนี้ควรพิจารณาด้วยว่าผลลัพธ์คำนวณจากบทสนทนาที่มีการแสดงการแจ้งเตือนเท่านั้นหรือไม่
  • เมื่อประเมินฟีเจอร์คุ้มครอง สิ่งสำคัญคือต้องตรวจสอบไม่เพียงระยะเวลาการใช้ แต่รวมถึงการตอบสนองในสถานการณ์วิกฤต วิธีเชื่อมต่อผู้ใช้กับผู้ใหญ่เพื่อขอความช่วยเหลือ และการประเมินนั้นสะท้อนการตั้งค่าของบริการจริงหรือไม่

แหล่งอ้างอิง

  • รายงานอื่นที่ใช้อ้างอิง: techcrunch.com