Musubi เปิดตัว PolicyLM-1.7B ซึ่งเป็นโมเดลขนาดเล็กสำหรับปรับเนื้อหาแบบเรียลไทม์เมื่อวันอังคาร พร้อมเปิดเผยน้ำหนักโมเดลด้วย แนวคิดที่บริษัทนำเสนอคือการใช้นโยบายเนื้อหาที่เขียนเป็นภาษาอังกฤษกับข้อความ และให้ผลลัพธ์ภายในเวลาไม่ถึง 50 มิลลิวินาที จุดสำคัญคือโมเดลได้รับการออกแบบให้ปรับเกณฑ์ได้โดยไม่ต้องฝึกโมเดลใหม่ทุกครั้งที่นโยบายเปลี่ยน

ภูมิหลังและบริบท

Musubi ระบุว่า PolicyLM-1.7B ออกแบบมาให้มีต้นทุนและความเร็วใกล้เคียงกับตัวจำแนกประเภท AI ที่ใช้ปรับเนื้อหาบนแพลตฟอร์มโซเชียลส่วนใหญ่ ขณะเดียวกัน บริษัทยังกล่าวว่าตั้งเป้าใช้ความยืดหยุ่นของโมเดลภาษาขนาดใหญ่ (LLM) รุ่นใหม่ เพื่อให้ใช้นโยบายที่ซับซ้อนได้โดยไม่ต้องฝึกเพิ่มเติมเป็นพิเศษ คำอธิบายนี้กล่าวถึงแนวทางการออกแบบโมเดล ไม่ได้หมายความว่ามีการยืนยันแล้วว่าโมเดลทำงานได้ในระดับเดียวกันบนแพลตฟอร์มจริง

ตามคำอธิบายของบริษัท ผู้รับผิดชอบการกำหนดนโยบายสามารถปรับนโยบายซ้ำได้ตามต้องการ โดยไม่ต้องฝึกโมเดลใหม่ทุกครั้งที่เปลี่ยนเกณฑ์ แนวทางนี้พยายามแยก “การเปลี่ยนเกณฑ์การตัดสิน” ออกจาก “การฝึกโมเดลใหม่” ในการปรับเนื้อหา เมื่อเนื้อหามีปริมาณมากและนโยบายอาจเปลี่ยนแปลงได้ แนวทางนี้อาจเปิดทางให้ทดลองเปลี่ยนแปลงการดำเนินงานได้รวดเร็วกว่าระบบที่จำเป็นต้องฝึกโมเดลใหม่ก่อนนำเกณฑ์ใหม่มาใช้

โมเดลการตัดสินใจประเภทนี้ออกแบบมาให้ให้ผลลัพธ์ตามตัวเลือกที่กำหนดไว้ แทนที่จะสร้างข้อความเหมือนโมเดลภาษาขนาดใหญ่ทั่วไป ต้นฉบับอธิบายว่าโมเดลการตัดสินใจมักส่งออกความน่าจะเป็นของผลลัพธ์ ขณะที่ PolicyLM-1.7B ส่งผลการตัดสินแบบทวิภาคว่าเนื้อหาอยู่ในหมวดหมู่ที่กำหนดหรือไม่ ต้นฉบับระบุว่า การจำกัดตัวเลือกผลลัพธ์ทำให้สามารถใช้งานได้รวดเร็วและมีต้นทุนต่ำกว่าโมเดลภาษาขนาดใหญ่ ขณะยังคงความยืดหยุ่นของโครงสร้างทรานส์ฟอร์เมอร์ไว้ได้

ต้นฉบับรายงานว่าโมเดลการตัดสินใจได้รับความสนใจหลัง TypeSafe AI เปิดตัว Jev ในเดือนกันยายน และ OpenAI กับ Amazon ก็เปิดตัวโมเดลคู่แข่งด้วย ฟิลิป ยานโควิช ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ฝ่าย AI ของ Musubi กล่าวว่าเขาสนใจแนวทางนี้ก่อนการเปิดตัว Jev เขายกโครงการ GLiNER ในปี 2024 ซึ่งใช้เทคนิคเดียวกันหลายอย่างว่าเป็นจุดเริ่มต้นของแนวคิดนี้

ความหมายของข่าวนี้

การปรับเนื้อหาไม่ได้มีเพียงการกำหนดนโยบาย แต่ยังรวมถึงการจัดประเภทข้อความที่เผยแพร่บนแพลตฟอร์มตามเกณฑ์ดังกล่าวด้วย หากการออกแบบของ PolicyLM-1.7B ทำงานได้ตามที่ตั้งใจ การนำเกณฑ์ใหม่มาใช้ได้โดยไม่ต้องรอฝึกโมเดลใหม่เมื่อมีการเปลี่ยนนโยบาย อาจเพิ่มทางเลือกในการดำเนินงานให้ผู้ดูแลแพลตฟอร์มที่ต้องจัดการเนื้อหาปริมาณมาก ยานโควิชอธิบายว่าโมเดลนี้ช่วยให้ผู้ดูแลสามารถจัดประเภทเนื้อหาได้ล่วงหน้า

อย่างไรก็ตาม “การจัดประเภท” กับ “การลงโทษ” ไม่ใช่เรื่องเดียวกัน ผลลัพธ์ของโมเดลตามที่ต้นฉบับอธิบายคือการตัดสินว่าเนื้อหาอยู่ในหมวดหมู่ที่กำหนดหรือไม่ แต่ต้นฉบับไม่ได้ระบุว่าการตัดสินดังกล่าวจะนำไปสู่การลบโพสต์หรือการลงโทษผู้ใช้จริงหรือไม่ หรือมีคนตรวจสอบผลลัพธ์หรือไม่ ดังนั้นควรแยกให้ชัดว่าโมเดลนี้ถูกนำเสนอในฐานะเครื่องมือจำแนกเนื้อหาตามเกณฑ์การปรับเนื้อหา แทนที่จะสรุปว่าโมเดลจะทำให้มาตรการต่อเนื้อหาบางอย่างเป็นไปโดยอัตโนมัติทันที

ตัวอย่างเช่น หากแพลตฟอร์มแห่งหนึ่งต้องการปรับถ้อยคำในนโยบายเดิมเพื่อนำเกณฑ์ใหม่มาใช้ ตามคำอธิบายของ Musubi ก็สามารถแก้ไขและใช้ตัวนโยบายได้โดยไม่ต้องผ่านขั้นตอนฝึกโมเดลใหม่ ซึ่งแสดงให้เห็นถึงความเป็นไปได้ในการทำให้ขั้นตอนที่ผู้ดำเนินงานแก้ไขและนำเกณฑ์ไปใช้มีความคล่องตัวขึ้น อย่างไรก็ตาม ข้อมูลที่เปิดเผยยังไม่เพียงพอที่จะตัดสินว่าโมเดลใช้เกณฑ์ที่เปลี่ยนไปได้แม่นยำเพียงใด หรือจะแก้ไขเนื้อหาที่ถูกจัดประเภทผิดอย่างไร

ข้อเท็จจริงที่ยืนยันแล้วและสิ่งที่ยังไม่ทราบ

ข้อเท็จจริงที่ยืนยันแล้ว

  • Musubi เปิดตัว PolicyLM-1.7B เมื่อวันอังคาร และเปิดเผยน้ำหนักโมเดลด้วย
  • โมเดลได้รับการออกแบบมาให้นำนโยบายเนื้อหาภาษาอังกฤษไปใช้กับข้อความได้ภายในเวลาไม่ถึง 50 มิลลิวินาที
  • Musubi ระบุว่าผู้รับผิดชอบสามารถปรับนโยบายเมื่อมีการเปลี่ยนแปลงได้โดยไม่ต้องฝึกโมเดลใหม่
  • มีการแนะนำว่า PolicyLM-1.7B ให้ผลการตัดสินแบบทวิภาคว่าเนื้อหาอยู่ในหมวดหมู่ที่กำหนดหรือไม่

สิ่งที่ยังไม่ทราบ

  • ความแม่นยำในการปรับเนื้อหาจริงและอัตราการจัดประเภทผิดอยู่ที่ระดับใด?
  • โมเดลได้รับการทดสอบบนแพลตฟอร์มหรือเนื้อหาประเภทใด และได้ผลอย่างไร?
  • น้ำหนักโมเดลที่เปิดเผยมีเงื่อนไขหรือข้อจำกัดในการใช้อย่างไรบ้าง?

สิ่งที่ผู้อ่านควรติดตาม

  • หากมีข่าวการนำไปใช้จริงหรือผลการประเมินประสิทธิภาพเพิ่มเติม ควรตรวจสอบทั้งความแม่นยำ อัตราการจัดประเภทเนื้อหาผิด และสภาพแวดล้อมที่ใช้ทดสอบ
  • ผู้ที่ต้องการนำเสียน้ำหนักโมเดลที่เปิดเผยไปใช้โดยตรงควรตรวจสอบเงื่อนไขและข้อจำกัดในการใช้งาน ต้นฉบับในขณะนี้ไม่ได้ระบุรายละเอียดเหล่านั้น
  • หากแพลตฟอร์มนำโมเดลนี้ไปใช้ ควรติดตามว่าจะมีการเปิดเผยขั้นตอนที่เชื่อมผลการจัดประเภทของโมเดลเข้ากับมาตรการต่อเนื้อหาจริงหรือไม่ รวมถึงวิธีตรวจสอบและแก้ไขผลลัพธ์