Musubi seshanba kuni real vaqt rejimida kontentni moderatsiya qilish uchun mo‘ljallangan yengil PolicyLM-1.7B modelini taqdim etdi va uning model vaznlarini ham ochiqladi. Kompaniya ilgari surgan g‘oyaga ko‘ra, model ingliz tilida yozilgan kontent siyosatlarini xabarlarga tatbiq etib, 50 millisekunddan kam vaqtda natija chiqaradi. Asosiy jihati shundaki, siyosat o‘zgarganida mezonlarni yangilash uchun modelni har safar qayta o‘qitish talab etilmaydi.

Asosiy ma’lumot va kontekst

Musubining aytishicha, PolicyLM-1.7B aksariyat ijtimoiy platformalarda kontentni moderatsiya qilish uchun ishlatiladigan AI tasniflagichlariga o‘xshash xarajat va tezlikda ishlashga mo‘ljallangan. Shu bilan birga, u eng yangi yirik til modellari (LLM)ning moslashuvchanligidan foydalanib, murakkab siyosatlarni alohida maxsus o‘qitishsiz tatbiq etishni maqsad qiladi. Bu izoh modelning qanday loyihalashtirilganiga taalluqli; uning haqiqiy platformalarda ham ayni shunday natija ko‘rsatgani tasdiqlanganini anglatmaydi.

Kompaniya ta’riflaganidek, siyosatni belgilovchi mas’ullar mezonlarni o‘zgartirish uchun har safar modelni qayta o‘qitmasdan, siyosatni zaruratga qarab takroran yangilashi mumkin. Bu kontent moderatsiyasida “qaror mezonlarini o‘zgartirish” bilan “modelni qayta o‘qitish”ni bir-biridan ajratishga qaratilgan yondashuvdir. Kontent ko‘payib, siyosat ham o‘zgarishi mumkin bo‘lgan sharoitda, yangi mezonlarni joriy etish uchun qayta o‘qitish shart bo‘lgan tizimga qaraganda, operatsion o‘zgarishlarni tezroq sinab ko‘rish imkoniyati paydo bo‘lishi mumkin.

Bu model mansub bo‘lgan qaror qabul qilish modellari odatiy yirik til modellari kabi matn yaratish o‘rniga, oldindan belgilangan variantlardan birini tanlab, natija chiqarishga mo‘ljallangan. Manbada qaror qabul qilish modellari odatda natijaning ehtimolini chiqarishi aytiladi. Unda PolicyLM-1.7B esa kontent muayyan toifaga kirish-kirmasligini ikkilik tarzda aniqlashi bilan farqlanadi. Manbaga ko‘ra, chiqish variantlarini cheklash orqali yirik til modellariga qaraganda tezroq va arzonroq ishlash, shu bilan birga transformer tuzilmasining moslashuvchanligini saqlab qolish mumkin.

Manbada aytilishicha, TypeSafe AI sentabrda Jev’ni taqdim etganidan keyin qaror qabul qilish modellari e’tibor qozondi, OpenAI va Amazon ham raqobatchi modellarni chiqardi. Musubi hammuassisi va bosh AI mas’uli Filip Yankovich bu yondashuvga Jev taqdim etilishidan oldinroq qiziqa boshlaganini aytdi. U shu usullarning bir nechtasidan foydalangan 2024-yilgi GLiNER loyihasini mazkur yondashuvning boshlanish nuqtasi sifatida tilga oldi.

Bu xabar nimani anglatadi

Kontent moderatsiyasi nafaqat siyosat belgilash, balki platformaga joylanadigan xabarlarni shu mezonlar asosida tasniflashni ham o‘z ichiga oladi. Agar PolicyLM-1.7B mo‘ljallanganidek ishlasa, siyosat o‘zgarganida modelni qayta o‘qitishni kutmasdan yangi mezonlarni qo‘llash imkoniyati katta hajmdagi kontent bilan ishlaydigan platforma ma’murlari uchun operatsion tanlovlarni kengaytirishi mumkin. Yankovichning tushuntirishicha, ushbu model ma’murlarga kontentni oldindan tasniflash usulini taklif qiladi.

Biroq “tasniflash” va “jazo chorasi” bir xil narsa emas. Manbada bayon etilgan model natijasi kontent muayyan toifaga kirish-kirmasligini aniqlashdan iborat. Bu aniqlash postni o‘chirish yoki foydalanuvchiga chora ko‘rishga olib keladimi, natijani inson tekshiradimi kabi operatsion tartiblar manbada ko‘rsatilmagan. Shu sababli model qandaydir kontent choralarini darhol avtomatlashtiradi, deb xulosa qilishdan ko‘ra, uni moderatsiya mezonlari asosida kontentni ajratib beruvchi vosita sifatida taqdim etilganini e’tiborda tutish kerak.

Masalan, biror platforma yangi mezonni joriy etish uchun amaldagi siyosat matnini o‘zgartirmoqchi bo‘lsa, Musubining ta’rifiga ko‘ra, modelni qayta o‘qitish jarayonisiz siyosatning o‘zini yangilab, qo‘llashi mumkin. Bu operatorlarning mezonlarni o‘zgartirib, amalda qo‘llash jarayonini soddalashtirish ehtimolini ko‘rsatadi. Ammo model o‘zgartirilgan mezonlarni qanchalik aniq qo‘llashi yoki noto‘g‘ri tasniflangan kontentni qanday tuzatish mumkinligini e’lon qilingan ma’lumotlargagina asoslanib baholab bo‘lmaydi.

Tasdiqlangan faktlar va hozircha noma’lum jihatlar

Tasdiqlangan faktlar

  • Musubi seshanba kuni PolicyLM-1.7B modelini taqdim etdi va uning model vaznlarini ham ochiqladi.
  • Model ingliz tilidagi kontent siyosatlarini xabarlarga 50 millisekunddan kam vaqtda tatbiq etishga mo‘ljallangan.
  • Musubining aytishicha, siyosat o‘zgarganida mas’ullar uni modelni qayta o‘qitmasdan yangilashi mumkin.
  • PolicyLM-1.7B kontent muayyan toifaga kirish-kirmasligini ikkilik tarzda aniqlovchi model sifatida taqdim etildi.

Hozircha noma’lum jihatlar

  • Amaldagi moderatsiya aniqligi va noto‘g‘ri tasniflash darajasi qanday?
  • U qaysi platformalar yoki kontent turlarida sinovdan o‘tkazilgan va natijalar qanday bo‘lgan?
  • Ochiqlangan model vaznlaridan foydalanishga qanday shartlar yoki cheklovlar qo‘yilgan?

O‘quvchi nimalarga e’tibor berishi kerak

  • Amaliyotga joriy etilgani yoki samaradorlik bahosi haqida qo‘shimcha xabarlar chiqsa, nafaqat aniqlikni, balki kontentni noto‘g‘ri tasniflash darajasi va sinov o‘tkazilgan sharoitlarni ham tekshirish lozim.
  • Ochiq model vaznlaridan bevosita foydalanmoqchi bo‘lganlar amaldagi foydalanish shartlari va cheklovlarni tekshirishi kerak. Hozirgi manbada bu tafsilotlar keltirilmagan.
  • Platforma ushbu modelni joriy etsa, model tasnifi amalda kontentga nisbatan qanday choralarga olib kelishi va natijalarni tekshirish hamda tuzatish usullari oshkor etiladimi — shuni ham kuzatish kerak.