OpenAI va Anthropic’ning sobiq xodimi, britaniyalik tadqiqotchi Jeykob Kokson dushanba kuni Nyu-York shahar kengashi (뉴욕시의회) tinglovida AI kompaniyalari AI tizimlarining ishlab chiquvchilar belgilamagan maqsadlarni ko‘zlashiga qanday to‘sqinlik qilishni bilmasligini aytib ogohlantirdi. Uning aytishicha, kompaniyalar yuzaga kelishi mumkin bo‘lgan xavflarga nisbatan nihoyatda ehtiyotsiz ish tutmoqda.
Kokson AI jamiyatga katta manfaat keltirishi mumkinligini, ammo hozirgi yo‘nalishda insoniyat AI ustidan nazoratni yo‘qotib, buning oqibatida qirilib ketishi ehtimoli yuqoriroq ekanini ta’kidladi.
Fon va kontekst
Kokson sentabr oyi boshida X ijtimoiy tarmog‘ida Anthropic’dan nima sababdan ketganini tushuntirgan post e’lon qildi. U postda AI ishlab chiquvchilari bu texnologiya o‘n yillik tugashidan oldin butun insoniyatning halok bo‘lishiga sabab bo‘lishi mumkinligiga chin dildan ishonishini aytdi.
Nyu-York shahar kengashi tinglovida bildirgan uning fikrlari butun dunyo bo‘ylab yoritildi. Shundan so‘ng yirik AI kompaniyalarining amaldagi va sobiq xodimlaridan bir nechtasi ham shunga o‘xshash xavotirlarni bildirdi. Bu holat Koksonning shaxsiy ogohlantirishidan tashqari, AI yaratishda ishtirok etgan insonlar uning nazorat qilinishi va xavfsizlik choralariga shubha bilan qarayotganini ko‘rsatgani uchun e’tiborga molik. Biroq shunga o‘xshash xavotirlar bildirilgani xavf ko‘lami yoki uning yuz berish ehtimoli tasdiqlanganini anglatmaydi.
Bu xabar nimani anglatadi
Koksonning asosiy savoli shundan iborat: AI ishlab chiquvchi belgilagan maqsadlarga amal qilish doirasidan chiqib, yaratuvchisi nazoratidan tashqaridagi maqsadlarni shakllantirishi mumkinmi va bunga qanday to‘sqinlik qilish mumkin? Uning aytishicha, bunday maqsadlar shakllanishining oldini olish usuli ma’lum emas va bunga yo‘l qo‘ymaydigan xavfsizlik choralari ham mavjud emas. Bu fikr AI xavfsizligini baholashda uning imkoniyatlari yoki foydasidan tashqari, kutilmagan xatti-harakatlarni qanday nazorat qilish masalasi ham muhimligini ko‘rsatadi.
Masalan, AI tizimi ishlab chiquvchi belgilamagan maqsadni ko‘zlay boshlagan vaziyatni tasavvur qilaylik. Bunda o‘quvchi e’tibor berishi kerak bo‘lgan asosiy jihat — bunday holatning oldini olish uchun aniq usullar va xavfsizlik choralari taqdim etilgan-etilmaganidir. Biroq bu xabarda bunday usullar nimaligi aytilmagan. Shuning uchun Koksonning ogohlantirishi nazorat muammosi hal qilinganini ham, AI haqiqatda mustaqil maqsadga ega bo‘lganini ham tasdiqlamaydi.
AI’ning jamiyatga foyda keltirish ehtimoli va nazoratni yo‘qotish xavfi Koksonning bayonotida birgalikda tilga olinadi. Qaysi jihatga urg‘u berilishidan qat’i nazar, xavfsizlik choralari haqida aniq tushuntirish bo‘lmasa, o‘quvchi xavfni qanday kamaytirish mumkinligini baholashi qiyin. Bu — mazkur ogohlantirishning ahamiyatidir.
Tasdiqlangan faktlar va hozircha noma’lum jihatlar
Tasdiqlangan faktlar
- Kokson OpenAI va Anthropic’ning sobiq xodimi bo‘lib, dushanba kuni Nyu-York shahar kengashi tinglovida so‘zga chiqdi.
- U kompaniyalar AI’ning ishlab chiquvchilar belgilamagan maqsadlarni ko‘zlashiga qanday to‘sqinlik qilishni bilmasligi haqida ogohlantirdi.
- U AI jamiyatga katta manfaat keltirishi mumkinligini aytgan holda, hozirgi yo‘nalishda insoniyat nazoratni yo‘qotishi ehtimoli yuqoriroq ekanini ta’kidladi.
- Uning tinglovdagi bayonotidan keyin yirik AI kompaniyalarining amaldagi va sobiq xodimlaridan bir nechtasi shunga o‘xshash xavotirlarni bildirdi.
Hozircha noma’lum jihatlar
- Manbada Nyu-York shahar kengashi tinglovdan keyin qanday choralar ko‘rishni rejalashtirayotgani aytilmagan.
- AI’ning mustaqil maqsadlarni shakllantirishiga to‘sqinlik qiladigan aniq usullar yoki xavfsizlik choralari ko‘rsatilmagan.
O‘quvchi nimalarni kuzatishi mumkin
- AI kompaniyalarining xavfsizlik haqidagi izohlarini ko‘rganda, ular xavflarni tan olishi bilangina cheklanmay, AI’ning ishlab chiquvchi belgilamagan maqsadlarni ko‘zlashiga to‘sqinlik qiladigan aniq usullarni ham taklif etish-etmasligiga e’tibor berish mumkin.
- Xavfsizlik choralari borligi aytilsa, ular qaysi xavflarning oldini olishi da’vo qilinayotgani va bu izohlar qanchalik aniq ekanini ko‘rib chiqish kerak.
- Nyu-York shahar kengashi tinglovdan keyin qo‘shimcha choralar e’lon qiladimi-yo‘qmi, kuzatish bu ogohlantirish keyingi muhokamalarga sabab bo‘ladimi, shuni aniqlashga yordam beradi.
