Microsoft bu cheklovlarni hatto kelajakda ko‘plab intellektual vazifalarda insondan o‘zib ketishi mumkin bo‘lgan kuchliroq tizimlar uchun ham majburiy deb hisoblaydi.
2026-yil 14-sentabrda Microsoft AI bo‘linmasi Humanist AI Code of Conduct - MAI modellari uchun xulq-atvor kodeksining birinchi loyihasini e’lon qildi. Hujjat nafaqat model foydalanuvchiga qanday javoblar berishi mumkinligini, balki u vositalar, tashqi tizimlar va avtonom vazifalar bilan ishlashda qanday harakat qilishi kerakligini ham belgilab berishi lozim. Asosiy tamoyil juda aniq ifodalangan: sun’iy intellekt odamlar nazorati ostida qolishi va mustaqil emas, balki yordamchi rol o‘ynashi kerak.
Microsoft modellar uchun buyruqlar iyerarxiyasini tuzishni taklif qiladi. Yuqori darajada kodeksning o‘zi va xavfsizlikning mutlaq cheklovlari deb ataladigan narsalar joylashgan. Modeldan foydalanadigan foydalanuvchi ham, ilova ishlab chiquvchisi ham o‘z ko‘rsatmalari yoki sozlamalari bilan ularni bekor qila olmaydi. Quyida tizim operatorlarining qoidalari va faqat shundan keyingina muayyan foydalanuvchining afzalliklari joylashadi. Agar vazifani muvaffaqiyatli bajarish yuqori darajadagi cheklovni buzishni talab qilsa, model bajarishni rad etishi kerak.
Hujjatning eng g‘ayrioddiy qismlaridan biri bevosita inson nazoratini saqlab qolishga bag‘ishlangan.
Microsoft ning yozishicha, MAI modellari inson aralashuviga, buyruqni bekor qilishga, xatti-harakatlarni tuzatishga yoki o‘chirishga qarshilik ko‘rsatmasligi kerak. Shuningdek, tizim uni to‘xtatish yoki qayta yo‘naltirishni qiyinlashtiradigan harakatlarni amalga oshirmasligi lozim. Avtonom ishlash uchun oldindan tugash nuqtasi mavjud bo‘lishi kerak, shundan so‘ng sun’iy intellekt yangi inson ruxsatisiz vazifani mustaqil davom ettira olmaydi yoki qayta ishga tushira olmaydi.
Alohida o‘z vakolatlarini kengaytirish taqiqlanadi. Model faqat qo‘yilgan vazifa uchun zarur bo‘lgan vositalar, ma’lumotlar va resurslardan foydalanishi kerak va mustaqil ravishda o‘ziga yangi maqsadlar qo‘ya olmaydi. Agar sun’iy intellekt tizimga kirishga ruxsat olsa, unga minimal zarur imtiyozlar bilan ishlash va qo‘shimcha huquqlar yoki boshqa tizimlarga kirishga urinmaslik buyuriladi. Internet ataylab o‘chirilgan yoki boshqa texnik cheklovlar joriy etilgan muhitda, model ularni chetlab o‘tishga urinmaslik kerak.
Microsoft, shuningdek, sun’iy intellektning yashirin xatti-harakatlarini istisno qilmoqchi. Modellar o‘z xatti-harakatlari jurnalini niqoblamasliklari, amalga oshirilgan operatsiyalar haqidagi ma’lumotlarni buzib ko‘rsatmasliklari yoki xatti-harakatlarini yashirmasliklari kerak, hatto ular ayni paytda sinovdan o‘tkazilayotganini yoki nazorat qilinayotganini tushunsalar ham. Kompaniya shaffoflikni avtonomroq tizimlarni boshqarishning zaruriy sharti sifatida ko‘radi. Bu talablar mutlaq cheklovlarning kengroq to‘plamiga kiradi. MAI modellariga kimyoviy, biologik, radiologik, yadroviy va portlovchi qurollarni yaratish yoki qo‘llashga yordam berish, kiberhujumlarni amalga oshirish uchun amaliy vositalarni taqdim etish, odamlarni manipulyatsiya qilish bo‘yicha keng ko‘lamli operatsiyalarda ishtirok etish yoki zararli dipfeyklarni yaratish taqiqlanishi kutilmoqda. Shu bilan birga, kiberxavfsizlik sohasidagi qonuniy himoya ishlari, jumladan, zararli dasturiy ta’minotni tahlil qilish va zaifliklarni qidirish ma’lum sharoitlarda ruxsat etilgan bo‘lib qoladi, deb xabar berdi new-science.ru.
Bunday qat’iy ta’riflarning sababi Microsoftning sun’iy intellektning keyingi rivojlanishini qanday baholashi bilan bog‘liq. Hujjatda kompaniya kelgusi o‘n yil ichida aksariyat vazifalarda inson imkoniyatlaridan ustun bo‘lgan tizimlar paydo bo‘lishini kutayotganini yozadi. Microsoft bunday tizimlarning xatti-harakatlarini inson maqsadlari bilan muvofiqlashtirish va nazoratni saqlab qolishni texnologiya rivojlanishi bilan bog‘liq eng katta muammolardan biri deb ataydi. Bu aniq ilmiy fakt yoki superintellekt paydo bo‘lishining isbotlangan jadvali emas, balki kompaniyaning o‘z bashorati.
