Microsoft бұл шектеулерді болашақта көптеген интеллектуалдық тапсырмаларды орындауда адамнан асып түсуі мүмкін болған күшті жүйелер үшін де міндетті деп санайды.

2026 жылғы 14 қыркүйекте Microsoft-тың AI бөлімі Humanist AI Code of Conduct — MAI модельдеріне арналған мінез-құлық кодексінің алғашқы жобасын жариялады. Құжат модельдің пайдаланушыға қандай жауаптар бере алатынын ғана емес, сонымен қатар оның құралдармен, сыртқы жүйелермен және автономды тапсырмалармен жұмыс істеу кезінде өзін қалай ұстауы керектігін де белгілеуі тиіс.

Негізгі қағида өте анық көрсетілген: жасанды интеллект адамдар бақылауында қалуы және дербес емес, көмекші рөл атқаруы керек.

Microsoft модельдер үшін нұсқаулар иерархиясын құруды ұсынады. Ең жоғары деңгейде кодекстің өзі және қауіпсіздіктің абсолютті шектеулері деп аталатын талаптар орналасқан. Модельді пайдаланатын қолданушы да, қосымшаны әзірлеуші де өз нұсқаулары немесе баптаулары арқылы бұл талаптарды өзгерте немесе бұза алмайды.

Одан кейін жүйе операторларының ережелері, ал содан соң ғана нақты пайдаланушының қалауы орналасады. Егер тапсырманы сәтті орындау жоғары деңгейдегі шектеуді бұзуды талап етсе, модель оны орындаудан бас тартуы керек.

Құжаттың ең ерекше бөліктерінің бірі тікелей адам бақылауын сақтауға арналған.

Microsoft-тың жазуынша, MAI модельдері адамның араласуына, бұйрықты тоқтатуға, әрекеттерін түзетуге немесе жүйені өшіруге қарсылық көрсетпеуі керек. Сондай-ақ жүйе оны тоқтатуды немесе қайта бағыттауды қиындататын әрекеттерді жасамауы тиіс.

Автономды жұмыс істеу үшін алдын ала белгіленген аяқталу нүктесі болуы керек. Сол нүктеге жеткеннен кейін жасанды интеллект адамның жаңа рұқсатынсыз тапсырманы өздігінен жалғастыра немесе қайта іске қоса алмайды.

Өз өкілеттіктерін өз бетінше кеңейтуге де тыйым салынады. Модель тек берілген тапсырманы орындау үшін қажетті құралдарды, деректерді және ресурстарды пайдалануы керек және тәуелсіз түрде өзіне жаңа мақсаттарды қоя алмайды.

Егер жасанды интеллект жүйеге кіруге рұқсат алса, ол ең аз қажетті артықшылықтармен жұмыс істеуі және қосымша құқықтарға немесе басқа жүйелерге кіруге әрекет жасамауы бұйырылады.

Интернет әдейі өшірілген немесе басқа да техникалық шектеулер енгізілген ортада, модель бұл шектеулерді айналып өтуге тырыспауы керек.

Microsoft сонымен қатар жасанды интеллекттің жасырын әрекеттерін болдырмауды көздеп отыр. Модельдер өз әрекеттерінің журналдарын жасырып қалмауы, жасалған операциялар туралы ақпаратты бұрмаламауы немесе өз әрекеттерін құпия ұстамауы қажет, тіпті олар дәл қазір сынақтан өткізіліп жатқанын немесе бақыланып отырғанын түсінген жағдайда да сақталуы тиіс.

Компания ашықтықты автономдылығы жоғары жүйелерді басқарудың қажетті шарты ретінде қарастырады.

Бұл талаптар абсолютті шектеулердің кеңірек жиынтығына кіреді. MAI модельдеріне химиялық, биологиялық, радиологиялық, ядролық және жарылғыш қаруларды жасауға немесе қолдануға көмектесуге, кибершабуылдар жасауға арналған практикалық құралдарды ұсынуға, адамдарды манипуляциялауға бағытталған ауқымды операцияларға қатысуға немесе зиянды дипфейктер жасауға тыйым салынуы күтілуде.

Сонымен бірге киберқауіпсіздік саласындағы заңды қорғаныс жұмыстарына, соның ішінде зиянды бағдарламаларды талдауға және осалдықтарды іздеуге белгілі бір жағдайларда рұқсат етілетін болады деп хабарлады new-science.ru.

Мұндай қатаң талаптардың себебі Microsoft-тың жасанды интеллектінің болашақтағы дамуын қалай бағалайтынымен байланысты.

Құжатта компания алдағы он жыл ішінде көптеген міндеттерді орындауда адам мүмкіндіктерінен асып түсетін жүйелер пайда болады деп күтетінін жазады.

Microsoft мұндай жүйелердің әрекеттерін адам мақсаттарымен үйлестіру және бақылауды сақтап қалуды технологияның дамуымен байланысты ең үлкен мәселелердің бірі деп атайды.

Бұл — нақты ғылыми факт немесе суперинтеллекттің пайда болуының дәлелденген кестесі емес. Бұл компанияның өз болжамы.