Бу эртак эмас: Ақлли машиналар одамзод устидан назорат ўрнатадими?

Robot pointing at its head Фото муаллифлик ҳуқуқи Getty Images
Image caption Нима ҳақда ўйламоқда бу робот? Нимани режа қилмоқда?

Биз инсоният тарихининг мисли кўрилмаган босқичида турибмиз - тез орада сунъий яратилган ақлли машиналар бизнинг ҳаётимизга таъсир қилувчи қарорлар қабул қила бошлайди. Бироқ биз улар қарорларни қай йўсинда қабул қилишини билолмасак нима бўлади? Бу аҳамиятли масалами ўзи?

Тасаввур қилинг, ҳаётингизни суғурта қилишдан бош тортишди. Нега, деб сабабини сўраганингизда эса суғурта компанияси бу қарор шунчаки хатарларни баҳолаш алгоритминики эканлигини маълум қилди.

Ёки кредит олиш учун банкка мурожаат қилдингиз ва рад жавобини олдингиз. Банк сизга бундай қарорнинг асл сабабини тушунтириб беролмайди, чунки бу сафар ҳам ҳаммасини яна компютер ҳал қилган.

Келинг, тасаввурни янада жиддийлаштирамиз: полиция суперкомпютерга ўрнатилган хатарларни олдиндан башорат қилувчи дастур кўрсатмаларига асосланиб, одамларни ҳали қўл урмаган жинояти учун ҳибсга ола бошлади.

Шунга ўхшаш юзага келиши мумкин бўлган бошқа ҳолатлар ҳам мавжудки, технология саноати борган сари сунъий идрокнинг ўзбошимчалик билан ҳаётимизга аралашиши, бизнинг ўрнимизга қарорлар қабул қила бошлашидан хавотирланиб бормоқда.

Ҳаётнинг кўп жабҳаларида сунъий идрок синаб кўрилмоқда: тиббиёт, ҳайдовчисиз машиналар, истихборот, ҳарбий соҳа ва жиноятчиликка қарши курашиш.

Яқинда PwC консалтинг компанияси томонидан эълон қилинган ҳисоботда башорат қилинишича, 2030 йилга бориб сунъий идрок жаҳон иқтисодиётини $15,7 триллионга оширар экан.

Фото муаллифлик ҳуқуқи Getty Images
Image caption Тиббиётда сунъий идрокнинг хизмати беқиёс бўлиши мумкин

Бироқ бунинг охири вой бўлмайдими? Сунъий идрок қўллайдиган алгоритмлар шунчалик мураккаблашиб бораётганидан баъзида яратувчиларнинг ўзи машиналар қандай қилиб қарор қабул қилаётганини тушуна олмайди.

Тез орада инсон мияси фаолиятига тақлид қила оладиган нейронлар тармоғи ҳам яратилишига шубҳа йўқ. Чексиз маълумотларни қайта ишлай оладиган, ҳар қандай вазиятга мослашиб, ўз ақлини ошириб борадиган кўплаб просессорлардан иборат машинани тасаввур қилиб кўринг.

Бундай машиналар об-ҳавони олдиндан аниқ башорат қилишдан тортиб саратонни батафсилроқ ташхислашгача бемалол эплай олади.

Бироқ Charities Aid Foundation хайрия ташкилотида ички сиёсат ва дастурлар бўлими директори бўлган Родри Девиес шундай дейди: «Агар бундай тизимлар, ҳозирдан гувоҳи бўлаётганимиздек, сайловларда овоз бериш ёки оммавий хизматларга уланиш учун қўлланилса, ана унда ҳақиқий муаммо бошланади.»

Молиявий бозорлардаги нархларни башорат қилиш учун сунъий идрокдан фойдаланувчи G-Research технологик фирмасида тадқиқот менежери бўлиб ишлайдиган Девид Стерн "сўнгги йилларда олиб борилаётган сунъий идрокни такомиллаштириш жараёнларида, асосан, қора қути ёндашуви*дан фойдаланилаётгани"дан огоҳлантиради.

*Бундай ёндашувда тест қилинаётган тизим ичида содир бўлувчи жараёнларга инсоннинг аралашуви минимал даражада бўлади. Инсоннинг аралашуви фақатгина вазифани юклашдан иборат бўлиб, уни қандай амалга оширишни машинанинг ўзи тўла ҳал этади - таҳ.

Робототехника соҳасида «мустақил ўрганишни мустаҳкамлаш» номли усул тобора урф бўлмоқда: «Яратувчи тизимнинг хатти-ҳаракатлари қандай бўлишини олдиндан белгилаб беради, қолганини машинанинг ўзи атроф-муҳит билан алоқага киришган ҳолда мустақил ўрганиб боради,» бу усулни изоҳлайди жаноб Стерн.

«Бундай тизим яратаётган натижаларни англаш эса қийинлашиб бораверади.»

Шу туфайли ҳам ҳозирда алгоритмларни доимо инсон назорати остида сақлайдиган йўллар қидирилмоқда. Мисол учун, АҚШдаги мудофаа масалалари агентлиги Darpa Explainable AI лойиҳаси ва мақсади «хавфсиз сунъий идрокка етакловчи йўлларни кашф этиш» бўлган OpenAI нотижорат компаниясини юритмоқда.

Бундай шиорлар қулоққа ёқимли эшитилади, лекин сунъий идрокнинг асосий ютуқларидан бири ҳам у инсон қўлидан келмайдиган ишларни қила олишида эмасми? Агар унинг имкониятларини сиқиб қўйсак нима бўлади?

Фото муаллифлик ҳуқуқи Getty Images
Image caption Сатнав бошқараётган ҳаракат

Алан Тернинг Институтида сунъий идрок дастурини бошқарувчи Адриан Веллернинг тахминига кўра, машинанинг қарорларни қандай қабул қилишини тушуниш ўша қарорларнинг долзарблигига боғлиқ.

«Агар тизимнинг хавф-хатарсиз ишлаётганига ишончимиз комил бўлса, унинг қарорларни қандай қабул қилаётганидан кўра у бизга бераётган натижалар сифатига кўпроқ аҳамият қаратганимиз маъқул бўлиши мумкин.»

«Гап ҳайдовчисиз машиналар ва тиббий ташхислар ҳақида кетар экан, сунъий идрок бу масалаларда биздан кўра самарадорроқ ишлаб, кўплаб жонларни сақлаб қола олади. Шундай экан, унинг қандай ишлашини тушунишнинг аҳамияти камроқ бўлиши мумкин,» давом этади у.

«Масалан тиббиётда ташхис қўйиш учун қўлланилувчи тизим 95 фоизга тўғри ишлайди, дейлик. Бироқ мен барибир у тақдим этаётган натижалар тўғрилигига тўлиқ ишонч ҳосил қилолмайман ва ич-ичимдан уни текшириб кўришни истайман. Агар мени тизим ҳақиқатан тўғри ишлашига ишонтирувчи қандайдир йўллар бўлганида эди, мен машинанинг қай йўсинда қарор қабул қилишига камроқ қизиққан бўлардим.»

Бошқа томондан жиноятчиларни озодликдан маҳрум қилиш муддатини белгилашни сунъий идрокка қўйиб берсак, у ҳолда унинг қарор қабул қилиш усулларини билишга эҳтиёжимиз туғилади, деган фикрда жаноб Веллер.

«Айтайлик, алгоритм ҳакамларга мени олти йилга озодликдан маҳрум қилишни тавсия қилди. Табиийки, мен бу борада аниқ изоҳларни талаб қиламан. Айни шундай ҳолатларда сунъий идрок қарорларни нимага асосланиб қабул қилаётганини билиш муҳим.»

«Мен компаниялар айнан қайси жараёнларни алгоритмлар амалга ошираётганини ошкора қилишлари лозимлиги борасидаги гапларга қўшиламан. Йўқса, биз роботлар қилаётган ишни одамникидан фарқлолмай қоламиз,» қўшимча қилади у.

Бундай хавфсизлик тартибларисиз одамлар қилмаган иши учун босимга учраши мумкин. Бундан ташқари айнан қайси қарорлар сунъий идрок орқали қабул қилинганлиги дилеммаси билан биргаликда бундай тизимларнинг ўзи қонунларда белгиланган тамойилларга зид келади, деган фикрни илгари суради Cooley адвокатлик фирмасидан Марк Дим.

«Шартномалар масаласини олсак, сиз машина берган хулоса асосида қандай қилиб бировларга ваъда беришингиз мумкин?»

Шаффофлик масаласини ҳал қилиш учун Европа Иттифоқининг General Data Protection Regulation ёки GDPR (Маълумотларни муҳофаза қилишнинг умумий тартиби) қонунчилиги доирасида исталган шахснинг қайси қарор ортида автоматлаштирилган жараён турганлигини билишга ҳуқуқи жорий этилган.

Бизнинг ҳар қандай масала ҳақида билиш, у юзасидан изоҳ талаб қилишга ҳаққимиз бор. Бироқ компаниялар уларни тушунтириб беролмасачи?

Биз ўзимиз моҳиятини англолмаслигимиз мумкин бўлган қарорлар қабул қилувчи супер ақлли машиналар билан бирга ишлашдан мамнун бўла оламизми? Ёки инсоний ҳуқуқ ва эркинликларимиз эвазига машиналарнинг ихтиёрий қулига айланамизми?

Эйнштейн ирқчи бўлганми?

Технология даҳоси Илон Маск Твиттерда қовун туширди

"Ўзиюрар машина" сабаб бўлаётган ўлимлар учун ким айбдор?

Фото муаллифлик ҳуқуқи Getty Images
Image caption AI ё сунъий идрок қамоқ жазосини тайинласа...

"Хавфсизлиги махсус стандартлар орқали кафолатланса бўлди, қалинлиги бир милиметр бўлган алюминий қувур ичида 10 километр баландликда учиб юришга ҳам рози бўлаверамиз," дейди Девид Стерн.

«Ишончим комилки, хавфсизлиги борасида етарлича далил пайдо бўлгандан кейин ҳар қандай ҳайдовчисиз машинага ўтириб кетаверамиз ёки компютер тақдим қилган тиббий ташхисни текшириб ҳам ўтирмаймиз,» хулоса қилади у.

BBCUZBEK.COM билан Telegram орқали +44 7858860002 номери билан боғланинг. Telegram каналимиз: https://t.me/bbcuzbek