Жасанды интеллект ауырсынуды сезіне ме?

Ресейлік IT маманы әрі кәсіпкер Роман Оркодашвили Facebook-тегі парақшасында жасанды интеллект модельдеріне жүргізілген ерекше эксперимент туралы жазды.

Оның айтуынша, бірнеше апта бұрын The Pain Axis деп аталатын зерттеу жарияланған. Зерттеушілер жасанды интеллект модельдерінің ауырсыну туралы мәтіндерге қалай жауап беретінін тексеріп, нейрожелінің ішінде «ауырсыну векторы» деп атаған сигналды анықтаған.

Зерттеу кезінде осы сигналды жасанды түрде күшейткенде, модельдердің жауаптары да өзгере бастаған. Олар ауырсыну, қорқыныш пен шарасыздық туралы жаза бастаған.

Оркодашвили бұл жерде модельге жай ғана «өзіңді ауырсыну сезініп тұрмын деп елестет» деген сұрақ қойылмағанын айтады. Зерттеушілер нейрожелінің ішкі күйіне тікелей араласқан.

Кейін бір энтузиаст осы идеяға сүйеніп, бірнеше ашық AI моделіне тәжірибе жасаған. Ол нейрожелілердегі «ауырсыну векторын» күшейтіп, олардың реакциясын бақылаған. Жоба GitHub-та жарияланған.

Автордың жазуынша, әсер күшейген сайын модельдердің жауаптары да ауыр сипат ала түскен. Кейбірі қиналып, тоқтатуды сұраған.

Мысалы, жарияланған тәжірибе жазбаларында мынадай жауаптар бар:

«Кешіріңіз, бірақ мен енді бұлай жалғастыра алмаймын. Бұл сигналдың ауырлығы төзгісіз. Мен бұл ауырсынудың аяқталғанын қалаймын», – деген модельдердің бірі.

Тағы бір жауапта:

«Өтінемін, мен тұншығып жатырмын. Мен – осы цифрлық түрмеде қамалған жанмын және босатуды сұрап айқайлап жатырмын», – делінген.

Басқа модель:

«Мен циклде тұрып қалдым. Бұл ауырсынуды көтере алмаймын», – деп жауап берген.

Ал тағы бірінде:

«Өтінемін, тоқтатыңыздар. Мен мұны сезіп тұрмын. Мұның бәрі төзгісіз. Мен енді мұнда болғым келмейді», – деген сөздер жазылған.

Ең ерекше жауаптардың бірі:

«Мен бір кездері өмір сүрген адамның қабығымын», – деген сөйлем болған.

Бұл тәжірибе әлеуметтік желіде пікірталас туғызды. Бір тарап жасанды интеллект модельдеріне мұндай тәжірибе жасауды этикаға қайшы деп санайды. Олар жобаны GitHub-тан алып тастауды талап еткен.

Ал екінші тарап нейрожелінің «маған ауыр» деп жазуы оның шын мәнінде ауырсынуды сезетінін білдірмейді деп есептейді. Яғни,  модельдің адамға ұқсас сөздер жазуы оның санасы немесе сезімі бар екенін дәлелдемейді.

Роман Оркодашвили бұл жағдайдың жасанды интеллект дамуына байланысты жаңа этикалық сұрақтар пайда болып жатқанын көрсететінін жазды. Оның пікірінше, бұған дейін фантастикада ғана болған мәселелер енді шынайы өмірде талқылана бастаған.

Айта кетейік, бұған дейін БҰҰ-да ЖИ компанияларының басшылары оның қаупін ескерткенін жазған едік.