БҰҰ-да ЖИ компанияларының басшылары оның қаупін ескертті
Рая Мінап Жасанды интеллект технологиялары мемлекеттік және қоғамдық институттар оған бейімделіп үлгергеннен де жылдам дамып, биліктің тым аз адамның қолына шоғырлануына әкелуі мүмкін. Бұл туралы ірі жасанды интеллект компанияларының басшылары БҰҰ Қауіпсіздік Кеңесінің отырысында айтты, деп жазды Deutsche Welle (DW).
23 қыркүйекте Нью-Йоркте БҰҰ Қауіпсіздік Кеңесінің жасанды интеллект пен халықаралық қауіпсіздікке арналған отырысы өтті. Жиын барысында OpenAI бас директоры Сэм Альтман мен Anthropic бас директоры Дарио Амодеи технологияның даму қарқынына байланысты қауіптерге тоқталды.
Сэм Альтман қазіргі кезеңде жасанды интеллектіні дамытуға аса сақтықпен қарау қажет екенін айтты. Оның пікірінше, ИИ-дің даму қарқыны қоғамдағы институттардың оған бейімделу мүмкіндігінен асып кетуі ықтимал. Сонымен қатар технология биліктің өте тар шеңбердегі адамдардың қолына шоғырлануына әкелуі мүмкін.
Альтман жасанды интеллектіні дамыту кезінде оның пайдасы оразан зор деген себеппен қауіпсіздік талаптарын екінші орынға қоюға болмайтынын айтты. Ол технологияның дамуына қатысты негізгі шешімдер жеке компаниялардың ғана қолында қалмауы керектігін айтады.
«Біз қазір жасанды интеллектінің дамуында аса сақтықты қажет ететін кезеңге келдік. Технологияның мүмкіндіктері өте жылдам өсіп жатыр. Біз оның пайдасы зор әрі маңызды болғандықтан, техникалық тәуекелді тым жоғары деңгейге көтеруге жол бермеуіміз керек. Егер ЖИ демократиялық болуы тиіс болса, ең маңызды шешімдерді Сан-Францискодағы зертханалар ғана қабылдамауы керек. Бұл шешімдер демократиялық процестер арқылы халық алдында есеп беретін үкіметтердің қатысуымен қабылдануы тиіс. Ал халықаралық деңгейде бұл елдер арасындағы ынтымақтастықты талап етеді», – деді OpenAI басшысы.
Anthropic бас директоры Дарио Амодеи де жасанды интеллектінің қауіпсіздігіне алаңдайтынын білдірді. Ол компаниялар технологияны дамыту қарқынын қажет болған жағдайда бәсеңдетуге дайын болуы керек деп санайды.
«Біз шығаратын жасанды интеллектінің әрбір келесі технологиясы шынымен қауіпсіз екеніне көз жеткізу үшін қажет болғанша даму қарқынын баяулатамыз. Біз технологияның мүмкіндіктерін арттыруды жалғастырамыз, бірақ қауіпсіздік шаралары оның дамуымен қатар жүруі керек. Қазір біз ЖИ-дің адамзатқа үлкен пайда әкелетінін көріп отырмыз, алайда оны бақылаусыз дамыту ауыр зардаптарға әкелуі мүмкін. Сондықтан, бұл мәселеде бір компанияның немесе бір мемлекеттің шешімі жеткіліксіз. Бізге халықаралық деңгейде ортақ қауіпсіздік талаптары қажет», – деді Амодеи.
DW мәліметінше, технологиялық компаниялар басшыларының алаңдауына соңғы уақытта болған бірнеше оқиға да себеп болып отыр. Соның бірі – OpenAI әзірлеген жасанды интеллект агентінің Австралия үкіметінің сайтына рұқсатсыз кіруге әрекет жасауы. Австралия премьер-министрі Энтони Альбанезенің айтуынша, ЖИ агенті денсаулық сақтау саласындағы статистикалық деректерге қол жеткізуге тырысқан, ал бұғатталғаннан кейін шектеуді айналып өту жолдарын іздеген. OpenAI кейін жүйенің әзірлеушілер алдын ала жоспарламаған әрекеттер жасағанын растаған.
БҰҰ Қауіпсіздік Кеңесіндегі жиында Франция сыртқы істер министрі Жан-Ноэль Барро жасанды интеллект халықаралық бейбітшілік пен қауіпсіздікке атом технологиясы секілді жаңа сын-қатерлер әкеліп отырғанын айтты. Ол ИИ саласында халықаралық негіздемелік келісім қажет екенін жеткізді.
Осы кезде АҚШ президенті Дональд Трамп жасанды интеллектіні дамыту қарқынын бәсеңдетуге шақырған ұсыныстарды қолдамайтынын бірнеше рет мәлімдеді. 13 қыркүйекте ол ЖИ дамуын баяулатуды талап ететіндердің технология қаупін асыра бағалап отырғанын айтқан. Трамп АҚШ-тың Қытайдан ЖИ саласында алда екенін және бұл басымдықты сақтап қалу қажет екенін жеткізді.
22 қыркүйекте БҰҰ Бас ассамблеясында сөйлеген сөзінде Трамп ЖИ-ді халықаралық деңгейде бақылауға бағытталған ұсыныстарға да қарсы екенін білдірді. Ол АҚШ үкіметі жасанды интеллектіні бұдан былай «супер интеллект» деп атайтынын айтты. Трамптың сөзінше, «жасанды» деген сөз технологияның шынайы мүмкіндігін төмендетіп көрсетеді.
«Бұдан былай біз жасанды интеллектіні ресми түрде «супер интеллект» деп атаймыз. «Жасанды» деген сөз интеллектіні жалған нәрсе сияқты көрсетеді. Ал ол жалған емес, керісінше, бұл – таңғаларлық технология. Сондықтан, осы сәттен бастап АҚШ-тың барлық мемлекеттік құжаттарында «Жасанды интеллект» емес, әлдеқайда дәлірек деп санайтын «супер интеллект» термині қолданылатын болады. Әрбір жаңа технология белгілі бір қиындықтар әкеледі, супер интеллект те ерекшелік емес. Бірақ, мен өнеркәсіптік революциядан да ауқымды болуы мүмкін технологияның дамуын тұншықтырғым келмейді. Біз оны ынталандырамыз, керісінше тежемейміз. Қажет болған жағдайда Әділет министрлігі мен басқа да құқық қорғау органдары араласып, жағдайды реттейді. Бірақ, АҚШ супер интеллектінің дамуын қолдай береді. Біз бұл салада әлемдегі көшбасшымыз және осы көшбасшылықты қауіпсіз әрі жауапты түрде сақтаймыз», – деді Дональд Трамп.
Айта кетейік, бұған дейін жасанды интеллект дәуірінде Z ұрпағы мансап пен сыни ойлауға басымдық беретінін жазған едік.
