Այս հանգստյան օրերին ԱՄՆ ԱԲ լաբորատորիաների գործող և նախկին աշխատակիցներն ու նրանց ղեկավարները հանդես եկան ահազանգող զգուշացումներով՝ կապված մոտ ապագայում ԱԲ-ի պատճառով հնարավոր աղետի հետ, գրում է ChathamHouse-ը։ «Անվերահսկելի դարձած ԱԲ-ի զարգացումը կարող է հանգեցնել նրան, որ մենք բոլորս մահանանք մոտ ապագայում», - նշել է լաբորատորիայի նախկին աշխատակիցներից մեկը: Դրան հետևեց Anthropic ընկերության գործադիր տնօրեն Դարիո Ամոդեի առաջարկը՝ դանդաղեցնել ԱԲ-ի մշակումը՝ տեխնոլոգիայի անվտանգությունն ապահովելու համար: Առաջարկն արժանացավ այլ լաբորատորիաների ղեկավարների, այդ թվում՝ Սեմ Ալթմանի և Իլոն Մասկի հավանությանը:
ԱԲ ոլորտի ևոչ մի դիտորդ չի վիճարկի անվտանգության վրա առավել մեծ ուշադրություն դարձնելու անհրաժեշտությունը: Սակայն ԱԲ-ի երկարաժամկետ ռիսկերի վրա սևեռվելը չպետք է խանգարի տեխնոլոգիայի այսօրվա ազդեցությունների դեմ պայքարին: Այն չպետք է դառնա կոպիտ գործիք ԱՄՆ ներկայիս առաջատարների կողմից մրցակցությունը ճնշելու համար, և դրան հնարավոր չի լինի հասնել առանց ԱՄՆ-Չինաստան որոշակի համաձայնության:
Ինչո՞ւ հնչեցին նոր զգուշացումներ
Ամոդեի և այլոց նկարագրած աղետալի ուղին անցնում է «ռեկուրսիվ ինքնակատարելագործում» (RSI) կոչվող մեթոդով, որը ԱԲ մոդելների ուսուցման նոր մոտեցում է և դեռևս գտնվում է վաղ փուլում:
Ռիսկի էությունը. RSI-ն ենթադրում է, որ ԱԲ-ն ուսուցանում է ԱԲ-ին: Սա կարող է հանգեցնել այնպիսի արագ զարգացման, որ ինչ-որ պահի ստեղծվի բեկումնային իրավիճակ. համակարգերը կդառնան բավականաչափ ունակ՝ ինքնուրույն կատարելագործվելու համար՝ դուրս գալով մարդկային վերահսկողությունից:
Փորձագիտական արձագանք. Թեև ոմանք թերահավատորեն են մոտենում որոշ ծայրահեղ պնդումների (օրինակ՝ UK NCSC-ի հիմնադիրը մեկ տարվա ընթացքում համացանցի անջատման սպառնալիքն անվանեց պարզապես մտային փորձ), ընդհանուր ուղերձն այն է, որ ԱԲ-ն ներկայացնում է էկզիստենցիալ ռիսկեր, որոնք արժանի են լուրջ ուշադրության:
Այսօրվա ազդեցություններն ու իրական ռիսկերը
Մոտակա տարիներին մեքենայական ուսուցման տեխնոլոգիաները արմատապես կվերափոխեն տնտեսությունը, հասարակությունը, կառավարումը և պաշտպանական ոլորտը:
Ներկայիս վտանգները. Anthropic-ի վերջին զեկույցը նկարագրում է իր արտադրանքի չարաշահման դեպքերը լրտեսության, կիբեռհարձակումների, տեղեկատվական գործողությունների և զենքի մշակման ոլորտներում:
Թափանցիկություն. Ամոդեի առաջարկած մոդելը՝ անկախ երրորդ կողմի ներգրավումը լաբորատորիաների անվտանգության գնահատման համար, կարևոր քայլ առաջ է: Նման մարմինները կարող են ձևավորվել Մեծ Բրիտանիայի ԱԲ Անվտանգության Ինստիտուտի (UK AI Safety Institute) կամ FDA/IAEA ֆորմատների օրինակով:
Մրցակցություն, շուկա և աշխարհաքաղաքականություն
ԱԲ համաշխարհային շուկայում անվտանգության օրակարգը չպետք է վերածվի մոնոպոլիզացիայի գործիքի:
Շուկայական մտահոգություններ. Սպիտակ տան ԱԲ հարցերով նախկին պատասխանատու Դեյվիդ Սաքսը քննադատել է ընկերությունների՝ «կարտել» ձևավորելու և մրցակցությունը ճնշելու փորձերը: Ազատ կոդով (open-source) մոդելների արգելքը կամ արտադրանքի պատասխանատվության օրենքների շրջանցումը վտանգավոր նախադեպեր են:
ԱՄՆ-Չինաստան հարաբերություններ. Առանց երկու գերտերությունների համաձայնության անհնար կլինի սահմանել գլոբալ «կարմիր գծեր» (ինչպես առաջարկում է պրոֆեսոր Ստյուարտ Ռասելը): Չնայած Դոնալդ Թրամփի և Սի Ծինփինի առաջիկա հանդիպմանը, առկա «հաղթողը ստանում է ամեն ինչ» մոտեցումը մեծացնում է սպառազինությունների մրցավազքի վտանգը:
