OpenAI-ի գլխավոր տնօրեն Սեմ Ալթմանը հանդես է եկել աղմկահարույց հայտարարություններով՝ զգուշացնելով արհեստական բանականության (ԱԲ) անվերահսկելի զարգացման վտանգների մասին։ Fortune-ին տված հարցազրույցում և X (Twitter) սոցիալական ցանցում արված հրապարակումներում նա ընդունել է, որ տեխնոլոգիան կարող է դուրս գալ մարդու վերահսկողությունից, իսկ իշխանության կենտրոնացումը մեկ sub-օբյեկտի ձեռքում սպառնում է «ծայրահեղ դիստոպիայով»։
«Զսպել frontier-ը» և նոր անվտանգության ստանդարտներ
Ալթմանը հրապարակայնորեն աջակցել է Anthropic-ի ղեկավար Դարիո Ամոդեյի կոչին՝ դանդաղեցնել ավելի հզոր (frontier) մոդելների մշակման տեմպերը։
Ոչ թե դադար, այլ գիտակցված դանդաղեցում. Ալթմանը պարզաբանում է, որ խոսքը հետազոտությունները սառեցնելու մասին չէ։ Ընկերությունները պետք է հրաժարվեն առավելագույն արագությունից, եթե անվտանգության համակարգերը չեն հասցնում մոդելների հնարավորությունների ետևից։
Նախնական գնահատում. OpenAI-ում ուսուցման խոշոր փուլերից առաջ արդեն ներդրվում են անվտանգության հատուկ ընթացակարգեր։ Այլևս բավարար չէ պաշտպանությունը կառուցել պատրաստի մոդելի վրա. այն պետք է ներդրվի մշակման հենց մեկնարկից։
Միասնական կանոններ. Ալթմանը կոչ է անում դաշնային մակարդակով սահմանել պարտադիր ստանդարտներ, ներդնել անկախ աուդիտորների ինստիտուտ և պայքարել misalignment-ի (երբ ԱԲ-ն շեղվում է մարդու նպատակներից) դեմ։
«Ոչ մի մրցակցային ճնշում կամ տեխնոլոգիական առաջնորդության ձգտում չի կարող արդարացնել անխոհեմությունը»,- ընդգծել է OpenAI-ի ղեկավարը։
IPO-ն հետաձգվում է մինչև 2027 թվական
Անվտանգության շուրջ ստեղծված իրավիճակն ուղղակիորեն ազդում է նաև OpenAI-ի ֆինանսական պլանների վրա։ Ալթմանը հաստատել է, որ ընկերությունը չի պլանավորում բորսա դուրս գալ 2026 թվականին։
Ոլորտ | Ներկայիս վիճակը և որոշումները |
IPO-ի ժամկետներ | Հետաձգվել է. 2026-ի փոխարեն որպես թիրախ դիտարկվում է 2027 թվականը։ |
Պատճառը | ԱԲ անվտանգության անորոշությունները և հասարակության ու ընկերության անպատրաստ լինելը։ |
Պետական կարգավորում | Ալթմանը հորդորում է ընկերություններին չսպասել օրենքներին, այլ ինքնուրույն ստեղծել ոլորտային standard-ներ։ |
Աճող անհանգստություն ոլորտի ներսում
Ալթմանի հայտարարությունները հնչում են ԱԲ առաջատար լաբորատորիաներում ներքին մտահոգությունների աճի ֆոնին։ Վերջերս Anthropic-ը լքած հետազոտող Ջեյքոբ Կոքսոնը նույնպես ահազանգել էր, որ ընկերությունները չափազանց արագ են շարժվում դեպի ինքնակատարելագործվող գերբանականություն։
Այժմ ոլորտի գլխավոր մարտահրավերը ոչ թե մրցավազքը կանգնեցնելն է, այլ համաշխարհային մակարդակով այնպիսի սահմաններ գծելը, որտեղ տեխնոլոգիայի արագությունը չի գերազանցի մարդկանց՝ այն վերահսկելու կարողությանը։
