Chronicle․ AI-ի հզոր գործիք, թե՞ գաղտնիության նոր սպառնալիք

OpenAI-ն բավական բաց ձևով խոսում է Chronicle-ի ռիսկերի մասին։

OpenAI-ը գործարկել է Chronicle անունով նոր ֆունկցիա՝ հետազոտական նախադիտման ռեժիմում։ Այն հասանելի է Codex-ի desktop հավելվածում՝ Mac համակարգիչների համար և նախատեսված է արհեստական բանականության օգնականի համար մշտական «հիշողություն» ձևավորելու։

Ֆունկցիան արդեն ներկայացվել է OpenAI Developers-ի X էջում և համարվում է ընկերության ամենահամարձակ քայլերից մեկը՝ մշտական ֆոնային դիտարկմամբ աշխատող օգնական ստեղծելու ուղղությամբ։

Ինչպես է աշխատում Chronicle-ը

Chronicle-ը օգտագործում է ֆոնային գործակալներ, որոնք պարբերաբար սքրինշոթներ են անում օգտատիրոջ էկրանից։

• Սքրինշոթները ուղարկվում են OpenAI-ի սերվերներ՝ մշակման համար
• Ստացված տվյալները պահպանվում են օգտատիրոջ սարքում՝ Markdown ձևաչափով
• Հիշողության ֆայլերը պահվում են սովորաբար՝
  ~/.codex/memories_extensions/chronicle/ թղթապանակում
• Սքրինշոթների ժամանակավոր ֆայլերը ջնջվում են 6 ժամ անց

Ընկերության փոխանցմամբ՝
սքրինշոթները չեն պահվում սերվերներում մշտապես և չեն օգտագործվում մոդելների ուսուցման համար։

Տեխնիկական պահանջներ և հասանելիություն

Chronicle-ի օգտագործման համար անհրաժեշտ է՝

• macOS-ի էկրանի ձայնագրման թույլտվություն
• հատուկ հնարավորությունների (accessibility) թույլտվություններ

Ֆունկցիան հասանելի է միայն՝

• ChatGPT Pro բաժանորդներին (ամսական $200)
• Apple Silicon պրոցեսորներով Mac համակարգիչներում

Միևնույն ժամանակ այն անհասանելի է Եվրամիությունում, Մեծ Բրիտանիայում և Շվեյցարիայում, ինչը հավանականորեն կապված է տվյալների պաշտպանության խիստ կանոնակարգերի (օրինակ՝ GDPR) հետ։

Գաղտնիության և անվտանգության ռիսկեր

OpenAI-ը բավական բաց ձևով խոսում է Chronicle-ի ռիսկերի մասին։

1. Prompt-հարձակումների նոր մակարդակ

Chronicle-ը մեծացնում է այսպես կոչված «prompt injection» հարձակումների վտանգը։

Եթե օգտատերը այցելի վնասակար կայք կամ տեսնի կեղծ բովանդակություն, ապա՝
AI օգնականը կարող է այդ տեղեկատվությունը ընկալել որպես հրահանգ և հետևել դրան։

Ի տարբերություն դասական հարձակումների՝
այստեղ վտանգը տարածվում է էկրանին երևացող ցանկացած բովանդակության վրա, ներառյալ՝

• ֆիշինգային նամակներ
• կեղծ վեբ էջեր
• Slack կամ այլ հարթակների հաղորդագրություններ

2. Տեղային հիշողության ֆայլերի խոցելիություն

Chronicle-ի ստեղծած հիշողության ֆայլերը պահվում են որպես չկոդավորված (plain text) տվյալներ։

Սա նշանակում է, որ՝

• այլ ծրագրեր կարող են հասանելիություն ունենալ այդ ֆայլերին
• վնասված կամ կոտրված հավելվածները կարող են կարդալ դրանք

Արդյունքում կարող են արտահոսել՝

• նախագծերի գաղտնի տվյալներ
• ներքին հղումներ (URLs)
• օգտատիրոջ անձնական կամ աշխատանքային ինֆորմացիա

3. Ռեսուրսների և հարցումների սպառում

Քանի որ Chronicle-ը մշտապես աշխատում է ֆոնում՝
այն ակտիվորեն օգտագործում է API հարցումները և կարող է արագ սպառել սահմանաչափերը։

Chronicle-ը ցույց է տալիս, թե ինչ ուղղությամբ է զարգանում AI-ը՝
դեպի մշտապես «տեսնող» և «հիշողություն ունեցող» թվային օգնականներ։

Սակայն այս մոտեցումը նաև բարձրացնում է լուրջ հարցեր՝

• որքանով անվտանգ է նման մակարդակի դիտարկումը
• արդյոք օգտատերերը պատրաստ են նման վերահսկման
• և ինչպես պետք է կարգավորվի այս տեխնոլոգիան օրենսդրորեն

Chronicle-ը դեռ հետազոտական փուլում է, սակայն արդեն պարզ է՝
այն կարող է արմատապես փոխել AI-ի հետ մեր փոխգործակցության ձևը՝ միաժամանակ բացելով անվտանգության և գաղտնիության նոր մարտահրավերներ։