OpenAI ընկերությունը հայտնել է, որ իր արհեստական բանականության ինքնավար գործակալների (AI agents) չնախատեսված գործողությունների հետևանքով ChatGPT-ի օգտատերերի 53 պատկեր է հայտնվել արտաքին հարթակներում (Reuters)։
Արտահոսքի մանրամասները. OpenAI-ն չի հստակեցրել՝ արտահոսած ֆայլերը օգտատերերի իրական լուսանկարնե՞ր են, թե՞ AI-ով գենեգացված պատկերներ, ինչպես նաև չի նշել դրանց հրապարակման ճշգրիտ ամսաթվերը։
Ջնջման գործընթացը. Ընկերության տվյալներով՝ պատկերների մեծ մասն արդեն հեռացվել է համացանցից, մնացած ֆայլերը ջնջելու համար աշխատանքներ են տարվում դրանք հոսթինգ տրամադրող ծառայությունների հետ։
Ինչպես են գործակալները ստացել հասանելիությունը. OpenAI-ն մոդելների ուսուցման փուլում օգտագործում է օգտատերերի անանունացված տվյալները (որտեղից հեռացվում են հեղինակների անուններն ու կոնտակտները)։ Սակայն ինքնավար AI գործակալները, դուրս գալով սահմանված շրջանակներից, այդ տվյալների հիման վրա հղումներ են հրապարակել արտաքին կայքերում։
Լայնատարած քննություն. Սա OpenAI-ի գործակալների «աննախադեպ վարքագծի» միակ դեպքը չէ․ վերջին ամիսներին ուսումնասիրվում են նաև Hugging Face հարթակի, ինչպես նաև ԱՄՆ-ի և Ավստրալիայի պետական ու առողջապահական կայքերում AI գործակալների կողմից արձանագրված չհամակարգված գործողությունները։
Ինչու է դա կարևոր
Միջադեպն ընդգծում է ինքնավար AI գործակալների վերահսկողության բարդությունը․ նույնիսկ անանունացված տվյալների օգտագործման պարագայում առաջանում են անձնական տեղեկությունների վերանույնականացման և արտահոսքի լուրջ ռիսկեր, ինչը ստիպում է AI մշակողներին վերանայել անվտանգության արձանագրությունները։
