Խաբեություն դիպֆեյքով․ հնդկուհու ինքնությունը գողացվել է՝ նրա անունով էրոտիկ բովանդակություն ստեղծելու համար
Միայն մի քանի օր պահանջվեց, որպեսզի հնդիկ ինստագրամային աստղ «Babydoll Archi»-ի հետևորդների թիվը կրկնապատկվեր՝ հասնելով 1.4 միլիոնի։ Պատճառը մի քանի վիրուսային տեսանյութերն ու լուսանկարներն էին։ Մեկում նա կարմիր սարիով գայթակղիչ պարում էր ռումինական Dame Un Grr երգի ներքո։ Մյուսում՝ պատկերված էր ամերիկացի պոռնոաստղ Քենդրա Լասթի հետ։ Հանկարծ բոլորը սկսեցին հետաքրքրվել նրանով․ Google-ում «Babydoll Archi» անունը դարձավ թրենդային, և նրա շուրջ ծագեցին բազում մեմեր ու երկրպագուների էջեր։ Բայց իրականում որևէ իրական կին չկար այս առցանց սենսացիայի հետևում։ Instagram-ի այդ էջը կեղծ էր, թեև օգտագործված դեմքը զարմանալիորեն նման էր իրական կնոջ՝ Ասամ նահանգի Դիբրուգար քաղաքում բնակվող մի տանտիրուհու, ում կնվանենք Սանչի։ Ճշմարտությունն ի հայտ եկավ այն բանից հետո, երբ նրա եղբայրը դիմեց ոստիկանություն։ Ձերբակալվեց Սանչիի նախկին սիրելի Պրաթիմ Բորան։ Քննչական խմբի ղեկավար Սիզալ Ագարվալի խոսքով՝ Բորան որոշել էր վրեժ լուծել Սանչիից՝ ստեղծելով արհեստական բանականությամբ նրա նմանակ պատկերը։ Մեխանիկ ինժեներ և ինքնուս AI էնտուզիաստ Բորան, ըստ ոստիկանության, օգտագործել էր Սանչիի անձնական լուսանկարները՝ ստեղծելով կեղծ պրոֆիլ։ Babydoll Archi-ն ստեղծվել է 2020-ին, իսկ առաջին հրապարակումները արվել են 2021-ի մայիսին։ Սկզբում տեղադրված էին Սանչիի իրական՝ վերափոխված լուսանկարները։ Հետագայում, ըստ Ագարվալի, Բորան սկսել է օգտագործել գործիքներ՝ ինչպես ChatGPT և Dzine, ստեղծելով լիարժեք արհեստական կերպար՝ deepfake լուսանկարներով և տեսանյութերով։ Էջը սկսեց ակտիվություն գրանցել նախորդ տարվանից, իսկ այս տարվա ապրիլից սկսեց մեծ տարածում ստանալ։ Սանչիի ընտանիքը ոստիկանություն դիմեց հուլիսի 11-ի գիշերը՝ ներկայացնելով կարճ բողոք և մի քանի լուսանկար ու տեսանյութ՝ որպես ապացույց։ Դիմումում հանցագործի անունը նշված չէր՝ չիմանալու պատճառով։ Իրավապահները գրել էին Instagram-ին՝ խնդրելով էջի տիրոջ տվյալները։ Տեղեկություններ ստանալուց հետո պարզվել է, որ Բորան Սանչիի ծանոթն է, և հաջորդ օրը՝ հուլիսի 12-ին, նա ձերբակալվել է։ Բորայի համակարգիչը, հեռախոսները, կոշտ սկավառակներն ու բանկային փաստաթղթերը առգրավվել են։ Քննիչի խոսքով՝ նա ֆինանսապես շահույթ է ստացել այդ էջից։ Linktree-ում էջն ունեցել է շուրջ 3000 բաժանորդ, և նախնական տվյալներով՝ Բորան միայն վերջին հինգ օրում վաստակել է մոտ 300,000 ռուպի, իսկ ընդհանուրում՝ մոտ մեկ միլիոն ռուպի։ Սանչին այժմ հոգեբանական աջակցություն է ստանում և աստիճան
աբար վերականգնվում է։ Ագարվալի խոսքով՝ նման դեպքեր կանխելը գրեթե անհնար է․ «Եթե ավելի շուտ արձագանքեինք, գուցե հնարավոր լիներ կանխել նման մասշտաբների հասնելը»։ Սանչին սոցիալական ցանցերում ակտիվ չէր, իսկ նրա ընտանիքը արգելափակված էր այդ էջից։ Միջադեպի մասին իմացել են միայն այն ժամանակ, երբ այն լայնորեն տարածվել է։ Meta-ն այս գործի վերաբերյալ BBC-ին դեռ չի պատասխանել։ Ընկերությունը, սակայն, սովորաբար արգելում է մերկության կամ սեռական բովանդակության հրապարակումը։ CBS-ի տվյալներով՝ նախորդ ամսին Meta-ն հեռացրել էր մի շարք գովազդներ, որոնք խթանում էին իրական մարդկանց պատկերներով ստեղծվող սեռական deepfake-երի ստեղծման գործիքներ։ Այս պահին Babydoll Archi-ի՝ 282 հրապարակում ունեցող էջը հասանելի չէ, սակայն նրա լուսանկարներն ու տեսանյութերը շարունակում են շրջանառվել սոցիալական ցանցերում։ BBC-ն դիմել է Meta-ին՝ հետաքրքրվելով՝ ինչ միջոցներ են ձեռնարկվելու։ Արհեստական բանականության մասնագետ և իրավաբան Մեղնա Բալի խոսքով՝ Սանչիի հետ տեղի ունեցածը սարսափելի է, բայց գրեթե անհնար է ամբողջությամբ կանխել։ Նա կարող է դատարանում պահանջել «մոռացվելու իրավունքի» կիրառում, որպեսզի իր անունը հեռացվի հրապարակումներից, բայց ինտերնետից հետքը ամբողջությամբ ջնջել շատ բարդ է։ Բալը նշում է՝ կանայք վաղուց էլ ենթարկվել են այս տիպի ոտնձգությունների, պարզապես այժմ AI-ի միջոցով դա անելն ավելի հեշտ է։ Նման դեպքերը կամ դեռ շատ չեն, կամ չեն հաղորդվում՝ սոցիալական խարաններից կամ իրազեկվածության բացակայությունից ելնելով։ Իսկ դիտողներից ոչ ոք պարտավորված չի զգում նման բովանդակությունը զեկուցել։ Բորայի դեմ առաջադրվել են մեղադրանքներ՝ սեռական ոտնձգության, անառակ նյութերի տարածման, զրպարտության, անձնական տվյալների կեղծման, ինքնություն գողանալու և կիբեռհանցագործության համար։ Մեղավոր ճանաչվելու դեպքում նրան սպառնում է մինչև 10 տարվա ազատազրկում։ Սոցիալական ցանցերում գործը լայն արձագանք է գտել․ մի մասը պահանջում է խստացնել նման դեպքերի դեմ պայքարի օրենսդրությունը։ Բալի կարծիքով՝ գործող օրենքները բավարար են, բայց անհրաժեշտ է ուսումնասիրել՝ արդյոք պետք է լրացուցիչ կանոնակարգեր՝ գեներատիվ AI գործիքների համար։ Միաժամանակ, նա զգուշացնում է՝ «deepfake»-երը պետք չէ ամբողջությամբ արգելել, քանի որ դրանք կարող են ծառայել նաև խոսքի ազատությանը, և օրենքները պետք է կազմվեն նրբանկատորեն։
Թարգմանվել է ԱԲ-ի միջոցով։
