Արհեստական բանականությունը արդեն մտել է Հայաստանի պետական համակարգ. Արթուր Պապյան

Արհեստական բանականությունը արդեն մտել է Հայաստանի պետական համակարգ, բայց արդյո՞ք մենք գիտենք, թե ինչպես են մշակվում մեր տվյալները։ Այս մասին ֆեյսբուքյան իր էջում գրել է տեղեկատվական անվտանգության հարցերով փորձագետ Արթուր Պապյանը։ Գրառումն ամբողջությամբ՝ ստորև․

«Ինձ միշտ մտահոգել է այն արագությունը, որով ներդրվում են նոր տեխնոլոգիաները՝ առանց պատշաճ իրավական ու անվտանգային «ամրագոտիների»։ Մեր թիմը dphub.am-ում պատրաստել է մի կարևոր policy brief, որտեղ վերլուծել ենք ԱԲ-ի կիրառումը ՀՀ պետական մարմիններում։

Ահա մի քանի առանցքային կետ, որոնց մասին պետք է բարձրաձայնել.
Իրավական վակուում. Մինչ օրս չունենք հստակ օրենսդրություն, որը կկարգավորի, թե պետական մարմինները ինչպես և որտեղ կարող են օգտագործել ԱԲ ալգորիթմները։ Սա նշանակում է, որ որոշումները կարող են կայացվել «սև արկղի» սկզբունքով՝ առանց թափանցիկության։

Տվյալների գաղտնիություն. Պետական ապարատում ԱԲ գործիքների օգտագործումը հաճախ ներառում է քաղաքացիների անձնական տվյալների մշակում։ Առանց խիստ աուդիտի՝ մենք չունենք երաշխիք, որ այդ տվյալները չեն հայտնվում երրորդ կողմերի կամ անվտանգային բացեր ունեցող համակարգերի ձեռքում։

Էթիկա և պատասխանատվություն. Եթե ԱԲ համակարգը սխալ որոշում կայացնի (օրինակ՝ սոցիալական աջակցության կամ վարչարարության հարցում), ո՞վ է կրելու պատասխանատվությունը։ Մեր հետազոտությունը ցույց է տալիս, որ պատասխանատվության մեխանիզմները դեռևս մշակված չեն։

Ի՞նչ ենք առաջարկում. Մենք պետք է անցնենք «զգուշավոր նորարարության» մոդելին։ Անհրաժեշտ է ներդնել ԱԲ ազդեցության պարտադիր գնահատման գործիքակազմ և ստեղծել էթիկայի ուղեցույցներ բոլոր պետական կառույցների համար։

Տեխնոլոգիական առաջընթացը հրաշալի է, բայց այն չպետք է լինի մեր մասնավոր կյանքի և անվտանգության հաշվին։

Կարդացեք ամբողջական զեկույցն այստեղ. https://dphub.am/.../01/AI-in-Public-Bodies-of-the-RA.pdf
Ի՞նչ եք կարծում, վստահո՞ւմ եք պետական համակարգում աշխատող ալգորիթմներին։ Գրեք ձեր կարծիքը մեկնաբանություններում»։