Вашият живот може да бъде записан с цел подобряване на обслужването

Софтуерно приложение за лицево разпознаване надмина като възможности всичко, направено до момента. Clearview позволява разкриването на самоличността на даден човек чрез една-единствена снимка, съпоставяйки я с наличните три милиарда изображения в базата данни, с която е свързано.

Big data

Въпросните изображения са извлечени от милиони уебсайтове и социални медии като Facebook, Twitter, YouTube, Instagram и др., въпреки че подобна практика е в нарушение на условията за ползването им. Според твърденията на създателя на Clearview, през 2019 г. приложението е използвано от над 600 правоприлагащи органи и частни компании с дейности в сферата на сигурността. Той твърди също, че извличането на данни от Facebook е нещо, което мнозина правят и за което „Facebook знае“. От социалната мрежа отговарят, че не знаят и че правят проверка.

Подобно на скандала с Cambridge Analytica и Facebook, за който широката общественост научи благодарение на журналистическо разследване на „Гардиън“, светлина върху случая с Clearview хвърля разследване на „Ню Йорк Таймс“. Компютърният код на Clearview е анализиран от експертите на медията и е установено наличието на компонент, който позволява комуникация с очила за добавена реалност – идеята е потребителите да могат да идентифицират всеки, когото видят. Разкриване на самоличността на хора, участващи в протести, или на непознати обекти на привличане – и то не само имената им, но и информация за това къде живеят, с какво се занимават и кои са контактите им – са само част от примерите за приложението на Clearview.

Защита на личния живот

Причината подобен софтуер да не бъде създаден и внедрен много по-рано, при всички възможности и ресурси на големите технологични компании, е схващането, че това би довело до радикално заличаване на неприкосновеността на личния живот, която сме свикнали да възприемаме, зачитаме и защитаваме като основно човешко право.

Понятието „личен живот“ се тълкува широко в съдебната практика. Поверителността му се изразява в неразкриване на аспекти от професионалния живот и общественото поведение на дадено лице, ситуации от интимен характер, чувствителни или конфиденциални данни, както и информация, която може да доведе до предубедено възприемане на лицето от обществото. Макар и тясно свързани, защото и двете са насочени към защитата на сходни ценности – независимостта и човешкото достойнство на хората, – правото на неприкосновеност на личния живот и правото на защита на личните данни са отделни права.

„Ние изградихме тази технология и се отказахме от нея. Доколкото знам, това е единствената технология на Google, която, след като я разработихме и разгледахме, решихме да я спрем“, заяви бившият изпълнителен директор на Google Ерик Шмит на технологична конференция през 2011 г. Става дума именно за софтуер, който свързва снимки с персоналните профили на хората, изобразени на тях.

Между 2015 и 2016 г. Facebook също разработва такъв софтуер, предназначен за вътрешно ползване (извън платформата, от служители спрямо колеги и приятели). Компанията отрича приложението да може да се използва за идентифициране на потребителите на социалната мрежа, въпреки че в нея е интегрирана функция за лицево разпознаване. Но от отделния потребител зависи дали ще позволи алгоритмично разпознаване на своя профил и отбелязване (тагване) от други потребители.

Как работи

Поначало лицевото разпознаване работи по един и същи начин. Снимка на неидентифицирано лице се съпоставя с всички налични изображения в базата данни. Полицейските управления имат достъп до инструменти за лицево разпознаване от почти 20 години, но досега са били ограничавани до търсене сред предоставени от властите данни, като например снимки на задържани лица или от шофьорски книжки. Разликата при Clearview е както в количеството, така и в произхода на изображенията – снимки на потребители на сайтове и социални мрежи, които са публично достъпни към момента на процеса по извличане.

През февруари 2019 г. полицейско управление в Индиана разкрива самоличността на извършител на криминално деяние в рамките на 20 минути, използвайки Clearview. Двама мъже влизат във физическа саморазправа в парк, единият прострелва другия, а сцената е заснета с телефон от намиращ се на мястото очевидец. Полицията взема кадър от видеото, на който се вижда лицето на извършителя, и го пуска за анализ в Clearview. Приложението моментално открива съвпадение във видео, публикувано в социална мрежа от друго лице, придружено с името му. До онзи момент човекът не е бил задъ̀ржан, нито е имал издадена шофьорска книжка, тоест не е бил в правителствените бази данни и не би могъл да бъде идентифициран със стандартните инструменти.

За кого работи

Основана от софтуерния разработчик Хоан Тон-Тат и Ричард Шуорц (съветник на Рудолф Джулиани по време на управлението му като кмет на Ню Йорк), компанията ползва посредническите услуги на настоящи и бивши републикански служители, които предлагат софтуера на полицията с гратисен тестов период и абонаментен план. За Clearview работи и Пол Клемент (правителствен юрисконсулт в администрацията на президента Джордж У. Буш), чиято задача е да разсейва съмненията относно законността на приложението.

Разработката на приложението пък става възможна благодарение и на инвестицията от 200 000 долара на небезизвестния Питър Тийл – съосновател на PayPal и Palantir и член на борда на директорите на Facebook.

От Clearview твърдят, че полицейското управление в Индиана е станало първият им платен клиент, както и че са вербували не само републиканци, но и демократи. От полицейското управление отказват коментар, като потвърждават единствено, че са тествали приложението. Детектив от Ню Джърси, който също го е тествал и препоръчал на капитана на управлението си, твърди, че с Clearview за секунди са били разпознати извършители на углавни престъпления.

Според компанията и правителствени служители Clearview се тества от щатските служби на реда и сигурността, в т.ч. ФБР и Департамента за вътрешна сигурност, както и от канадските правоприлагащи органи.

Много или малко са 75% съвпадения

Самият Тон-Тат обаче признава, че Clearview невинаги работи, защото при повечето снимки онлайн камерата е била на нивото на очите, докато охранителните камери обикновено са поставени високо, под ъгъл. Според него приложението намира съвпадения в 75% от случаите. Не е ясно обаче колко от тях всъщност са фалшиво позитивни резултати, тъй като приложението не е минало изпитания – например в Националния институт за стандарти и технологии, който оценява изпълнението на алгоритмите за лицево разпознаване.

„Нямаме данни, които да доказват, че този инструмент е точен“, отбелязва Клеър Гарви от Центъра за технологии и неприкосновеност на личния живот към Университета на Джорджтаун. Гарви е изследвала използването на лицево разпознаване от правителството. „Колкото по-голяма е базата данни, толкова по-голям е рискът от погрешно идентифициране поради „ефекта на двойника“. Тук се говори за огромно количество данни на случайни хора в интернет.“

Кашмир Хил, която провежда журналистическото разследване за „Ню Йорк Таймс“, установява също, че от компанията проверяват самоличността на търсените лица и могат да манипулират резултатите за използващите системата. По желание на Хил няколко полицейски служители пускат нейна снимка в Clearview, но приложението не връща съвпадения, тъй като от компанията са установили коя е тя и с какво се занимава, и са скрили резултатите, преди да позвънят на полицаите, за да ги питат да не би да са в комуникация с медиите.

„Зловещо е това, което правят, но ще има още много като тях. Няма монопол върху математиката“, каза Ал Джидари, професор в Юридическия факултет на Станфордския университет. „При липса на много силен федерален закон за защита на неприкосновеността на личния живот всички сме прецакани.“

В Европейския съюз

В работната версия на проекта за „бяла книга“ за изкуствения интелект (ИИ) на Европейската комисия, чието публикуване се очаква след около месец, се посочва възможността за забрана за използване на лицево разпознаване в обществени зони за следващите пет години. Целта на тази мярка е да се издейства повече време на регулаторите за „разработване на стабилна методология за оценка на въздействието на тази технология и възможни мерки за управление на риска“. Изключения от забраната могат да бъдат направени за проекти, свързани с обществената сигурност, както и за научноизследователски и развойни програми.

В началото на 2020 г. настоящият изпълнителен директор на Google и Alphabet Сундар Пичай също зае публична позиция във връзка с по-нататъшното развитие на ИИ. Той отбеляза, че макар в ИИ да има огромен потенциал, съществуват и значителни опасности, като злоупотребата с т.нар. deepfakes – компютърно генерирани видеоклипове, при които се използва наслагване на образа на една личност върху образа на друга и манипулацията е почти или напълно неуловима. Според Пичай въпросът с възможните приложения на ИИ е „твърде важен, за да не се налага регулиране“, но е необходим разумен подход, „който да не убива иновациите“.

Капитализъм на наблюдението

В края на 2019 г. активистът за човешки права и съосновател на Small Technology Foundation Арал Балкан участва в конференция за регулация на съдържание онлайн, организирана от Европейския парламент. На нея той не спести критиката си към ЕС за това накъде насочва усилията и финансирането си, и сравни Facebook с Щази в присъствието на представител на компанията.

Балкан изтъква, че именно Facebook извършва масово наблюдение, като анализира цялото съдържание, което публикуват потребителите на платформата, и използва тези данни за създаването на профили на поведението им. Бизнес модел, който той нарича „обработване на хора“ (people farming), a според Шошана Зубоф, професор в Харвардското бизнес училище, на която Балкан се позовава в същата презентация, това е „капитализъм на наблюдението“ (surveillance capitalism).

И с двете понятия се описва едно и също – компаниите събират данните за потребителите си на базата на техните дейности и превръщат тези данни в ресурс за т.нар. микропрофилиране – инструмент за прецизно насочване на рекламни съобщения. На изслушването пред Конгреса на САЩ през 2018 г. Марк Зукърбърг заяви, че компанията не продава данните на потребителите на своите продукти (Facebook, WhatsApp, Instagram). Но така или иначе, получавайки безплатен достъп до съответната услуга, потребителят се превръща в стока, от която доставчикът ѝ печели.

Епизод IV: Нова надежда

Надеждата за бъдещето на интернет може би е в децентрализацията му. Вече има добри примери за т.нар. разпределени социални мрежи като Mastodon – софтуер с отворен код, който свързва във федерална система безкраен брой сървъри, а хората могат да избират на кой от тях да се доверят и да се регистрират. Разбира се, за средния потребител подобна миграция може да изглежда трудна и непривлекателна.

Но дори при ползване на услугите на компаниите с монополно влияние има мерки, които всеки може да предприеме за намаляване на цифровия си отпечатък – чрез настройки на профилите в социалните медии и чрез собственото си поведение. В този смисъл тагването ни по места, събития, снимки и пр. може би не всеки път е добра идея.

Заглавна снимка: pixabay