Има ли пилот в безпилотните автомобили?

Не беше толкова отдавна, когато Георги Господинов разказваше за българите, които, за да изкарат прехраната си, отиват в Италия и се хвърлят под колите, след което съдят шофьорите за обезщетение. Вече обаче живеем в бъдещето, когато не е съвсем ясно кой и как ще отговаря за пътните инциденти. Безпилотните автомобили пораждат обяснима технологична еуфория, но правото е призвано да канализира тази еуфория навреме, преди да се е изродила в най-обикновена антиутопия.

Риск печели, риск губи

От векове централният проблем в правото е един и същ: кой ще носи риска. Развитието на юридическата отговорност едновременно следва, но и формира стопанското развитие на обществото, като например една от големите революции на ХХ век е създаването на обективната безвиновна отговорност на производителите на дефектни стоки. Конкретният повод е трагедията, разразила се в цяла Европа в началото на 60-те години на миналия век след появата на веществото талидомид, рекламирано като напълно безвредно лекарство против гадене за бременни. Скоро се появяват редица примери за деца с фетални увреждания, които се раждат без крайници, и правото се опитва да компенсира вредите, като създаде лесен механизъм за ангажиране на отговорността на производителите на лекарството.

При безпилотните автомобили темата за риска бе поставена особено остро след инцидента със самоуправляващ се автомобил на Uber, който през миналата година уби на място 49-годишна пешеходка в Аризона. От този момент Калифорния пое тежката задача да създаде първата по-сериозна регулация, която поставя и по-сериозни изисквания към производителите и ясно разписани правила за тяхната отговорност. От решението на другите щати дали да последват Калифорния, или не, зависи в значителна степен какъв облик ще придобие този пазар.

Ето защо различията между отделните щати по отношение на обхвата на юридическата отговорност на производителите на самоуправляващи се автомобили се оказват един от най-важните фактори за тяхното бъдеще. Чистият вариант на безвиновна отговорност, при който всеки инцидент води до обезщетение за пострадалия или близките му, без оглед нито на неговата собствена вина, нито на специфичната ситуация, изглежда най-приемлив на инстинктивно ниво, но той често има обратен ефект:

ако един производител знае, че ще отговаря при всички положения, той няма особен стимул да инвестира в подобряване на сигурността на автомобила.

Но въпросът за вината е допълнително усложнен, ако се погледне от обратната гледна точка – тази на пешеходците. Тяхното поведение със сигурност ще се промени под влиянието на новите технологии и тогава възниква основателно съмнение дали ще има значение евентуално небрежно поведение на пешеходец, ако е наясно, че срещу него се задава автономен автомобил, за който се предполага, че взема по-трезви решения от шофьор. И ако пешеходците свикнат да бъдат по-небрежни, дали няма да се наложи периодична промяна на алгоритъма, докато накрая той не започне да допуска повече грешки от шофьора?

Каквото и да ти говорят, става дума за морал

Докато в САЩ изчисляват съотношението, при което сметката на безпилотните автомобили ще излезе, в Европа е по-модерно да се говори за морал. Първият подробен доклад по темата се появява през юни 2017 г. в Германия. Специалната комисия, оглавявана от доскорошния конституционен съдия Удо ди Фабио, стига до извода, че е

недопустимо да се говори за уредба, в чийто център да не е поставен индивидът.

Затова и технологичното развитие не може да измести принципа на автономната воля, съобразно който всеки човек разполага със свобода на действие, но и със съответна отговорност. Не е изненадващо, че в държава с мрачно нацистко минало, свързано с разделение, препоръките на комисията са недвусмислени: всякакъв тип избор, основан на личните характеристики на участниците в движението, трябва да бъде абсолютно забранен.

И макар да изглежда морално осъдително да се прави подобен избор, дали можем да вярваме на хората, които ще програмират алгоритъма? Една от авторитетните статии по въпроса стъпва върху проведено интерактивно изследване, наречено Moral Machine. Забавната игра дава възможност за вземане на морални решения в разнообразни ситуации с участието на хора (и животни) от различен пол, възраст, телосложение и т.н. Резултатът от изследването е, че участниците показват много ясни пристрастия кой трябва да живее и кой – не. Например хората на изток са по-склонни да убият млад човек, за да спасят стар, докато на юг закръглените хора са по-желана жертва, отколкото атлетичните.

Изглежда, че производителите на автомобили трябва да се съобразят и с културните различия при бъдещото програмиране на безпилотните си модели, но дори това не може да отговори на основното съображение: макар да е възможно да се програмира решение, то все така ще идва „отвън“, тоест от възможно най-широкия консенсус кое е „правилно“, а зад този консенсус често стои покровителствената ръка на държавата.

Подобни казуси, които придобиват популярност покрай известния мисловен експеримент Trolley problem, съвсем не са нови, но те се натъкват на същия недостатък като експеримента – че изолират процеса по вземане на решения в напълно изкуствена ситуация без контекст и без връзка с непредвидимото човешко поведение. Така неминуемо се сблъскват и с безизходните противоречия на теоретичния разум. Неприятната новина е, че

колкото и да се развиват, безпилотните автомобили няма как да бъдат програмирани в движение, а алгоритмите им се създават в същите тези изолирани теоретични условия.

Оттук следва, че забавянето на развитието им е неизбежно, защото предизвикателството е не просто да са снабдени с необходимите технологични средства за справяне в ситуация на избор, но и максимално да избягват такива ситуации въобще. По този начин дискусията се измества и на плоскостта на доверието: ако операционната система на автономния автомобил подлежи на някаква процедура по лицензиране, както изглежда, че ще се ориентира индустрията, това увеличава зависимостта от изкуствения интелект, без обаче да е гарантирано, че ще се увеличи и безопасността на пътя.

Със сто километра в година

Техническият напредък, на който се основават автономните превозни средства – все по-добрите им радари и навигационни системи, е асиметричен на тромавите стъпки от регулативно естество. Нещата може би биха били различни, ако все още не съществуваха и добре познатите автомобили, шофирани от хора, защото, по думите на самите Google, безпилотните машини ще са най-ефективни на пътя и най-лесни за програмиране, когато няма никой друг около тях, тоест в свят на изцяло автономни автомобили. Междинният хибриден етап, когато логиката на самоуправляващите се превозни средства се сблъсква с тази на шофьорите, изглежда най-труден за преминаване, особено за шофьорите, спрямо които трябва да се направи тежък избор: дали действията им да бъдат преценявани по стандарта за една машина, или да важат два паралелни и несводими един до друг стандарта.

Едно от предимствата на ниското ниво на публичен дебат в България е, че когато актуалните проблеми най-накрая стигнат и у нас, поне ще има от кого да вземем опит.

Кой опит ще е най-полезен за българските пътища, е все още въпрос без категоричен отговор. Няма съмнение обаче, че ако през 60-те години правото е можело да си позволи да реагира едва след като са настъпили сериозни вреди, в сегашния свръхрегулиран свят това е напълно недопустимо. Колкото до задачата на науката – отвъд безспорните си успехи тя е доказала, че може да допринесе и за злините по света с безразличието си към етичните аспекти на научния прогрес. Изглежда, че изборът пред бъдещето ще бъде не само между по-мощни или по-бързи автомобили, но и между повече и по-малко морални.

Заглавна снимка: Автономен миниван Waymo Chrysler Pacifica Hybrid по време на тест в Лос Алтос, Калифорния © Dllu