Autonominių automobilių atsakomybės revoliucija po pirmųjų didelių teismo bylų

Autonominiai automobiliai iš laboratorijų jau seniai persikėlė į realias gatves. Tačiau tik dabar, po pirmųjų didelių teismo bylų JAV ir Europoje, pradeda aiškėti, kas iš tikrųjų atsakys už avarijas, kurias sukelia automobilis, vairuojamas ne žmogaus, o algoritmo.

2023–2024 m. keli rezonansiniai incidentai, susiję su „Tesla“ autopilotu, „Cruise“ robotaksi San Fransiske ir kitais bandyminiais parkais, tapo lūžio tašku. Teismai ir reguliuotojai buvo priversti atsakyti į klausimą, kurio ilgai vengė automobilių pramonė: ar avarija autonominiu režimu – tai vairuotojo klaida, programinės įrangos defektas ar sistemos gamintojo rizika?

Pirmosios didelės bylos: kas jau įvyko pasaulyje?

Nors kiekviena byla skiriasi detalėmis, jų bendra kryptis aiški: atsakomybė pamažu slenka nuo vairuotojo link gamintojo ir programinės įrangos kūrėjų.

JAV: „Tesla“ autopiloto bylos – nuo vairuotojo kaltės iki sistemos ribotumo

JAV teismuose jau nagrinėta kelios bylos, kuriose nukentėjusieji tvirtino, kad avarijas sukėlė „Tesla“ autopiloto klaidos ar klaidinanti rinkodara. Svarbūs aspektai:

• Terminija: kritikuojamas pats žodis „Autopilot“, nes jis sudaro įspūdį, kad automobilis gali vairuoti pats, nors techniškai tai tik pagalbinė sistema (SAE 2 lygis).
• Vairuotojo pareiga: daugumoje bylų teismai pabrėžė, kad vairuotojas privalo nuolat stebėti kelią ir būti pasirengęs perimti valdymą.
• Gamintojo atsakomybė: vis dažniau nagrinėjama, ar gamintojas tinkamai įspėjo apie ribotumus ir ar reklama nebuvo per daug agresyvi.

Nors ne visose bylose gamintojai pripažinti kaltais, jau matyti kryptis: jei įrodoma, kad sistema veikė ne taip, kaip deklaruota, atsakomybė gali būti perkelta nuo vairuotojo į technologijos pusę.

Robotaksi miestų gatvėse: „Cruise“ ir „Waymo“ pamokos

San Fransiske, Finikse ir kituose JAV miestuose autonominiai taksi tapo kasdienybe. Tačiau po kelių rimtesnių incidentų, įskaitant pėsčiųjų partrenkimus ir užblokavimą gelbėjimo tarnyboms, reguliuotojai ėmėsi griežtų priemonių.

• Licencijų stabdymas: Kalifornijos institucijos laikinai sustabdė kai kurių robotaksi operatorių leidimus po avarijų.
• Duomenų reikalavimai: bendrovės priverstos atviriau dalintis avarijų duomenimis ir testavimo statistika.
• Teisinė kryptis: vis dažniau kalbama apie tai, kad robotaksi operatoriai turėtų būti vertinami labiau kaip viešojo transporto ar taksi įmonės, o ne tik kaip „technologijų startuoliai“.

Šios bylos formuoja precedentą: jei automobilis važiuoja be vairuotojo, atsakomybė už jo veiksmus logiškai turi tekti paslaugos teikėjui ir gamintojui.

Kas atsako už autonominio automobilio avariją šiandien?

Kol nėra vieningo pasaulinio standarto, atsakomybės modelis priklauso nuo šalies ir autonomijos lygio. Vis dėlto galima išskirti kelis pagrindinius scenarijus.

1. Vairuotojas kaip sistemos prižiūrėtojas

Dauguma šiandien rinkoje esančių „autonominių“ sistemų – tai 2 lygio pagalbinės sistemos (adaptinis kruizo kontrolė, juostos palaikymas ir pan.). Teisiškai jos laikomos pagalba vairuotojui, o ne jį pakeičiančia technologija.

Todėl:

• vairuotojas privalo laikyti rankas netoli vairo ir stebėti kelią,
• už KET pažeidimus ir avarijas dažniausiai atsako vairuotojas,
• gamintojas atsakytų tik tuo atveju, jei įrodoma aiški techninė ar programinė klaida (produktų defektas).

2. Gamintojas ir programinės įrangos kūrėjas

Augant autonomijos lygiui (3–4), vis dažniau kalbama apie produktų atsakomybę. Jei automobilis priima sprendimus savarankiškai, atsakomybė už neteisingą sprendimą logiškai turėtų tekti tiems, kurie tą sprendimų logiką sukūrė.

Čia išryškėja keli klausimai:

• Kas yra „defektas“? Ar klaida – tai tik aiškus programavimo bug’as, ar ir situacija, kai algoritmas elgiasi taip, kaip suplanuota, bet sprendimas pasirodo esąs pavojingas?
• Kas atsako už duomenis? Jei modelis mokytas su šališkais ar nepilnais duomenimis ir dėl to blogai atpažįsta, pavyzdžiui, pėsčiuosius tam tikromis sąlygomis, ar tai laikoma defektu?
• Nuotoliniai atnaujinimai: ar programinės įrangos atnaujinimas po avarijos reiškia, kad gamintojas pripažįsta ankstesnės versijos trūkumus?

3. Draudimo bendrovės kaip naujieji „atsakomybės amortizatoriai“

Draudimo sektorius jau dabar ruošiasi tam, kad klasikinis KASKO ir civilinės atsakomybės modelis keisis. Tendencijos tokios:

• Hibridiniai polisai: dalis rizikos tenka vairuotojui, dalis – gamintojui (per specialius gamintojo civilinės atsakomybės polisus).
• Duomenimis grįsta įmoka: draudikai nori realaus važiavimo ir avarijų duomenų, kad galėtų tiksliau įvertinti riziką.
• Regresiniai ieškiniai: draudikas pirmiausia atlygina žalą nukentėjusiajam, o vėliau pats bylinėjasi su gamintoju ar programinės įrangos tiekėju.

Europos ir Lietuvos kontekstas: kur mes esame 2024–2025 m.?

Europos Sąjunga 2024–2025 m. žengia link griežtesnio dirbtinio intelekto ir autonominių sistemų reguliavimo. Nors dauguma naujų taisyklių dar tik įsigalioja, kryptis aiški – daugiau atsakomybės technologijų kūrėjams.

ES reguliavimas: nuo DI akto iki produktų atsakomybės

Europos DI aktas (AI Act) ir atnaujinta ES produktų atsakomybės direktyva kuria pagrindą, pagal kurį:

• aukštos rizikos DI sistemos (tarp jų – autonominio vairavimo sistemos) turės atitikti griežtus saugos ir skaidrumo reikalavimus,
• vartotojams bus lengviau įrodyti, kad žala kilo dėl sistemos trūkumų,
• gamintojai ir tiekėjai privalės laikyti išsamius žurnalus apie sistemos sprendimus ir atnaujinimus.

Tai reiškia, kad ateityje nukentėjusiam asmeniui nebereikės „išnarstyti“ sudėtingo algoritmo – pakaks parodyti, kad sistema nesuveikė taip, kaip numatyta ar deklaruota.

Lietuva: teisinė bazė dar tik formuojasi

Lietuvoje kol kas nėra daug praktinių bylų, susijusių su pilnai autonominiais automobiliais – tokių transporto priemonių dar labai mažai. Tačiau:

• galioja bendrosios civilinės atsakomybės ir produktų atsakomybės taisyklės,
• Lietuva, kaip ES narė, privalės perkelti į nacionalinę teisę naujus ES reikalavimus dėl DI ir produktų saugos,
• draudimo rinka jau svarsto, kaip vertinti riziką, susijusią su išmaniosiomis vairavimo sistemomis.

Praktikoje pirmosios bylos Lietuvoje greičiausiai bus susijusios ne su visiškai autonominiais automobiliais, o su pažangiomis pagalbinėmis sistemomis – pavyzdžiui, kai vairuotojas per daug pasitiki juostos palaikymo ar automatinio stabdymo funkcija.

Kaip keisis atsakomybė artimiausiais metais?

Vertinant šiandieninę teismų praktiką ir reguliavimo kryptis, galima prognozuoti kelis aiškius pokyčius.

1. Nuo vairuotojo kaltės prie bendros atsakomybės modelio

Istoriškai beveik visa atsakomybė už avarijas teko vairuotojui. Autonominių automobilių eroje formuojasi mišrus modelis:

• Vairuotojas atsako už dėmesingumą ir taisyklių laikymąsi, kai sistema aiškiai nurodo, kad ji tik padeda.
• Gamintojas atsako, jei sistema elgiasi ne taip, kaip deklaruota, ar turi nenumatytų trūkumų.
• Programinės įrangos tiekėjas atsako už algoritmų ir duomenų kokybę, jei jie lemia pavojingus sprendimus.
• Draudikas tampa tarpininku, kuris greitai atlygina žalą, o paskui išsiaiškina, kas iš tikrųjų kaltas.

2. Duomenų ir juodraščių (log’ų) svarba bylose

Autonominių automobilių bylose didžiausia vertybė – ne liudytojų parodymai, o duomenys:

• važiavimo istorija sekundžių tikslumu,
• sensorinių sistemų (lidarų, kamerų, radarų) įrašai,
• programinės įrangos versijų ir atnaujinimų žurnalai,
• DI modelių treniravimo aprašai ir testavimo rezultatai.

Teismai vis dažniau reikalauja šių duomenų, o tai kelia klausimus dėl komercinių paslapčių ir privatumo. Tačiau be jų objektyviai nustatyti kaltės ribas tampa beveik neįmanoma.

3. „Priimtinos rizikos“ sąvoka

Net ir pati pažangiausia sistema negali garantuoti 0 % avarijų. Todėl teismai ir reguliuotojai pamažu formuoja „priimtinos rizikos“ standartą:

• ar autonominis automobilis statistiškai saugesnis už vidutinį žmogų vairuotoją?
• ar gamintojas padarė viską, kas pagrįstai įmanoma, kad sumažintų riziką?
• ar sistema buvo tinkamai ištestuota realiomis sąlygomis?

Jei atsakymai yra teigiami, net ir įvykusi avarija nebūtinai reikš automatinę gamintojo kaltę. Tačiau jei paaiškės, kad rizikos buvo žinomos ir sąmoningai ignoruotos, atsakomybė bus griežta.

Ką tai reiškia vairuotojams ir automobilių savininkams?

Nors teisinė atsakomybė pamažu slenka link gamintojų ir technologijų kūrėjų, tai nereiškia, kad vairuotojai gali atsipalaiduoti. Artimiausiais metais galios kelios paprastos, bet svarbios taisyklės.

1. Nepasitikėkite rinkodara aklai

Jei automobilio reklamoje kalbama apie „autopilotą“, „pilną autonomiją“ ar „savivaldį vairavimą“, visada:

• patikrinkite instrukciją – kokio lygio tai sistema iš tikrųjų,
• supraskite, kada privalote laikyti rankas ant vairo,
• įvertinkite, kokiomis sąlygomis sistema neveikia (blogas oras, prastas ženklinimas ir pan.).

2. Saugokite ir analizuokite duomenis

Jei įvyktų incidentas, labai svarbu:

• neištrinti ir neperrašyti automobilio duomenų,
• paprašyti gamintojo ar serviso išsaugoti ir pateikti važiavimo log’us,
• pasidomėti, ar draudimo bendrovė turi patirties su išmaniųjų sistemų bylomis.

Duomenys gali tapti esminiu įrodymu, kad kaltė slypi ne jūsų veiksmuose, o technologijoje.

3. Rinkitės draudimą, kuris supranta autonomiją

Perkant naują automobilį su pažangiomis vairavimo sistemomis verta:

• pasidomėti, ar draudikas turi specialius produktus autonominėms ar išmaniosioms transporto priemonėms,
• išsiaiškinti, kaip vertinamos avarijos, įvykusios įjungus pagalbines sistemas,
• įvertinti galimybę apdrausti ne tik automobilį, bet ir galimus ginčus su gamintoju (teisinės pagalbos draudimas).

Gamintojų ir technologijų įmonių iššūkiai

Autonominių automobilių atsakomybės revoliucija paliečia ne tik vairuotojus, bet ir visą automobilių pramonės ekosistemą.

1. Skaidrumas ir paaiškinamas DI

Teismai ir reguliuotojai vis dažniau reikalauja, kad DI sprendimai būtų paaiškinami. Tai reiškia, kad gamintojai turi:

• fiksuoti, kokie duomenys ir kokie modeliai buvo naudojami sprendimams priimti,
• pateikti bent iš dalies suprantamą paaiškinimą, kodėl sistema pasirinko vieną ar kitą manevrą,
• kurti vidines etikos ir saugos komisijas, vertinančias algoritmų sprendimų pasekmes.

2. Teisinės komandos ir rizikos valdymas

Automobilių gamintojai ir startuoliai, dirbantys su autonominiu vairavimu, priversti investuoti ne tik į inžineriją, bet ir į:

• specializuotas teisines komandas, suprantančias DI ir produktų atsakomybę,
• rizikos vertinimo sistemas, kurios modeliuoja galimas bylas ir jų kainą,
• aktyvų dialogą su draudikais ir reguliuotojais.

3. Viešasis pasitikėjimas

Kiekviena rezonansinė byla dėl autonominio automobilio avarijos daro įtaką visuomenės pasitikėjimui. Todėl gamintojams tampa strategiškai svarbu:

• atvirai komunikuoti apie incidentus ir klaidas,
• greitai reaguoti į problemines situacijas (pvz., nutraukti bandymus, jei kyla pavojus),
• rodyti realius, nepriklausomai patvirtintus saugumo rodiklius, o ne tik rinkodaros pažadus.

Išvada: atsakomybės revoliucija tik prasideda

Pirmosios didelės teismo bylos dėl autonominių automobilių parodė, kad senoji logika „kaltas visada vairuotojas“ nebeatlaiko realybės. Autonomijos ir dirbtinio intelekto eroje atsakomybė tampa daugiasluoksnė:

• vairuotojai privalo išlikti dėmesingi ir suprasti technologijos ribas,
• gamintojai ir programinės įrangos kūrėjai prisiima vis didesnę dalį rizikos,
• draudimo ir teisinė sistema mokosi dirbti su duomenimis, o ne vien su liudytojų pasakojimais.

Kuo daugiau autonominių automobilių pasirodys Lietuvos ir Europos keliuose, tuo dažniau šie klausimai bus sprendžiami ne teorijoje, o konkrečiose bylose. Todėl tiek vairuotojams, tiek verslui verta ruoštis jau dabar – suprasti technologiją, jos rizikas ir naujas atsakomybės taisykles.

DUK apie autonominių automobilių atsakomybę

Kas atsakys už avariją, jei autonominis automobilis vairavo pats?

Jei kalbame apie šiandien rinkoje esančias sistemas (2–3 lygis), teisiškai vairuotojas vis dar laikomas atsakingu už transporto priemonės valdymą ir kelių eismo taisyklių laikymąsi. Tačiau jei įrodoma, kad avariją nulėmė aiškus sistemos defektas ar klaidinanti gamintojo informacija, atsakomybė gali būti perkelta gamintojui ar programinės įrangos tiekėjui. Ateityje, atsiradus pilnai autonominiams (4–5 lygio) automobiliams be vairuotojo, daugelyje jurisdikcijų tikimasi pereiti prie modelio, kai už avarijas pirmiausia atsako gamintojas ar paslaugos teikėjas.

Ar Lietuvoje jau buvo bylų dėl autonominių automobilių?

Iki šiol Lietuvoje nėra plačiai žinomų bylų, susijusių su pilnai autonominiais automobiliais – tokių transporto priemonių mūsų keliuose dar labai mažai. Tačiau jau pasitaiko situacijų, kai ginčai su draudikais ar gamintojais kyla dėl pažangių pagalbinių sistemų (automatinio stabdymo, juostos palaikymo ir pan.) veikimo. Tokiais atvejais taikomos bendros civilinės ir produktų atsakomybės taisyklės, o teismai remiasi tiek ES praktika, tiek techninėmis ekspertizėmis.

Kaip apsisaugoti vairuotojui, naudojančiam autopilotą ar kitas pagalbines sistemas?

Pirmiausia – visada elkitės taip, lyg vairuotumėte patys: stebėkite kelią, laikykite rankas netoli vairo ir būkite pasirengę perimti kontrolę. Antra – atidžiai perskaitykite automobilio instrukciją ir supraskite, kokio lygio sistema įdiegta, kokie jos ribotumai ir kada ji gali išsijungti. Trečia – pasirinkite draudimo polisą, kuris aiškiai apibrėžia, kaip vertinamos avarijos, įvykusios naudojant pagalbines sistemas. Galiausiai – jei įvyksta incidentas, pasirūpinkite, kad būtų išsaugoti automobilio duomenys ir kreipkitės į specialistus, galinčius juos išanalizuoti.