Autonominių automobilių saugumo krizė po naujausių avarijų

Pastarųjų mėnesių rezonansinės autonominių automobilių avarijos JAV, Kinijoje ir kitose rinkose iš naujo užkūrė karštas diskusijas: ar tikrai robotai vairuotojai yra saugesni už žmones? Nors technologijų gigantai žada revoliuciją, eismo įvykių kronika rodo vis daugiau pavojingų situacijų – nuo klaidingo pėsčiųjų atpažinimo iki nesuvaldytų manevrų miestuose.

Šiandien autonominiai automobiliai jau nėra tolima futuristinė vizija. Tai realūs, gatvėse važinėjantys automobiliai, kurių klaidos gali kainuoti gyvybes. Todėl po naujausių avarijų vis garsiau kalbama apie saugumo krizę ir būtinybę stabtelėti, peržiūrėti taisykles bei pačią inovacijų logiką.

Kas įvyko: naujausių autonominių automobilių avarijų paveikslas

Nors konkrečios bylos dar tiriamos, jau dabar aiškėja keli pasikartojantys scenarijai, kurie kelia klausimų dėl autonominių sistemų patikimumo.

Dažniausi avarijų scenarijai

• Pėsčiųjų ir dviratininkų neatpažinimas – sudėtingomis sąlygomis (sutemus, lietui lyjant, esant ryškiems atspindžiams) sistemos kartais vėluoja atpažinti ar neteisingai klasifikuoja pėsčiuosius ir dviratininkus.
• Neteisingas kitų eismo dalyvių elgesio prognozavimas – autonominis automobilis „tikisi“, kad kiti laikysis taisyklių, o žmogus vairuotojas ar pėsčiasis elgiasi chaotiškiau.
• Problemos sankryžose – daugelyje incidentų minimos sudėtingos miesto sankryžos, kuriose reikia greitai vertinti kelias rizikas vienu metu.
• Per didelis pasitikėjimas programine įranga – vairuotojai, tikėdami, kad „auto važiuoja pats“, per vėlai reaguoja į sistemos klaidas ar įspėjimus perimti valdymą.

Tokių atvejų visuma kuria ne tik statistinę, bet ir psichologinę problemą – visuomenės pasitikėjimas technologija ima trūkinėti, o politikai ir reguliuotojai spaudžiami imtis griežtesnių sprendimų.

Ar autonominiai automobiliai iš tiesų saugesni?

Technologijų kūrėjai nuolat kartoja: robotai vairuotojai nekalba telefonu, nevairuoja išgėrę ir nepersėda prie vairo po bemiegės nakties. Tačiau saugumas – ne tik teorija, bet ir realūs skaičiai.

Žadėta nauda prieš realybę

• Žadėta: iki 90 % mažiau avarijų, nes eliminuojama žmogiškoji klaida.
• Realybė šiandien: avarijų skaičius autonominiams automobiliams, tenkantis vienam nuvažiuotam kilometrui, kai kuriose bandymų programose jau artėja prie įprastų automobilių lygio, bet dar nėra akivaizdžiai mažesnis visose situacijose.
• Didžiausia problema: pavieniai, bet labai rimti incidentai (sunkūs sužalojimai, žūtys), kurie kelia moralinius ir teisinius klausimus.

Moksliniai tyrimai rodo, kad autonominės sistemos puikiai tvarkosi su pasikartojančiomis, nuspėjamomis situacijomis – pavyzdžiui, važiuojant greitkeliu pastoviu greičiu. Tačiau miestuose, kur daug netikėtumų, klaidų tikimybė vis dar reikšminga.

Pagrindinės autonominių automobilių saugumo problemos

1. Technologiniai ribotumai

Net ir pažangiausi jutikliai turi fizines ribas:

• Radarai ir lidarai gali „apakti“ stipraus lietaus, sniego, rūko ar purvo sąlygomis.
• Kameros sunkiai susidoroja su akinama saule, naktiniais atspindžiais, neįprastais kelio ženklais ar laikinomis žymomis.
• Žemėlapiai ne visada atnaujinami realiu laiku – kelio darbai, laikinai uždarytos juostos ar nauji žiedai gali klaidinti algoritmus.

Dirbtinio intelekto modeliai mokomi iš milžiniškų duomenų kiekių, tačiau jie vis dar sunkiai tvarkosi su „pirmą kartą matomomis“ situacijomis – būtent jos ir kelia didžiausią pavojų.

2. Žmogaus ir mašinos sąveika

Daugelis šiandien rinkoje esančių sistemų nėra 100 % autonominės – jos reikalauja, kad vairuotojas išliktų budrus ir bet kada perimtų valdymą. Čia prasideda pavojinga pilkoji zona:

• Vairuotojas atsipalaiduoja ir ima pasitikėti sistema labiau, nei leidžia jos techniniai apribojimai.
• Reakcijos laikas, kol žmogus supranta, kad sistema klysta, ir perima kontrolę, dažnai būna per ilgas.
• Interfeisai ne visada aiškiai rodo, ką automobilis „suprato“ ir ką ketina daryti toliau.

Tokiais atvejais neaiški atsakomybė tampa ne tik teisine, bet ir praktine problema: kas čia iš tikrųjų vairuotojas – žmogus ar kompiuteris?

3. Teisinė ir etinė atsakomybė

Po kiekvienos rimtesnės autonominio automobilio avarijos atsiranda tie patys klausimai:

• Kas kaltas – automobilio savininkas, programinės įrangos kūrėjas, automobilių gamintojas ar paslaugos teikėjas?
• Kaip vertinti atvejus, kai žmogus tikėjo gamintojo reklama apie „pilną autonomiją“, o realybėje sistema buvo tik pagalbinė?
• Ar etiška leisti testuoti dar ne iki galo saugias sistemas viešajame eisme?

Kol šie klausimai neatsakyti aiškiai, kiekviena nauja avarija kuria precedentą ir formuoja teismų praktiką, kuri gali arba paskatinti, arba smarkiai sulėtinti visos industrijos plėtrą.

Reguliavimo atsakas: stabdžiai inovacijoms ar būtina apsauga?

Po pastarųjų avarijų vis daugiau miestų ir valstybių imasi konkrečių ribojimų: nuo leidimų sustabdymo atskiroms įmonėms iki griežtesnių bandymų sąlygų.

Tarptautinės tendencijos

• JAV kai kurios valstijos laikinai sustabdė tam tikrų autonominių taksi paslaugų veiklą po incidentų su pėsčiaisiais.
• Europa juda atsargesniu keliu – leidžiami riboti bandymai su aiškiomis atsakomybės, draudimo ir duomenų rinkimo taisyklėmis.
• Azija (ypač Kinija, Pietų Korėja) aktyviai testuoja autonominius autobusus ir taksi, tačiau taiko griežtą valstybinę priežiūrą ir geografinį ribojimą.

ES lygmeniu jau svarstomi reikalavimai, kad autonominių sistemų gamintojai privalomai atliktų išsamius saugumo auditus, dalintųsi avarijų duomenimis ir aiškiai žymėtų autonomines funkcijas vartotojams.

Ką tai reiškia Lietuvai?

Lietuvoje autonominių automobilių bandymai kol kas vyksta labai ribotai, tačiau:

• Vyksta diskusijos dėl eismo taisyklių adaptavimo ir duomenų apsaugos klausimų.
• Miestai domisi autonominių autobusų panaudojimu ribotuose maršrutuose – pavyzdžiui, universitetų miesteliuose ar pramonės zonose.
• Po tarptautinių avarijų Lietuva greičiausiai perims atsargesnį ES požiūrį – daugiau reikalavimų bandymams, aiškesnės atsakomybės taisyklės.

Pranašumas tas, kad Lietuva gali mokytis iš kitų klaidų ir iš karto diegti griežtesnius saugumo standartus, o ne eksperimentuoti su gyventojų saugumu.

Kaip autonominių automobilių rinka reaguoja į saugumo krizę?

Naujausių avarijų bangos sukrėtė ne tik visuomenę, bet ir pačias technologijų įmones. Kai kurios iš jų:

• laikinai sustabdė bandymus tam tikruose miestuose;
• peržiūri savo rizikos vertinimo algoritmus (pavyzdžiui, konservatyviau vertina pėsčiųjų elgesį);
• investuoja į geresnį vairuotojų mokymą, kaip naudotis pusiau autonominėmis sistemomis;
• aktyviau komunikuoja apie sistemos ribotumus, kad sumažintų nepagrįstus lūkesčius.

Rinkoje vyksta ir struktūriniai pokyčiai – kai kurios kompanijos atsitraukia nuo visiškos autonomijos vizijos ir koncentruojasi į pažangias pagalbos vairuotojui sistemas, kurios remia žmogų, bet jo nepakeičia.

Ko tikėtis vairuotojams ir miestams artimiausiais metais?

Po saugumo krizės autonominiai automobiliai niekur nedings, tačiau jų plėtra greičiausiai taps labiau evoliucinė, o ne revoliucinė.

1. Daugiau pusiau autonominių funkcijų

Didžioji dalis vairuotojų Lietuvoje artimiausiais metais susidurs ne su visiškai autonominiais, o su išmaniais pagalbininkais:

• pažangesniais eismo juostos palaikymo ir prisitaikančio greičio palaikymo režimais;
• automatinio parkavimo sistemomis;
• išmanesniu avarinio stabdymo ir aklosios zonos stebėjimu.

Šios funkcijos jau dabar padeda išvengti šimtų avarijų ir, tinkamai naudojamos, yra realus saugumo šuolis.

2. Autonomija ribotose zonose

Visiška autonomija greičiausiai pirmiausia bus diegiama aiškiai apibrėžtose teritorijose:

• uždaruose pramonės parkuose, logistikos centruose;
• oro uostuose, uostuose, sandėliuose;
• ribotuose miesto maršrutuose su iš anksto suplanuotu eismu.

Toks modelis leidžia geriau suvaldyti riziką ir palaipsniui rinkti duomenis, reikalingus saugesniems sprendimams miestuose.

3. Griežtesnis duomenų ir skaidrumo reikalavimas

Po kiekvienos naujos avarijos visuomenė vis garsiau reikalauja skaidrumo:

• kokius duomenis renka autonominiai automobiliai;
• kaip jie naudojami algoritmams mokyti;
• kas turi prieigą prie vaizdo įrašų ir jutiklių informacijos.

ES ir Lietuvoje tai ypač aktualu dėl GDPR ir kitų duomenų apsaugos teisės aktų. Tikėtina, kad autonominių automobilių paslaugų teikėjams bus keliami ypatingai aukšti skaidrumo standartai.

Kaip elgtis vairuotojams ir pėstiesiems jau dabar?

Net jei Lietuvoje dar nematome pilnų autonominių taksi, dalis automobilių jau turi funkcijas, kurios veikia savarankiškai ir gali klaidinti savo pavadinimais ar rinkodara.

Vairuotojams

• Supraskite, kad „pagalba vairuotojui“ nėra „autopilotas“. Visada išlikite budrūs.
• Perskaitykite automobilio naudojimo instrukciją – ypač skyrius apie autonomines funkcijas ir jų ribotumus.
• Nenaudokite autonominių režimų netinkamomis sąlygomis (stiprus lietus, sniegas, nepažįstami žvyrkeliai ir pan.).
• Reguliariai atnaujinkite programinę įrangą – gamintojai dažnai ištaiso klaidas ir pagerina saugumą.

Pėstiesiems ir dviratininkams

• Nesitikėkite, kad automobilis visada jus mato – net jei atrodo modernus ir „išmanus“.
• Laikykitės pagrindinės taisyklės: užmegzkite akių kontaktą su vairuotoju, jei įmanoma. Jei vairuotojo nematote, elkitės ypač atsargiai.
• Nesiblaškykite telefonu pereidami gatvę – technologijos dar toli gražu nėra neklystančios.

Išvada: saugumo krizė – galimybė perkurti autonomijos viziją

Autonominių automobilių saugumo krizė po naujausių avarijų – tai ne tik technologinis, bet ir socialinis, teisinis bei etinis iššūkis. Ji verčia iš naujo atsakyti į klausimą: kam skirta autonomija? Ar ji turi pirmiausia tarnauti verslo interesams ir inovacijų greičiui, ar žmonių saugumui ir pasitikėjimui?

Jei po šių avarijų rinka pasirinks skaidrumą, griežtesnius saugumo standartus ir atsargesnę plėtrą, autonominiai automobiliai gali ir toliau išlikti pažadėta ateities technologija. Tačiau tai bus ne aklas tikėjimas „stebuklingu autopilotu“, o brandus, atsakingas žingsnis į išmanesnį, bet kartu ir saugesnį kelių eismą.

DUK: autonominiai automobiliai ir saugumo klausimai

Ar autonominiai automobiliai šiandien saugesni už paprastus?

Šiuo metu atsakymas priklauso nuo situacijos. Greitkeliuose ir paprastesnėse sąlygose autonominės sistemos dažnai pasirodo geriau nei vidutinis vairuotojas. Tačiau sudėtingose miesto situacijose, ypač su pėsčiaisiais ir dviratininkais, klaidų rizika vis dar reikšminga, todėl kalbėti apie aiškų saugumo pranašumą dar per anksti.

Kas atsako už avariją su autonominiu automobiliu?

Teisinė praktika dar tik formuojasi. Daugelyje šalių, kol vairuotojas privalo išlikti budrus ir bet kada perimti kontrolę, atsakomybė dažnai tenka jam. Tačiau, jei įrodoma, kad avariją lėmė programinės įrangos ar technikos klaida, atsakomybė gali būti perkelta gamintojui ar paslaugos teikėjui. Ateityje tikėtini aiškesni, įstatymuose įtvirtinti modeliai.

Ar Lietuvoje artimiausiu metu važinės autonominiai taksi?

Visiškai autonominiai taksi Lietuvos gatvėse artimiausiais metais mažai tikėtini. Greičiau pamatysime ribotus pilotinius projektus – pavyzdžiui, autonominius autobusus ar mikroautobusus uždarose teritorijose arba aiškiai apibrėžtuose maršrutuose. Plataus masto paslaugoms dar trūksta ne tik technologinio, bet ir teisinio bei infrastruktūrinio pasirengimo.