Čak i u svijetu u kojem dominiraju gotovo nepogrešivi roboti vozači bit će prometnih nesreća, zbog milijarde razloga - nedovoljnog vremena za kočenje, tehnoloških propusta, loše kalibriranih senzora, nepovoljnih vremenskih uvjeta... Ako će samovozeći automobili postati sveprisutni, morat će postojati strategije za optimizaciju sudara.

Pretpostavimo da se vozite planinskom cestom u autu kojim upravlja robot. Odjednom vam pukne guma i auto počne vrludati, a robot se nađe pred dilemom - hoće li se zabiti u auto koji dolazi iz suprotnog smjera, u kojem je šesteročlana obitelj, ili će skrenuti prema provaliji i tako ubiti vas kako bi spasio njih?

Takvu je dvojbu nedavno javno postavio Patrick Lin, profesor filozofije sa Sveučilišta California Polytechnic.

Ni ovako postavljeno pitanje nema jednostavan odgovor, a stvari se mogu još zakomplicirati. Koliko i kakvih informacija robot treba imati na raspolaganju kako bi donio tu odluku? Mora li moći razlikovati različite vrste vozila (motor, autobus, kamion)? Treba li uzeti u obzir dob potencijalnih žrtava ili njihove izglede za preživljavanje i oporavak?

Pronalazak odgovora je važan, između ostalog, i zato što roboti na opasnost mogu reagirati nadljudskom brzinom, neopterećeni instinktom, neograničeni ljudskim slabostima. Mogu donijeti odluke u djeliću sekunde kako bi sveli moguću štetu na minimum.

Ali, softver za nih trebaju napisati ljudi, a ne postoje jasne smjernice kako to učiniti.

Samovozeći automobili dosad su se kretali u razmjerno jednostavnom okruženju brzih i autocesta, gdje nema puno pješaka i bezbrojnih iznenađenja koje donosi gradska vožnja. No, Google se već sprema testirati svoja vozila bez vozača u gradovima, gdje se mogu zaletjeti u druge objekte, statične ili pomične, pa i u ljude.

Recimo da jedno od tih vozila mora birati hoće li se sudariti s motociklistom koji nosi kacigu ili onim koji ju ne nosi. Što uzeti kao ključno mjerilo? Nastoji li se smanjiti šteta, odabrat će onog s kacigom jer je bolje zaštićen i ima bolje izglede za preživljavanje.

Zvuči logično, ali i nepravedno jer time kažnjavamo savjesnog vozača zbog toga što je stavio kacigu na glavu, dok drugog nagrađujemo iako krši zakon. Ne samo što to ne bi bilo etično, već bi moglo potaći i ostale na slično ponašanje.

Elegantno rješenje mogao bi biti nasumičan odabir, koji neće diskriminirati bilo koga ili bilo što. To bi bilo i sličnije ljudskom ponašanju.

Ali, čemu onda služe samovozeći automobili uopće? Nije li glavni razlog zašto ih razvijamo upravo uklanjanje ljudskih nedostataka, koji su uzrok većine prometnih nesreća i žrtava do kojih u njima dolazi?

Ljudima se može oprostiti zbog loše odluke donešene u djeliću sekunde. Roboti nemaju takav luksuz. Pred programerima je težak problem - hoće li ih programirati za ubojstvo s predumišljajem ili ubojstvo na mah?

A i nasumičnim izborom izbjegavamo preuzimanje odgovornosti i donošenje promišljenih odluka, koje možemo braniti pred kritičkim okom drugih.

Manje drastično rješenje bilo bi skrivanje pojedinih informacija. Robot, recimo, ne bi razlikovao modele automobila, odnosno prisutnost kacige i druge sigurnosne opreme te tako ne bi imao temelja za bilo kakvu diskriminaciju.

Ne samo što ih ne bi koristio, već ih ne bi ni prikupljao. Ukoliko raspolaže takvim informacijama, mogla bi postojati pravna odgovornost ukoliko ih ne bi upotrijebio.

Problem s tim pristupom je što proizvođači automobila i osiguravateljske kuće žele prikupiti što je više podataka moguće, kako bi što bolje razumjeli sudare u kojima sudjeluju roboti, ali i za druge svrhe - recimo, nove načine oglašavanja. Pitanje je koliko će se dobrovoljno moći suzdržati.

Bilo kako bilo, neka rješenja morat će biti pronađeni. Kako bi ih osmislili, programeri će morati osmisliti funkcije koje će, sasvim je moguće, u nekim situacijama određivati tko će preživjeti, a tko ne. To je zamršen etički problem koji će treba pažljivo promisliti.

Izvor:Wired