Mașinile fără șofer vor fi ucigași etici?

Vor trebui mașinile fără șofer să omoare oameni? Sună absurd până când te gândești la asta o jumătate de secundă și închei, "da", apoi gândește-te la asta pentru încă o jumătate de secundă și gândește-te "nu". Conundumul moral la joc este suficient de vechi pentru a avea un nume " Problema Troliley ". In formularea sa clasica, se intampla astfel: te-ai indreptat catre o piesa cu cinci persoane legata de ea, dar poti sa arunci un switch pentru a trece la o alta piesa, care are doar o singura persoana pe ea - ce tu faci? Nu te simți obligat să răspunzi la întrebare; este un exercițiu de gândire. De asemenea, oamenii care fac autoturisme vor trebui să răspundă pentru noi toți.

O analiză realizată de un trio de oameni de știință și psihologi, publicată la arXiv în octombrie, explorează psihologia oamenilor în mașini fără șofer. Cercetătorii au citit 400 de subiecți despre o mașină fără șofer care ar putea dăuna pasagerului său uman pentru a salva o mulțime. Concluzia spunea. Oamenii au plăcut această idee, dar nu au vrut mașina. Oamenii ca gândul exercită mult mai mult atunci când nu sunt reali și viața lor nu este pe linie. Întrebarea prezentată de acest scenariu este, din punct de vedere real, despre programare. Ar trebui ca o mașină fără șofer să acorde prioritate siguranței fiecăruia, pasagerului sau nimănui?

Am pus întrebarea scriitorilor noștri de știință. Lucrurile au devenit ciudate.

Ben Guarino: Nu sunt convins că mașinile fără șofer vor trebui să evalueze dacă ar trebui să omoare oamenii în mod etic (sau, știi, deloc). Dar ce crezi tu?

Neel Patel: Cred că constructorii de automobile vor trebui să treacă peste acest pod și să modifice tehnologia într-un fel încât să facă aceste judecăți sau evaluări. Aceasta nu este o problemă atât de mare fiecare mașina pe șosea este automatizată, dar va exista o perioadă de tranziție în care unele mașini sunt fără șofer și altele nu. Și în această perioadă, mașinile vor trebui să facă un fel de apel la judecată.

Chiar acum, când un accident este pe cale să apară, fiecare șofer al oricărei mașini lucrează destul de mult spre auto-conservare. Chiar dacă acțiunile unei persoane duc mai mult la rănire sau ucidere a mai multor persoane în vehiculele adiacente, nu putem da vina pe șofer pentru a face această mișcare - este un instinct de supraviețuire construit în aproape oricine care a trăit vreodată. Putem înțelege și identificăm cu ea.

Dar vehiculele autonome nu vor renunța la acest lux moral. Cu câte accidente apare în fiecare an în S.U.A. (au existat peste 30.000 de decese în 2012), vor exista niste situația în care acțiunile unei mașini vor avea ca rezultat mai multe decese decât altfel. Acest lucru nu va fi în regulă dacă vorbim de patru pungi de dimensiuni mici față de un bunic.

Și vor mai exista probleme deoarece nimeni nu dorește să intre într-o mașină programată să sacrifice pasagerii. Americanii nu au îmbrățișat foarte bine utilitarismul.

BG: Am obținut că autovehiculele autonome nu vor fi programate cu "instinct" - dar vor avea o mai bună conștientizare și reflex, pe care aș susține că le oferă un avantaj față de reacțiile umane și elimină necesitatea deciziilor etice în multe dintre aceste cazuri filosofice. În scenariul în care un copil se strecoară pe drum într-o singură banda și există o navă care intră în cealaltă, un om trebuie să proceseze o mulțime de informații și să facă o judecată rapidă. Dar o mașină autonomă sau îmbunătățită din punct de vedere tehnologic are mai mult decât cele două ochi orientați spre față pe care trebuie să-i păstreze pe drum, nu? În loc să răspundeți doar atunci când există un copil în calea anvelopei și mașina trebuie să aleagă un copil mort sau un accident de avion, ar putea încetini imediat ce ceva se va deplasa de pe bordură și pe stradă, înainte ca un om să poată reacționa.

Aceste răspunsuri de mai sus la om reprezintă motivul pentru care multe dintre accidentele care implică mașini fără șofer sunt spate, pentru că nu suntem obișnuiți cu șoferii care sunt capabili să fie atât de reflexivi.

NP: Cu siguranță sunt de acord cu punctele dvs., dar sunt încă preocupat de perioada de tranziție, când ne întoarcem de la șoferii umani la cei roboți. N-ar fi omul inca cheia care face nenorocita intreaga masina? Sau credeți că tehnologia ar putea explica destul de bine pentru eroarea umană din partea altor mașini? Gânduri?

Yasmin Tayag: Avantajul autovehiculelor autonome asupra oamenilor este că nu sunt predispuse la emoție, care, în cazul majorității accidentelor auto, se manifestă ca panică. În cazul în care un om înspăimântat s-ar putea schimba maniacal pentru a evita copilul sau vanul, autovehiculul va conduce, spre punctul lui Ben, doar încetini. Nu are sens să păstrăm obiectivitatea - singurul lucru care va face autoturismele superioare șoferilor umani? Pe drum, singurul lucru care ar trebui să conteze mașinii fără șofer este datele de mână.

Cred că șoferii umani vor cere întotdeauna opțiunea de a înlocui decizia mașinii - chiar și atunci când am făcut complet trecerea la mașini robotizate - și cred că este adevăratul motiv de îngrijorare. Nu sunt sigur că perioada de tranziție se va încheia cu adevărat.

BG: Oamenii sunt chestii rele și mai rău utilitari. Problema mea cu afirmația că ar trebui ca roboții noștri să fie cumva ucigași etici este că presupune că oamenii știu când trebuie să fie ucigași etici. Dacă conduc limita de viteză și ceva sare în fața mea, nimeni nu mă întreabă despre binele mai bun în această situație. Fie că l-ai lovit pe copil, fie pe vagon, și e sumbru pentru toți cei implicați. De ce ar trebui să ne așteptăm ca mașinile fără șofer să facă un apel moral superior în aceste scenarii, atunci când nimeni nu se așteaptă cu adevărat la oameni să facă acest lucru. Noi suntem cei care au dat universului Kant și încă nu reușim să facem asta. Vehiculele fără șofer trebuie să se concentreze pur și simplu pe faptul că sunt cei mai buni evitatori de coliziune pe care îi pot face.

NP: Dar cred că de fapt poate sa așteaptă ca mașinile fără șofer să facă un apel moral superior. Acest lucru depinde, desigur, de etica convenită, dar să ne uităm la una ipotetică.

În general, vom prioritiza siguranța copiilor peste adulți. Să presupunem că în viitor toate mașinile sunt dotate cu tehnologie care cunoaște vârsta generală a tuturor pasagerilor din fiecare mașină de pe șosea - și aceste date sunt accesibile și împărtășite cu toate autoturismele de pe un anumit drum. Dacă un accident este pe cale să apară din cauza unor circumstanțe neprevăzute, aceste mașini pot comunica unul cu altul pentru a asigura siguranța copiilor față de alți pasageri mai vechi pe drum. Nu-mi închipui că o mulțime de oameni pun un contra-argument de succes acestui tip de aranjament.

Și mașinile sunt capabile să facă acest lucru mai bine decât oamenii, deoarece au acces la mai multe informații pe care oamenii le pot face și pot face aceste evaluări mai rapide - fără a fi afectate de efecte fiziologice care ar putea să nu facă judecăți, cum ar fi emotiile sau răspunsurile hormonale create de stresul ridicat situații. În acest caz, ei de fapt poate sa face alegeri superioare din punct de vedere moral.

Cât de bine poți programa ceva de genul asta, totuși, rămâne să fii văzut …

YT: Yo Neel, care spune că vom prioritiza siguranța copiilor peste adulți? Nu există ceva profund în neregulă cu atribuirea unei valori diferite vieții unui copil la viața unui cetățean senior? Dacă vom merge pe ruta moral-auto, aș crede că a face un efort egal pentru a salva toate viețile este esențială. Cum vor reacționa oamenii când vor afla că companiile de automobile au făcut judecăți de valoare asupra lor vieți ? După cum am spus mai înainte, trebuie să menținem subiectivitatea umană în afara programării cât mai mult posibil. Asta face mereu lucrurile.

BG: Sunt în regulă cu bărbații de pe Titanic renunțând la locurile lor femeilor și copiilor pe bărcile de salvare, deoarece era sacrificiu de sine. Dacă ar exista un robot care ar separa bărbații de a se îneca de la femei și copii, robotul ar fi distrus cu Mjolnir, pentru că este ticălosul într-un film Avengers.

În plus, niciun asigurător sau legiuitor nu ar fi vreodată răcit cu un vehicul care ar putea face un fel de calcul letal fără control uman.

NP: Niciodată nu vei elimina complet subiectivitatea din programarea automată. Biasul este inerent sistemelor automate concepute pentru a învăța din experiență. În loc să încercăm să atenuăm această problemă, trebuie să o abordăm și să transformăm părtinirea într-un mod care să servească mai bine oamenilor. Acesta este viitorul dacă ne place sau nu.

Votez Ultron în 2016.