Tufts Roboticist cere moralitatea mașinilor: Roboții trebuie să "nu se supună în ordine să se supună"

Roboții devin din ce în ce mai importanți pentru viața noastră de zi cu zi și în curând vor trebui să se confrunte cu unele alegeri morale dure pe care trebuie să le facem în mod regulat. Matthias Scheutz, profesor de informatică din cadrul laboratorului Interacțiuni umane-Robotice al Universității Tufts, este preocupat în mod deosebit de faptul că nu am echipat nici măcar cei mai avansați roboți de prototip, cu capacitatea de a face față unor astfel de situații. Scheutz crede că roboții vor trebui să învețe să nu-i asculte pe oameni dacă le dorim vreodată să le satisfacă într-adevăr nevoile.

Într-o piesă de comentariu pe Astăzi Online, provocator intitulat "Roboții trebuie să poată fi abilitați să asculte", Scheutz cere cititorului să determine ce trebuie să facă un robot dacă se confruntă cu un set de situații care ar putea chiar să se confunde cu un om. Unii dintre ei:

Un robot de îngrijire a bătrânilor însărcinat de un proprietar uitat să spele "hainele murdare", chiar dacă hainele tocmai au ieșit din șaibă.

Un student care a poruncit tutorelui robotului să facă tot temele, în loc să o facă singură.

Un robot de uz casnic instruit de către proprietarul său ocupat și distras să execute eliminarea gunoiului, chiar dacă lingurile și cuțitele sunt blocate în el.

Ceea ce Scheutz dorește să descrie în articol este simplul fapt că vom avea nevoie de roboți care știu să spună "nu" oamenilor. Multe dintre exemplele sale au legătură cu fiabilitatea persoanei care conduce robotul, dar este mai greu decât sunetele de a programa un robot care știe să ia instrucțiuni de la oricine nu este prea tânăr sau prea bătrân sau în mod evident încearcă să provoace probleme.

Unele dintre aceste aspecte sunt deja dezbatete la sediul celor mai puternice companii de tehnologie din lume, deoarece caută noi modalități prin care tehnologia poate prelua părți din viața noastră. Scheutz ridică exemplul unei mașini autonome care este îndreptată spre susținere, dar observă un câine care se află în calea lui. Cei mai mulți dintre noi sunt de acord că chiar și omul care conduce mașina ar vrea să oprească mașina, dar dacă animalul era o veveriță sau un raton? Ce se întâmplă dacă mașina a condus 45 mph pe un drum de țară și frânarea bruscă pentru un câine a riscat expunerea mașinii să se ciocnească cu un alt vehicul în spatele ei?

"În ambele cazuri, este esențial ca ambele mașini autonome să detecteze potențialul rău pe care acțiunile lor le-ar putea provoca și să le reacționeze fie prin încercarea de a evita aceasta, fie dacă nu pot fi evitate prejudicii prin refuzul de a face instrucțiunile umane" Scheutz scrie despre o dilemă similară.

Echipa lui Scheutz lucrează la aceste probleme cu prototipurile sale și a constatat că cea mai grea parte a acestor întrebări este diferențierea ușoară a gradului de rău care ar putea apărea atunci când un robot urmează o anumită ordine. Așa că i-au atribuit robotului o lecție morală foarte simplă, dar puternică, care ar fi pus pe rușinea chiar și marilor filosofi.

"Dacă sunteți instruiți să efectuați o acțiune și este posibil ca efectuarea acțiunii să dăuneze, atunci vi se permite să nu o îndepliniți".

Într-un mod subtil, acesta este un prognostic revoluționar din partea lui Scheutz. Sigur, cu toții încercăm să evităm răul, dar nu este posibil ca uneori să credem că este bine să ne asumăm riscuri? Jaywalking pe stradă, a mânca un al doilea ajutor de desert, sau chiar copierea notele unui prieten de la clasă ar putea încălca axiomul lui Scheutz.

Noțiunea de interferență robotică sugerează de asemenea că Scheutz dorește ca roboții săi să respecte legea. Nu vă așteptați ca asistentul dvs. de robot Scheutzian să vă ajute să descărcați muzică nouă în mod ilegal. Asta ar dăuna acționarilor EMI!

Este o zonă complicată de gândire morală, legală și tehnică, iar Scheutz nu se îndepărtează de atacul pe care îl are.