A.I. Expert Virginia Dignum: Problema troleibuzului arată de ce avem nevoie de transparență

Inteligența artificială are nevoie de transparență, astfel încât oamenii să o poată ține cont, a afirmat un cercetător. Virginia Dignum, profesor asociat la Universitatea de Tehnologie din Delft, a declarat vineri unui public de la Universitatea din New York că, dacă nu înțelegem de ce mașinile acționează așa cum o fac, nu vom putea judeca deciziile lor.

Dignum a citat o poveste de David Berreby, un scriitor și cercetător științific, care a fost publicat în Psihologie Astăzi: "Dovezile sugerează că atunci când oamenii lucrează cu mașini, aceștia simt mai puțin sens de agenie decât atunci când lucrează singuri sau cu alte persoane".

Problema "căruciorului", a explicat Dignum, este o zonă în care oamenii pot pune credința oarbă într-o mașină pentru a alege rezultatul potrivit. Întrebarea este dacă trebuie să comutați maneta pe un tren ipotetic de fugă, pentru a ucide o persoană în loc de cinci. Oamenii se așteaptă ca mașinile să rezolve problema într-un mod cât mai rațional posibil. Dar acest lucru s-ar putea să nu fie întotdeauna cazul și transparența ar explica modul în care mașina a ajuns la decizia sa.

"Nu este vorba doar de un lanț de evenimente neuronale foarte profunde, pe care nimeni nu îl poate înțelege, ci de a face aceste explicații într-un mod pe care oamenii îl pot înțelege", a spus ea.

A.I. care face ca activitatea să fie clară, este o zonă pe care DARPA o explorase. Agenția a anunțat, în august, că anunță că echipele interesate de explicațiile A.I. proiecte, cunoscut sub numele de XAI. Aceste sisteme vor ajuta cercetătorii să înțeleagă de ce o instituție de învățământ superior. a luat decizia pe care a făcut-o, oferind mai multă posibilitate să decidă ce să facă cu informațiile obținute, decât să aibă încredere orb în mașină.

Cu învățarea în mașină, Dignum a remarcat că transparența este mai importantă decât oricând. "Nu ne putem aștepta ca sistemele, în special mașinile de învățare a mașinilor, să învețe și să o cunoască foarte repede", a spus ea."Nu ne așteptăm ca șoferii noștri, atunci când conduc vehiculele, să înțeleagă pe deplin legile privind traficul. În multe țări, aceștia utilizează plăcile "L" pentru a arăta "Învăț, scuzați-mă de greșelile pe care le-aș putea face". "AI, înțelegând cum este vorba despre anumite decizii și care acționează pe baza acestora, oprirea mașinilor care învață încă să ia decizii nepotrivite.