Cum Centrul nou al lui UC Berkeley ar putea preveni un accident vascular cerebral. apocalips

Universitatea din California, Berkeley, tocmai și-a adăugat numele într-o listă crescândă de instituții de renume care lucrează pentru a preveni inteligența artificială malefică de la distrugerea omenirii. Noul său centru pentru inteligență artificială compatibilă cu omul, anunțat luni, are menirea de a se asigura că A.I. rămâne benefică și, de asemenea, pentru a exclude un A.I. apocalipsă.

Berkeley's own A.I. expert, profesorul Stuart Russell, conduce afacerea. Proiectul "Philanthropy deschise" a acordat Centrului un grant de 5,5 milioane de dolari, iar alții s-au alăturat. Mai multi alti experti de la Berkeley, Universitatea Cornell si Universitatea din Michigan vor servi ca investigatori co-principali.

Profesorul Cornell, Bart Selman, pentru Invers despre Centrul, A.I. ar trebui să teama și de ce lumea probabil că nu este îndreptată spre iad într-o coș de mână - totuși.

Ce sperați să realizați cu Centrul pentru AI uman compatibil?

Aceste centre reprezintă o dezvoltare relativ nouă. Oamenii fac investiții - Institutul "Viitorul vieții", de exemplu, are o investiție din Elon Musk, din Tesla, pentru a rezolva problemele legate de viitorul vieții și posibilele amenințări la adresa vieții și a societății. Noul centru din Berkeley este un alt exemplu al unui astfel de institut.

Este inspirat de rolul schimbător al inteligenței artificiale și al computerelor în societatea noastră. Aceste tehnologii se mută în societatea noastră și vor avea un efect asupra noastră. Aceste institute sunt acolo pentru a aduce cercetătorii împreună pentru a studia posibilele efecte negative sau cum să se asigure că nu există efecte negative.

Numai titlul Centrului sugerează că A.I. și umanitatea sunt în mod inerent incompatibile. Aceasta este părerea dvs.?

Aceasta este prima reacție pe care o au oamenii, că aceste lucruri ar putea fi incompatibile. Credem, de fapt, că, cu măsurile de precauție adecvate, cu orientările și cercetarea adecvate, putem să aliniem interesele și să ne asigurăm că aceste tehnologii sunt benefice. A.I. tehnologia are părți extraordinare pozitive, iar scopul societății este să ne asigurăm că rămânem pe pozițiile pozitive. Cercetătorii implicați în institut consideră că este fezabil.

Dacă ați putea adopta o perspectivă a doomsayer, care ar arăta cel mai probabil scenariul de nedefinire indus de A.I.?

Un risc clar ar fi o dezvoltare militară a inteligenței artificiale, care ar putea conduce la o cursă de arme cu armament internațional între țări: arme autonome, dronuri autonome care își urmează propriile comenzi, dezvoltate de diferite țări care sunt ostile unul față de celălalt. Acesta este riscul cel mai concret pe care îl văd. Cred că A.I. dezvoltate pentru autoturisme, de exemplu - pentru roluri regulate în societate - vor fi foarte benefice. Dar aspectul militar este o componentă îngrijorătoare.

E deja o bătălie înnebunită?

Țările analizează această problemă. Într-un anumit sens, este o bătălie înnebunită: militarii împing să avanseze pentru a dezvolta A.I. tehnologie. Dar au existat acorduri - de exemplu, armele biologice sunt probabil cele mai cunoscute cazuri - în cazul în care țările la un moment dat au decis că ar beneficia toate țările nu să dezvolte arme biologice la scară largă. Sperăm că țările își vor da seama că dezavantajul pentru toată lumea este prea mare pentru a intra într-o situație de tip A.I. cursa înarmărilor.

Dacă ambele părți dezvoltă această tehnologie, nimeni nu este în față.

Mai este ceva ce ar trebui să știu despre Centru sau despre AI răuvoitor. în general?

Este important să dați partea pozitivă. Este ușor de subliniat riscurile - și, bineînțeles, asta este parțial motivul pentru care aceste centre sunt stabilite - dar este, de asemenea, important să subliniem faptul că o mulțime de cercetători consideră că acest risc este ușor de gestionat și că posiunile vor fi uriașe.

Ai dat deja perspectiva zilei de azi. Care sunt unele utilizări potențiale pozitive ale A.I. că sunteți foarte entuziasmat?

Partile pozitive vor fi o societate in care suntem asistati de aceasta tehnologie. Traduceri simultane de vorbire - de exemplu, între chinezi și englezi - în care oamenii pot conversa, ca și cum ar fi vorbit o limbă maternă, între ei în întreaga lume. Îngrijirea în vârstă: Oamenii pot rămâne cât timp vor în casa lor, deoarece au un robot asistent de uz casnic care îi ajută să trăiască independent.

Aceasta va avea, probabil, un impact destul de dramatic asupra vieții în general - în ceea ce privește ocuparea forței de muncă și ceea ce acordăm prioritate.

Da. Este dezbaterea privind ocuparea forței de muncă, care este o dezbatere separată. Vor exista resurse suficiente pentru a sprijini pe toată lumea, deci este problema cum ne asigurăm că toată lumea beneficiază de aceste evoluții. Va fi o re-realizare a ceea ce înseamnă să lucrezi, ce fel de muncă vor face oamenii. Dar, în principiu, oamenii vor avea mai multă libertate și mai mult timp pentru a face activități pe care le plac, pentru că mașinile vor ajuta cu multe altele mai luminoase, muncă - lucruri de tip. Va dura ceva timp, dar credem că societatea se va adapta și va incorpora încet aceste schimbări.

Acest interviu a fost editat pentru claritate și scurtă durată.