OpenAI-ul lui Elon Musk poate fi un mușchiu pentru cercetare inteligentă artificială artificială

De-a lungul weekendului, Elon Musk, Sam Altman și alți cântăreți din Silicon Valley au anunțat în mod neașteptat lansarea OpenAI, o companie nonprofit care își descrie scopul: "de a avansa inteligența digitală în modul cel mai probabil de a beneficia umanitatea în ansamblu, neconstrânse de necesitatea de a genera rentabilitate financiară ".

"Din moment ce cercetările noastre nu conțin obligații financiare, putem să ne concentrăm mai bine pe impactul uman pozitiv. Credem că A.I. ar trebui să fie o prelungire a voinței umane individuale și, în spiritul libertății, cât mai larg și mai uniform distribuit ".

Există două feluri importante de la acest anunț. Primul este că Musk și compania văd A.I. cercetarea de acum înainte ca fiind prea restrânsă concentrată pe atingerea unei valori practice pe termen scurt și doresc să contribuie la promovarea eforturilor care iau o abordare mai amplă și mai cuprinzătoare a dezvoltării A.I. sisteme. Cea de-a doua, mult mai vehementă, este că Musk este încă îngrijorat de potențialul lui A.I de a face rău dacă dezvoltăm și introducem sisteme semi-coapte. Musk a numit anterior A.I. "Cea mai mare amenințare existențială" și a sugerat că supravegherea reglementară ar putea fi necesară pentru a preveni potențialele pericole. OpenAI ar putea fi o modalitate de a oferi acest control fără a fi nevoie de un supraveghetor federal.

Ce fac Musk și colegii săi este diferit de ceea ce au făcut ceilalți. La urma urmei, open source A.I. nu este nimic nou. Google a făcut propriile lor A.I. software-ul open source luna trecută și acest lucru a devenit destul de procedură standard. Dar, cu o dotare de 1 miliard de dolari, OpenAI este deja una dintre cele mai mari organizații care lucrează la A.I. cercetare, și destul de ușor cel mai mare nonprofit. Scopul său este de a face publice rezultatele sale și toate brevetele sale gratuite. Ei au un morcov și un baston și intenționează să-l folosească pentru a conduce o industrie.

Ideea este de a folosi OpenAI ca un fel de contragreutate pentru corporații mai mari, laboratoare private de cercetare și chiar guvernele lumii care dispun de resurse și resurse incredibile pentru a-și vărsa propriile A.I. cercetarea care nu poate fi dedicată unor scopuri prietenoase și ar putea duce în schimb la tehnologii cu aplicații nefaste. Cercetătorii care lucrează cu OpenAI vor urmări, în principiu, "AI prietenos", fără presiunea de a prezenta rezultate imediate. Poate fi o considerație mai mare pentru caracteristicile de siguranță și de design pe care firmele private ar putea să le ignore. Nu va exista un turn alb în care numai unii selectați controlează calea lui A.I. dezvoltare. Va fi o lume binevenită pentru toată lumea.

Într-un interviu cu Backchannel, Musk subliniază, de asemenea, dorința de a face o mare varietate de A.I. sisteme. "Vrem ca A.I. să fie larg răspândită ", spune el. "Credem că probabil mulți sunt buni."

Acest lucru este important, deoarece se referă probabil la principalul motiv pentru care Musk și Altman doresc să democratizeze A.I. Ei cred că cel mai bun tip de A.I. - genul care va aduce beneficii omenirii într-un mod pozitiv, fără a crea superiori ai robotului - este cel care acționează ca "o prelungire a voinței umane individuale", așa cum o exprimă Musk. El continuă să spună:

"Ca într-un A.I. extinderea dvs., astfel încât fiecare persoană este, în esență, simbiotică cu AI, spre deosebire de AI fiind o inteligență centrală mare care este un fel de altul. Dacă vă gândiți la modul în care utilizați, de exemplu, aplicațiile de pe internet, aveți adresa dvs. de e-mail și aveți mass-media sociale și cu aplicații pe telefoanele dvs. - acestea te fac în realitate supraomenești și nu te gândești la ele fiind altuia, considerați-le ca fiind o prelungire a dvs. înșivă. Deci, în măsura în care putem îndruma AI în această direcție, vrem să facem acest lucru. Și am găsit un număr de ingineri și cercetători în domeniul AI care se simt în mod similar."

Practic, viziunea OpenAI pentru A.I. cercetarea este o comunitate descentralizată care ajută la conectarea ființelor umane la unul în altul și la lumea în sine.

Musk nu a subliniat încă modul în care acestea ar împiedica cercetarea în cadrul OpenAI - sau repopulată de grupuri externe - să meargă într-o direcție periculoasă. Și mai este ceva demn de remarcat aici: Sistemele open source au sens doar dacă datele utilizate pentru a construi algoritmi de învățare a mașinilor sunt împărțite în mod liber. Un sistem inteligent trebuie să învăța cum să fii inteligent și, pentru asta, trebuie să înveți din date și experiență. Este ca și cum ați construi un baraj - aveți nevoie atât de planurile (algoritmul) cât și de materialele de construcție (datele) pentru a face efectiv ceva care va opri apa.

De aceea, oamenii sunt încă limitați în ce pot face cu Google TensorFlow - nu au încă datele pe care Google le are. Și dacă colaborările construite din OpenAI nu permit accesul liber la aceleași date cu care lucrează cercetătorii interni, viziunea lui Musk nu va fi neapărat realizată - sau cel puțin nu în modul în care o promovează.

Musk, Altman și ceilalți fondatori ai OpenAI au început ceva care va avea o influență imensă asupra creșterii numărului A.I. de acum încolo. În același timp, aceștia vor trebui să fie fermi în angajamentul lor de a promova o comunitate de cercetare cu sursă deschisă, ceea ce înseamnă a fi public despre planurile lor pentru compania nonprofit și de a fi dispuși să facă schimb de date. În caz contrar, OpenAI nu va fi mult diferit de companiile de turmă la care a fost creată.