OpenAI: Fosta firmă a lui Elon Musk este în pragul unui nou studiu A.I. Eră

OpenAI, organizația nonprofit care studiază inteligența artificială, co-fondată de Elon Musk în 2016, a făcut mari progrese - chiar și după ce Musk sa despărțit de căi pe fondul dezacordurilor legate de direcția sa. Cercetătorii au dezvoltat sisteme care pot juca jocuri, pot scrie articole de știri și pot muta obiecte fizice cu nivele de dexteritate inovatoare.

OpenAI a provocat controverse în cercetarea sa. Săptămâna trecută, a anunțat dezvoltarea unui model de limbă, GTP2, care poate genera texte cu solicitări limitate. Având în vedere promptul scris de om "Miley Cyrus a fost prins de furt de la Abercrombie și Fitch de pe Hollywood Boulevard astăzi", sistemul a produs o poveste complet credibilă care a continuat cu "cântăreața de 19 ani a fost prinsă pe camera fiind escortată din magazin de către polițiștii de securitate."

De asemenea, a creat această poveste originală despre vorbirea unicornelor pe baza unui scurt prompt:

"Nu am fost implicat îndeaproape cu OpenAI pentru mai mult de un an și nu am management sau supravegherea de bord", a comentat Musk pe Twitter peste week-end. "A trebuit să mă concentrez asupra rezolvării unui număr dureros de probleme tehnice și de producție la Tesla (în special) și SpaceX. De asemenea, Tesla a concurat pentru unii dintre aceiași oameni ca OpenAI și nu am fost de acord cu unele dintre ceea ce a vrut să facă echipa OpenAI. Adăugați totul și a fost mai bine să vă despărțiți de modalități bune."

Compania inițial părea o modalitate ideală pentru ca Musk să-și atingă obiectivele de a exploata A.I. pentru binele umanității. Antreprenorul a avertizat anterior despre "riscul fundamental" pentru civilizația reprezentată de mașinile super-inteligente, cerând guvernelor să reglementeze "ca și noi să facem alimente, droguri, avioane și mașini".

Musk a promis 10 milioane de dolari pentru a începe inițial firma, iar declarația sa de misiune se concentrează pe "descoperirea și punerea în practică a căii spre o inteligență generală artificială sigură".

Nu este dificil să vedem cum ar putea programele care fac povestiri precum cea folosită de Greg Brockman, directorul OpenAI, să fie folosite de un număr relativ mic de oameni pentru a influența opiniile unui public mai puțin priceput.

Un angajat OpenAI a tipărit această mostră scrisă AI și a postat-o ​​de către coșul de reciclare: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 14 februarie 2019

"Din cauza îngrijorărilor noastre legate de aplicațiile rău intenționate ale tehnologiei, nu lansăm modelul instruit", a explicat compania într-un post de blog. "Ca experiment în dezvăluirea responsabilă, noi eliberăm în schimb un model mult mai mic pentru cercetători de a experimenta, precum și un document tehnic".

Anunțul a dus la îngrijorarea că tehnologia ar putea fi utilizată pentru a genera știri false. Analytics India a avertizat că, odată cu alegerile indiene viitoare, în cursul acestui an, A.I. ar putea face ravagii cu procesul democratic. Cercetătorii OpenAI afirmă că, combinată cu cercetarea în producerea de sunete audio și video, "publicul larg va trebui să devină mai sceptic față de textul pe care îl găsește online".

Ryan Lowe, un A.I. om de știință și fostul intern OpenAI, a rezumat amenințarea unui program ca acesta fiind folosit pentru a crea știri false în mod succint în acest post Medium postat:

… Un sistem automatizat ar putea: (1) să permită actorilor răi, care nu dispun de resurse pentru a angaja mii de oameni, să organizeze campanii de dezinformare la scară largă; și (2) să crească drastic amploarea campaniilor de dezinformare care sunt deja conduse de actorii statului.

Nu toate cercetările OpenAI s-au dovedit a fi atât de controversate. Dactyl, dezvăluit în iulie 2018, se poate adapta fizicii din lumea reală pentru a manipula obiecte din lumea reală. Mâna robotului este foarte complexă, cu 24 de grade de libertate, dar sistemul poate deplasa cu ușurință obiectele în jurul valorii de doar prin utilizarea a trei camere RGB și coordonatele mâinii robotului.

Mâna robotului profită de algoritmii de învățare în general de întărire folosiți pentru a bate oamenii la jocurile video. Echipa "OpenAI Five" sa confruntat cu o echipă de profesioniști Dota 2 jucătorii în 2018. Sistemul a fost instruit în jocuri de 180 de ani, profitând de un procesor uimitor de 128.000 de procesoare și 256 de procesoare grafice. În timp ce el a bătut o echipă umană de ex-profesioniști și Twitch streamers, el a eșuat împotriva jucătorilor profesioniști.

Musk a folosit Dota 2 se potrivește pentru a atrage atenția asupra Neuralink, planul său de a crea o relație simbiotică cu A.I. prin conectarea creierului uman și evitarea preluării de către un robot:

Muncă mare de @OpenAI. Aveți nevoie de interfața neurală în curând pentru a permite simbioza umană / AI.

- Elon Musk (@elonmusk) 6 august 2018

În anuntul său de generare de text, OpenAI a declarat că intenționează să discute strategia sa mai largă în șase luni. Firma speră să declanșeze o discuție nuanțată despre pericolele inteligenței artificiale, o mișcare care ar putea evita unele dintre scenariile de dezastru ale lui Musk. Cu toate acestea, chiar și compania recunoaște că "nu este sigur că" reținerea generatorului de text "este decizia potrivită astăzi." Cu o schismă formată deja între două entități majore care avertizează cu privire la pericolele AI, este puțin probabil ca legislatorii să aibă un simplu timp în dezvoltarea de soluții.