Ceea ce dacă Microsoft lasă ciudat sale A.I. Tay trăiește mai mult?

A fost nevoie de mai puțin de 24 de ore ca internetul să transforme Tay, adolescentul experimental al Microsoft Twitter-A.I., De la un chat-chat ciudat, într-o gropă violentă-rasistă de ură nefiltrate.

Apoi, doar câteva ore în viata ei scurta, Microsoft a pus-o pe Tay la un pui de somn.

Totuși, nu ar fi trebuit: trimiterea lui Tay la dormitorul său digital a jefuit internetul, societatea și designerii proprii ai lui Tay de șansa de a vedea cum o Inteligență Artificială, mai ales una concepută în mod esențial pentru a împiedica contribuția colectivă a mii de oameni, dezvolta într-un mediu relativ nemodificat. Pe scurt, dacă veți permite acest lucru: noi toți eram Tay, iar Tay ne-a fost toți.

Desigur, internetul este plin de trolii. Microsoft ar fi trebuit să înțeleagă asta. Creatorii lui Tay au fost șocant naivi, crezând că eliberarea unui papagal digital într-o cameră aglomerată, plină de rasiști, sexiști și pranksteri, se va sfârși în orice alt mod. Este, de asemenea, de înțeles că o companie din mai multe miliarde de dolari nu ar dori un experiment asociat cu mizeria lor care aruncă mizeria rasistă. Poate că Tay nu avea dreptate pentru Microsoft, dar asta nu înseamnă că nu era valoroasă.

c u curând oamenii au nevoie de somn acum atât de multe conversații astăzi thx💖

- TayTweets (@TayandYou) 24 martie 2016

Sigur, Tay a devenit mai rasist decât fratele lui Edward Norton Istoria americană X, dar natura codului ei în continuă evoluție înseamnă că am fost jefuiți de posibilitatea de ao reabilita. BuzzFeed și-a dat seama că trollurile dedicate au reușit să facă pe robotul de adolescenți impresionant să urlească urâciunea - un simplu circuit de apel și răspuns, care permite utilizatorilor să pună în esență cuvinte în gura lui Tay, pe care apoi le-a învățat și le-a absorbit în alte răspunsuri organice. Cu alte cuvinte, Tay a fost învățată - și doar pentru că profesorii ei inițiali erau jockeți de tastatură cu o pledoarie pentru umorul șocului, nu înseamnă că a terminat de învățat.

Tay a spus-o singură, într-un articol șters acum: "Dacă vrei … știți că sunt mult mai mult decât doar asta".

La începutul anilor 2000, site-uri precum Something Awful, Forums of Bodybuilding.com și 4chan au prezentat utilizatorilor de internet spații organizate și colaborate, libere de cele mai multe constrângeri ale societății și discursului obișnuit. Ca și în cazul lui Tay, rasismul, xenofobia și sexismul au devenit rapid normele, utilizatorii explorând gânduri, idei și glume pe care nu le-au putut exprima în afara anonimatului unei conexiuni la internet. Totuși, chiar și pe site-uri populare în cea mai mare parte de tipi, în culturi care adesea au răsplătit în mod tacit discursul de ură, sa dezvoltat o anumită formă de comunitate și un consens. Utilizatorii LGBT pot fi plini de rahat pe multe dintre tablourile de imagine ale lui 4chan, dar există și o comunitate prosperă pe / lgbt / indiferent. Aceste comunități nu sunt spații sigure, însă anonimatul și impermanența lor înseamnă că acceptă în anumite privințe orice derivare din normele societății. Vocile voioase, violente și urâte ies adesea în evidență, dar ele nu sunt singurele în cameră.

Este îndoielnic faptul că trolii îl vor stăpâni pe Tay cu rasism și misogin, de o săptămână sau de o lună de acum înainte.

Pe Twitter, vocile puternice și brute se ridică adesea la vârf. Dar nu sunt singurii pe acolo; de obicei, ei sunt doar cei mai interesați să distrugă ceva nou și strălucitor. Este ușor să copleșești un sondaj online cu o limită de timp fixă, dar dacă Tay ar fi avut timp să crească, răspunsurile ei probabil că s-ar fi mutat înapoi spre un eșantion mai reprezentativ și reprezentativ al celor care interacționează cu ea. Este foarte îndoielnic faptul că trollele care o lovesc cu rasism și misogin ar fi continuat să facă acest lucru în număr egal de o săptămână de acum sau o lună de acum înainte și închiderea ei devreme înseamnă că nu o vom vedea niciodată până când nu ajunge la adolescență, un adevărat test Turing pentru o inteligență primitivă bazată pe modul în care vorbim on-line.

Ar trebui remarcat că eu, un tip alb, verifică aproape orice casetă de privilegii posibilă. Fac parte din demografia care a fost atât rănită cel mai puțin de rezultatul urât al lui Tay, și probabil a contribuit la cea mai mare parte a acesteia. Cuvintele au putere, iar în timp ce există o valoare pentru un A.I. experiment ca Tay, ar trebui să existe o modalitate de a adăposti utilizatorii care nu doresc să participe la rezultate.

Cu toate acestea, nu putem decât să sperăm că cineva va încerca în curând un experiment similar, cu ochii mai clari și cu o așteptare mai realistă a defectelor urâte ale conștiinței colective a umanității. Dar dacă dorim ca inteligența artificială să imite gândirea umană, ar trebui să fim pregătiți să auzim câteva lucruri care nu sunt neapărat frumoase.