Există un mare dezbatere care se petrece în Silicon Valley despre inteligența artificială și, din păcate, miza este destul de mare: Vom construi din greșeală un A.I. care se întoarce asupra noastră și ne ucide sau ne înrobe pe toți?
Mike de la culegătorii americani este căsătorit
Acest lucru s-ar putea să sune ca scenariul unui film de dezastru de vară, dar a îngrijorat câteva nume destul de mari, de la Elon Musk până la sfârșitul anului Stephen Hawking .
„Să presupunem că creați un A.I. a culege căpșuni, ' A spus Musk , explicându-și temerile, „și devine din ce în ce mai bun la culegerea căpșunilor și culege din ce în ce mai mult și se auto-îmbunătățește, așa că tot ce vrea să facă este să culege căpșuni. Deci, ar avea ca întreaga lume să fie câmpuri de căpșuni. Câmpii de căpșuni pentru totdeauna. Oamenii în calea acestei căpșuni-pacalipse ar fi doar un iritant de dispărut pentru A.I.
Dar, cu siguranță, oamenii nu ar fi atât de stupizi încât să proiecteze din greșeală un A.I. condus să transforme întreaga civilizație într-o fermă gigantă de boabe? Poate că nu, dar așa Janelle Shane , un cercetător care antrenează rețele neuronale, un tip de algoritm de învățare automată, a menționat recent blogul ei, A.I. Ciudățenie , este posibil ca ei să o facă din greșeală.
De fapt, ar fi departe de prima dată când oamenii au crezut că construiesc roboți pentru o singură sarcină, doar pentru a se întoarce și a descoperi că roboții jucau sistemul în moduri pe care nu le-au intenționat niciodată. Postul fascinant se adânceste în literatura academică pentru a împărtăși câteva exemple de roboți înnebuniți. Sunt amuzante, inteligente și, luate împreună, mai mult decât puțin înfiorătoare.
1. Cine are nevoie de picioare când poți prăbuși?
„Un robot simulat trebuia să evolueze pentru a călători cât mai repede posibil. Dar, mai degrabă decât să evolueze picioarele, pur și simplu s-a asamblat într-un turn înalt, apoi a căzut. Unii dintre acești roboți au învățat chiar să-și transforme mișcarea de cădere într-o cădere de cap, adăugând o distanță suplimentară ”, scrie Shane.
2. Un robot care poate can-can.
„Un alt set de roboți simulați trebuia să evolueze într-o formă care ar putea sări. Dar programatorul definise inițial înălțimea săriturilor ca înălțimea celui mai înalt bloc, astfel încât - încă o dată - roboții au evoluat pentru a fi foarte înalți ', explică Shane. „Programatorul a încercat să rezolve acest lucru definind înălțimea săriturilor ca înălțimea blocului care a fost inițial„ cea mai mică ”. Ca răspuns, robotul a dezvoltat un picior lung și subțire pe care ar putea să-l lovească în aer într-un fel de can-can al robotului.
3. Ascundeți testul și nu îl puteți da greș.
„A existat un algoritm care trebuia să sorteze o listă de numere. În schimb, a învățat să șteargă lista, astfel încât să nu mai fie tehnic nesortată ”, relatează Shane.
4. Erorile matematice depășesc combustibilul pentru avioane.
„Într-o singură simulare, roboții au aflat că mici erori de rotunjire în matematică care calculau forțele însemnau că obțin un pic de energie suplimentară cu mișcarea. Au învățat să se zvârcolească rapid, generând multă energie gratuită pe care ar putea să o valorifice ', spune Shane. Hei, asta înșeală!
5. O strategie tic-tac-toe invincibilă (dacă este distructivă).
Odată ce un grup de „programatori au construit algoritmi care ar putea juca tic-tac-toe de la distanță unul împotriva celuilalt pe o placă infinit de mare”, notează Shane. „Un programator, mai degrabă decât să proiecteze strategia algoritmului lor, l-a lăsat să-și dezvolte propria abordare. În mod surprinzător, algoritmul a început brusc să câștige toate jocurile sale. S-a dovedit că strategia algoritmului a fost să-și plaseze mișcarea foarte, foarte departe, astfel încât atunci când computerul adversarului său a încercat să simuleze noua placă foarte extinsă, tabloul uriaș de joc ar face să rămână fără memorie și să se prăbușească, pierzând joc.'
6. Nicio eroare de joc utilă nu este neexploatată.
„Algoritmii de joc pe computer sunt foarte buni la descoperirea genului de erori Matrix pe care oamenii învață de obicei să le exploateze pentru a alerga rapid. Un algoritm care juca vechiul joc Atari Q * bert a descoperit un bug necunoscut anterior în care putea efectua o serie foarte specifică de mișcări la sfârșitul unui nivel și, în loc să treacă la nivelul următor, toate platformele ar începe să clipească rapid și jucătorul ar începe să acumuleze un număr mare de puncte ', spune Shane.
7. Îmi pare rău, pilot.
Acest exemplu este foarte ridicat pe scara înfiorătoare: „A existat un algoritm care trebuia să descopere cum să aplice o forță minimă unui avion care aterizează pe un portavion. În schimb, a descoperit că, dacă ar aplica o forță „uriașă”, va revărsa memoria programului și se va înregistra în schimb ca o forță foarte „mică”. Pilotul ar muri, dar, hei, scor perfect.
Deci suntem condamnați cu toții?
Toate acestea puse laolaltă sugerează că oamenii sunt destul de răi în a ghici modul în care roboții vor rezolva problemele pe care le-am pus-le sau chiar cum vor defini problemele. Asta înseamnă că Shane este la fel de îngrijorat de construirea accidentală de A.I. domni ca Musk? Nu chiar, dar nu pentru că este sigură că programatorii umani au cu adevărat un mare control asupra roboților pe care îi creează. În schimb, se bazează pe lenea robotului pentru a ne salva.
„În calitate de programatori, trebuie să fim foarte atenți ca algoritmii noștri să rezolve problemele pe care le-am intenționat să le rezolve, nu să exploateze comenzile rapide. Dacă există o altă cale mai ușoară spre rezolvarea unei probleme date, învățarea automată o va găsi probabil ”, observă ea. „Din fericire pentru noi,„ ucide toți oamenii ”este foarte greu. Dacă „coaceți un tort incredibil de delicios” rezolvă, de asemenea, problema și este mai ușor decât „ucideți toți oamenii”, atunci învățarea automată va merge cu tortul ”.
