Doar nouă companii gigant de tehnologie din SUA și China se află în spatele marii majorități a progreselor în domeniul inteligenței artificiale la nivel mondial. În noua ei carte, The Big Nine: Cum tehnicienii și mașinile lor de gândire ar putea distruge umanitatea (PublicAffairs, 5 martie), Amy Webb prevede trei posibile viitoruri, de la optimiste la apocaliptice, care ar putea rezulta din acțiunile pe care le întreprindem - sau nu le luăm - pentru a controla dezvoltarea A.I. și modelează impactul său global. În acest fragment, ea pune o serie de întrebări etice dure pe care oamenii le construiesc A.I. sistemele ar trebui să le folosească pentru a le ghida munca.
Regulile - algoritmul - prin care fiecare cultură, societate și națiune trăiește și a trăit vreodată au fost întotdeauna create doar de câțiva oameni. Democrație, comunism, socialism, religie, veganism, nativism, colonialism - acestea sunt construcții pe care le-am dezvoltat de-a lungul istoriei pentru a ne ajuta să ne orientăm deciziile. Chiar și în cele mai bune cazuri, acestea nu sunt rezistente la viitor. Forțele tehnologice, sociale și economice intervin întotdeauna și ne determină să ne adaptăm.
Cele Zece Porunci alcătuiesc un algoritm destinat să creeze o societate mai bună pentru oamenii în viață cu mai mult de 5.000 de ani în urmă. Una dintre porunci este aceea de a lua o zi întreagă de odihnă pe săptămână și de a nu face niciun fel de muncă în acea zi. În vremurile moderne, majoritatea oamenilor nu lucrează exact aceleași zile sau ore de la o săptămână la alta, așa că ar fi imposibil să nu încalci regula. Drept urmare, persoanele care respectă cele Zece Porunci ca principiu călăuzitor sunt flexibile în interpretarea lor, având în vedere realitățile zilelor de muncă mai lungi, antrenamentelor de fotbal și e-mailului. Adaptarea este bună - funcționează foarte bine pentru noi și pentru societățile noastre, permițându-ne să rămânem pe drumul cel bun. Acordarea unui set de bază de orientări ne permite să optimizăm pentru noi înșine.
Valoare netă carly rose sonenclar
Nu ar exista nicio modalitate de a crea un set de porunci pentru A.I. Nu am putut scrie toate regulile pentru a le optimiza corect pentru omenire și asta pentru că, deși mașinile de gândire pot fi rapide și puternice, le lipsește flexibilitatea. Nu există o modalitate ușoară de a simula excepții sau de a încerca să gândiți în avans fiecare situație neprevăzută. Orice reguli ar putea fi scrise, ar exista întotdeauna o circumstanță în viitor în care unii oameni ar putea dori să interpreteze regulile diferit sau să le ignore complet sau să creeze modificări pentru a gestiona o circumstanță neprevăzută.
Știind că nu putem scrie un set de porunci stricte de urmat, ar trebui, în schimb, să ne concentrăm atenția asupra oamenilor care construiesc sistemele? Acești oameni - triburile A.I. - ar trebui să-și pună întrebări incomode, începând cu:
damon bennett și sherry holmes
- Care este motivația noastră pentru A.I.? Este aliniat cu cele mai bune interese pe termen lung ale umanității?
- Care sunt propriile noastre prejudecăți? Ce idei, experiențe și valori nu am reușit să includem în tribul nostru? Pe cine am trecut cu vederea?
- Am inclus oameni diferiți de noi în scopul de a face viitorul A.I. mai bine - sau am inclus pur și simplu diversitatea în echipa noastră pentru a îndeplini anumite cote?
- Cum ne putem asigura că comportamentul nostru este inclusiv?
- Cum sunt implicațiile tehnologice, economice și sociale ale A.I. înțeles de cei implicați în crearea sa?
- Ce drepturi fundamentale ar trebui să avem pentru a interoga seturile de date, algoritmii și procesele utilizate pentru a lua decizii în numele nostru?
- Cine ajunge să definească valoarea vieții umane? Împotriva a ce se cântărește acea valoare?
- Când și de ce cei din triburile A.I. simt că este responsabilitatea lor să abordeze implicațiile sociale ale A.I.?
- Conducerea organizației noastre și A.I. triburile reflectă multe tipuri diferite de oameni?
- Ce rol au cei care comercializează A.I. joc în abordarea implicațiilor sociale ale A.I.?
- Ar trebui să continuăm să comparăm A.I. la gândirea umană sau este mai bine pentru noi să o clasificăm ca ceva diferit?
- Este OK să construiești A.I. care recunoaște și răspunde la emoția umană?
- Este OK să faci A.I. sisteme capabile să mimeze emoția umană, mai ales dacă învață de la noi în timp real?
- Care este punctul acceptabil în care suntem cu toții în regulă cu A.I. evoluează fără oameni direct în buclă?
- În ce circumstanțe ar putea un A.I. simulați și experimentați emoțiile umane comune? Dar durerea, pierderea și singurătatea? Suntem OK să provocăm acea suferință?
- Dezvoltăm A.I. să căutăm o înțelegere mai profundă a noastră? Putem folosi A.I. pentru a ajuta omenirea să trăiască o viață mai examinată?
Există nouă companii mari de tehnologie - șase americane și trei chineze - care sunt covârșitoare responsabile pentru viitorul inteligenței artificiale. În SUA, acestea sunt Google, Microsoft, Amazon, Facebook, IBM și Apple („G-MAFIA”). În China, este BAT: Baidu, Alibaba și Tencent.
G-MAFIA a început să abordeze problema principiilor directoare prin diferite grupuri de cercetare și studiu. În cadrul Microsoft este o echipă numită FATE - pentru corectitudine, responsabilitate, transparență și etică în A.I. În urma scandalului Cambridge Analytica, Facebook a lansat o echipă de etică care dezvoltă software pentru a se asigura că A.I. sistemele au evitat părtinirea. (În special, Facebook nu a mers atât de departe încât a creat un consiliu de etică axat pe A.I.) DeepMind a creat o echipă de etică și societate. IBM publică în mod regulat despre etică și A.I. În urma unui scandal la Baidu - motorul de căutare a acordat prioritate afirmațiilor medicale înșelătoare ale unui spital administrat de militari, unde un tratament a dus la moartea unui student în vârstă de 21 de ani - CEO-ul Baidu, Robin Li, a recunoscut că angajații au făcut compromisuri de dragul creșterii câștigurilor lui Baidu și a promis să se concentreze pe etică în viitor.
câți ani are Vickie Guerrero
The Big Nine produce studii de etică și cărți albe, convoacă experți pentru a discuta despre etică și găzduiește panouri despre etică - dar acest efort nu este suficient de legat de operațiunile de zi cu zi ale diferitelor echipe care lucrează la A.I.
A.I. sistemele accesează din ce în ce mai mult datele noastre din lumea reală pentru a construi produse care arată valoare comercială. Ciclurile de dezvoltare se accelerează pentru a ține pasul cu așteptările investitorilor. Am fost dispuși - dacă nu vrem - participanți la un viitor creat în grabă și fără a răspunde mai întâi la toate aceste întrebări. Așa cum A.I. sistemele avansează și mai mult din viața de zi cu zi devine automatizată, cu atât avem mai puțin control asupra deciziilor luate despre noi și pentru noi.
Amy Webb va apărea la Inc Founders House la Austin pe 11 martie.
