Cum ar putea AI să distrugă umanitatea? – The New York Times

Luna trecută, sute de oameni cunoscuți din lumea inteligenței artificiale au semnat o scrisoare deschisă prin care avertizează că AI ar putea distruge într-o zi omenirea.

„Atenuarea riscului de dispariție din cauza inteligenței artificiale ar trebui să fie o prioritate globală alături de alte riscuri la scară societală, cum ar fi pandemiile și războiul nuclear”, se arată în declarația cu o singură propoziție.

Scrisoarea a fost cea mai recentă dintr-o serie de avertismente de rău augur despre inteligența artificială, care au fost deosebit de ușoare cu privire la detalii. Sistemele AI de astăzi nu pot distruge umanitatea. Unele dintre ele abia pot adăuga și scădea. Deci, de ce sunt atât de îngrijorați oamenii care știu cel mai mult despre AI?

Scenariul înfricoșător.

Într-o zi, spun Cassandras din industria tehnologică, companiile, guvernele sau cercetătorii independenți ar putea implementa sisteme AI puternice pentru a gestiona orice, de la afaceri la război. Aceste sisteme ar putea face lucruri pe care noi nu vrem să le facă. Și dacă oamenii ar încerca să interfereze sau să-i închidă, ar putea rezista sau chiar să se reproducă, astfel încât să poată continua să funcționeze.

„Sistemele de astăzi nu sunt nicăieri aproape de a prezenta un risc existențial”, a spus Yoshua Bengio, profesor și cercetător AI la Universitatea din Montreal. „Dar într-un, doi, cinci ani? Există prea multă incertitudine. Aceasta este problema. Nu suntem siguri că acest lucru nu va trece la un moment dat în care lucrurile devin catastrofale.”

Îngrijoratorii au folosit adesea o metaforă simplă. Dacă îi ceri unei mașini să creeze cât mai multe agrafe posibil, spun ei, aceasta ar putea fi dusă de cap și ar putea transforma totul – inclusiv umanitatea – în fabrici de agrafe.

Cum se leagă asta de lumea reală – sau de o lume imaginară care nu are prea mulți ani în viitor? Companiile ar putea oferi sistemelor AI din ce în ce mai multă autonomie și le pot conecta la infrastructura vitală, inclusiv rețelele electrice, bursele și armele militare. De acolo, ar putea cauza probleme.

Pentru mulți experți, acest lucru nu părea chiar atât de plauzibil până în ultimul an și ceva, când companii precum OpenAI au demonstrat îmbunătățiri semnificative în tehnologia lor. Asta a arătat ce ar putea fi posibil dacă AI continuă să avanseze într-un ritm atât de rapid.

„AI va fi delegat în mod constant și, pe măsură ce devine mai autonomă, ar putea uzurpa luarea deciziilor și gândirea de la oamenii actuali și de la instituțiile conduse de oameni”, a spus Anthony Aguirre, cosmolog la Universitatea din California, Santa Cruz și fondator al studiului. Future of Life Institute, organizația din spatele uneia dintre cele două scrisori deschise.

„La un moment dat, va deveni clar că marea mașină care conduce societatea și economia nu este cu adevărat sub control uman și nici nu poate fi oprită, așa cum S&P 500 ar putea fi oprit”, a spus el.

Sau așa spune teoria. Alți experți în inteligență artificială cred că este o premisă ridicolă.

„Ipoteticul este un mod atât de politicos de a formula ceea ce cred despre discuțiile despre risc existențial”, a spus Oren Etzioni, directorul executiv fondator al Institutului Allen pentru IA, un laborator de cercetare din Seattle.

Există semne că AI ar putea face asta?

Nu chiar. Dar cercetătorii transformă chatbot-uri precum ChatGPT în sisteme care pot întreprinde acțiuni pe baza textului pe care îl generează. Un proiect numit AutoGPT este primul exemplu.

Ideea este de a oferi sistemului obiective precum „a crea o companie” sau „a face niște bani”. Apoi va continua să caute modalități de a atinge acest obiectiv, în special dacă este conectat la alte servicii de internet.

Un sistem precum AutoGPT poate genera programe de calculator. Dacă cercetătorii îi dau acces la un server de computer, ar putea rula acele programe. În teorie, aceasta este o modalitate prin care AutoGPT poate face aproape orice online – să preia informații, să folosească aplicații, să creeze noi aplicații, chiar să se îmbunătățească.

Sistemele precum AutoGPT nu funcționează bine acum. Au tendința de a rămâne blocați în bucle nesfârșite. Cercetătorii au oferit unui sistem toate resursele necesare pentru a se reproduce. Nu a putut.

În timp, aceste limitări ar putea fi remediate.

„Oamenii încearcă în mod activ să construiască sisteme care se auto-îmbunătățesc”, a spus Connor Leahy, fondatorul Conjecture, o companie care spune că dorește să alinieze tehnologiile AI cu valorile umane. „În prezent, acest lucru nu funcționează. Dar într-o zi, va fi. Și nu știm când este ziua aceea.”

Dl. Leahy susține că, pe măsură ce cercetătorii, companiile și criminalii dau acestor sisteme obiective precum „a face niște bani”, ar putea ajunge să intre în sistemele bancare, să stimuleze revoluția într-o țară în care dețin futures pe petrol sau să se reproducă atunci când cineva încearcă să le transforme. oprit.

Unde învață sistemele AI să se comporte prost?

Sistemele AI precum ChatGPT sunt construite pe rețele neuronale, sisteme matematice care pot învăța abilități prin analiza datelor.

În jurul anului 2018, companii precum Google și OpenAI au început să construiască rețele neuronale care au învățat din cantități masive de text digital colectate de pe internet. Prin identificarea tiparelor în toate aceste date, aceste sisteme învață să genereze scrierea pe cont propriu, inclusiv articole de știri, poezii, programe de calculator, chiar și conversații umane. Rezultatul: chatboți precum ChatGPT.

Deoarece învață din mai multe date decât pot înțelege până și creatorii lor, aceste sisteme prezintă și un comportament neașteptat. Cercetătorii au arătat recent că un sistem a fost capabil să angajeze un om online pentru a învinge un test Captcha. Când omul a întrebat dacă este „un robot”, sistemul a mințit și a spus că este o persoană cu deficiențe de vedere.

Unii experți își fac griji că, pe măsură ce cercetătorii fac aceste sisteme mai puternice, instruindu-le pe cantități din ce în ce mai mari de date, ei ar putea învăța mai multe obiceiuri proaste.

Cine sunt oamenii din spatele acestor avertismente?

La începutul anilor 2000, un tânăr scriitor pe nume Eliezer Yudkowsky a început să avertizeze că AI ar putea distruge umanitatea. Postările sale online au dat naștere unei comunități de credincioși. Numiți raționaliști sau altruiști eficienți, această comunitate a devenit extrem de influentă în mediul academic, think tank-urile guvernamentale și industria tehnologică.

Domnul Yudkowsky și scrierile sale au jucat un rol cheie în crearea atât a OpenAI, cât și a DeepMind, un laborator AI pe care Google l-a achiziționat în 2014. Și mulți din comunitatea „EA” au lucrat în cadrul acestor laboratoare. Ei credeau că, pentru că au înțeles pericolele AI, erau în cea mai bună poziție pentru ao construi.

Cele două organizații care au lansat recent scrisori deschise în care avertizează asupra riscurilor AI – Centrul pentru Siguranța AI și Institutul Viitorul Vieții – sunt strâns legate de această mișcare.

Avertismentele recente au venit și de la pionieri în cercetare și lideri din industrie precum Elon Musk, care a avertizat de mult despre riscuri. Cea mai recentă scrisoare a fost semnată de Sam Altman, directorul executiv al OpenAI; și Demis Hassabis, care a ajutat la înființarea DeepMind și acum supraveghează un nou laborator de inteligență artificială care combină cercetătorii de top de la DeepMind și Google.

Alte personalități bine respectate au semnat una sau ambele scrisori de avertizare, inclusiv dr. Bengio și Geoffrey Hinton, care au demisionat recent din funcția de director și cercetător la Google. În 2018, au primit premiul Turing, adesea numit „Premiul Nobel pentru calcul”, pentru munca lor asupra rețelelor neuronale.