Riscograma

Ce faci când vine robotul să-ți ia gâtul

Foarte probabil că roboții vor reuși până la urmă să ne fure mare parte din joburi și, după o perioadă de tranziție, să ajute la instalarea unui soi de paradis pe pământ. Ei să facă toate treburile nedorite și să le lase oamenilor timp pentru artă, sport, spiritualitate și socializare.

În timpul ăsta roboții vor munci pentru a le livra toate cele necesare, le vor mulțumi pentru că au primit ocazia asta extraordinară, vor lăsa tot ei ceva bacșiș și vor mai și plăti impozite la stat. Până aici totul e minunat. Dar oare robotul respectiv – atât de inteligent și de puternic – va rămâne mulțumit cu statutul de slugă? Sau va conspira cu ceilalți să scape de „asupritor”?

Luna trecută a stârnit panică o știre apocaliptică: Roboții de chat testați de Facebook au dezvoltat un limbaj propriu, neinteligibil, în care au început să comunice între ei, așa că programatorii au scos computerele din priză de spaimă.

Bob: i can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to

Ideea e puțin caraghioasă iar ambalajul este undeva între click-bait și fake-news. Discuția de mai sus arată mai degrabă limitele programării și ale tehnologiei. Așa ar vorbi probabil între ele oricare două persoane cu IQ sever de mic – într-un mod efectiv de neînțeles pentru nimeni altcineva.

Dar nu-i timpul pierdut, în viitor roboții vor vorbi din ce în ce mai coerent. Doar să aibă și ce spune!

Aici devine relevantă a doua dezbatere pe subiect de luna trecută – între Mark Zuckerberg / Facebook și Elon Musk / Tesla.

Zukerberg crede că pericolele inteligenței artificiale nu există, Musk susține că ele sunt mai mari decât ne putem închipui și că Zuckerberg nu prea înțelege nimic. Este posibil ca fiecare să aibă dreptatea lui, în funcție de orizontul care îl preocupă.

În ciuda tuturor profețiilor alarmiste, inteligența artificială a avansat dezamăgitor de puțin în ultimele două decenii. Fiecare pas micuț înainte cere un efort de programare cu un ordin de mărime peste cel de până atunci. Între timp, capacitățile de procesare au crescut exponențial.

Deep Blue, super-computerul care îl bătea pe Kasparov în anii ’90, avea o capacitate de procesare de 10 Gigaflopi. Toate fermele de servere care produc bitcoin au azi, împreună, o capacitate de 81 de milioane de petaflopi.

Asta înseamnă că ele calculează în fiecare secundă mai mult decât ar fi putut Deep Blue în 250 de ani!

Și totuși, orice algoritm de inteligență artificială instalat pe a doua mașină ar căpăta doar un avantaj marginal minor față de unul instalat pe prima.

Există limite constructive ale procesoarelor digitale, care limitează complexitatea, dar dincolo de ele există o limită dură a capacității umane de ale programa. Pur și simplu ar fi nevoie de mai multă muncă omenească decât este disponibilă în următoarele milenii doar pentru a ține pasul cu avansul tehnologiei din ultimii 20 de ani.

Mark Zuckerberg, care dezvoltă la maximum tehnologia curentă pentru capacitățile curente, este foarte îndreptățit să nu fie îngrijorat. Și totuși? Poate că Elon Musk are la rândul său dreptate să fie îngrijorat.

Pentru că lucrurile nu se opresc aici. Următorul salt ar fi computerele cuantice, care ar mări cu încă niște ordine de mărime capacitaea de procesare, dar și un potențial algoritm de autoînvățare care să devină funcțional, poate prin forță brută. Moment în care mașinăria supra-inteligentă și conștientă de sine (sau o rețea distribuită de astfel de mașini) devine posibilă.

Chiar și așa n-ar fi automat o mare problemă. Noua inteligență și omul ar face parte totuși din regnuri diferite, astfel că teoretic se pot servi reciproc fără să se încurce prea tare. În scenariul din Terminator, Skynet era un computer care internalizase fricile și ambițiile omenești, de dragul scenariului. Dar pentru a se ajungă la interacțiune directă, a fost nevoie și de alte lucruri – care depind tot de om!

Primul pericol este autoreproducerea necontrolată. Dacă fabricile de roboți sunt la rândul lor echipate de roboți, atunci producția greu mai poate fi oprită la nevoie.

Un pericol mai mare este folosirea inteligenței artificiale ca mijloc de luptă autonom, în cazul că vreo putere militară ar fi tentată să deschidă Cutia Pandorei. Dacă scopul programat al robotului este să ucidă, atunci o va face fără să mai fie nevoie de cine știe ce rațiuni.

Dar cel mai mare pericol este fuziunea regnurilor – în momentul în care avantajele biologicului și electronicului sunt cumulate, prin inginerie genetică și biotehnologii. În momentul în care ar apărea în care o specie nouă, inteligentă, adaptabilă și care să concureze cu omul pentru aceleași resurse, atunci cel mai probabil va trebui ca una din cele două să dispară sau să fie subordonată complet.

Citește și ce faci când vine robotul să-ți ia jobul

Lucian Davidescu

Caută ce am mai scris

Află când scriem ceva nou