Riscograma
Lucian Davidescu

Ce faci când vine robotul să-ți ia gâtul

Foarte probabil că roboții vor reuși până la urmă să ne fure mare parte din joburi și, după o perioadă de tranziție, să ajute la instalarea unui soi de paradis pe pământ. Ei să facă toate treburile nedorite și să le lase oamenilor timp pentru artă, sport, spiritualitate și socializare.

În timpul ăsta roboții vor munci pentru a le livra toate cele necesare, le vor mulțumi pentru că au primit ocazia asta extraordinară, vor lăsa tot ei ceva bacșiș și vor mai și plăti impozite la stat. Până aici totul e minunat. Dar oare robotul respectiv – atât de inteligent și de puternic – va rămâne mulțumit cu statutul de slugă? Sau va conspira cu ceilalți să scape de „asupritor”?

Luna trecută a stârnit panică o știre apocaliptică: Roboții de chat testați de Facebook au dezvoltat un limbaj propriu, neinteligibil, în care au început să comunice între ei, așa că programatorii au scos computerele din priză de spaimă.

Bob: i can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to

Ideea e puțin caraghioasă iar ambalajul este undeva între click-bait și fake-news. Discuția de mai sus arată mai degrabă limitele programării și ale tehnologiei. Așa ar vorbi probabil între ele oricare două persoane cu IQ sever de mic – într-un mod efectiv de neînțeles pentru nimeni altcineva.

Dar nu-i timpul pierdut, în viitor roboții vor vorbi din ce în ce mai coerent. Doar să aibă și ce spune!

Aici devine relevantă a doua dezbatere pe subiect de luna trecută – între Mark Zuckerberg / Facebook și Elon Musk / Tesla.

Zukerberg crede că pericolele inteligenței artificiale nu există, Musk susține că ele sunt mai mari decât ne putem închipui și că Zuckerberg nu prea înțelege nimic. Este posibil ca fiecare să aibă dreptatea lui, în funcție de orizontul care îl preocupă.

În ciuda tuturor profețiilor alarmiste, inteligența artificială a avansat dezamăgitor de puțin în ultimele două decenii. Fiecare pas micuț înainte cere un efort de programare cu un ordin de mărime peste cel de până atunci. Între timp, capacitățile de procesare au crescut exponențial.

Deep Blue, super-computerul care îl bătea pe Kasparov în anii ’90, avea o capacitate de procesare de 10 Gigaflopi. Toate fermele de servere care produc bitcoin au azi, împreună, o capacitate de 81 de milioane de petaflopi.

Asta înseamnă că ele calculează în fiecare secundă mai mult decât ar fi putut Deep Blue în 250 de ani!

Și totuși, orice algoritm de inteligență artificială instalat pe a doua mașină ar căpăta doar un avantaj marginal minor față de unul instalat pe prima.

Există limite constructive ale procesoarelor digitale, care limitează complexitatea, dar dincolo de ele există o limită dură a capacității umane de ale programa. Pur și simplu ar fi nevoie de mai multă muncă omenească decât este disponibilă în următoarele milenii doar pentru a ține pasul cu avansul tehnologiei din ultimii 20 de ani.

Mark Zuckerberg, care dezvoltă la maximum tehnologia curentă pentru capacitățile curente, este foarte îndreptățit să nu fie îngrijorat. Și totuși? Poate că Elon Musk are la rândul său dreptate să fie îngrijorat.

Pentru că lucrurile nu se opresc aici. Următorul salt ar fi computerele cuantice, care ar mări cu încă niște ordine de mărime capacitaea de procesare, dar și un potențial algoritm de autoînvățare care să devină funcțional, poate prin forță brută. Moment în care mașinăria supra-inteligentă și conștientă de sine (sau o rețea distribuită de astfel de mașini) devine posibilă.

Chiar și așa n-ar fi automat o mare problemă. Noua inteligență și omul ar face parte totuși din regnuri diferite, astfel că teoretic se pot servi reciproc fără să se încurce prea tare. În scenariul din Terminator, Skynet era un computer care internalizase fricile și ambițiile omenești, de dragul scenariului. Dar pentru a se ajungă la interacțiune directă, a fost nevoie și de alte lucruri – care depind tot de om!

Primul pericol este autoreproducerea necontrolată. Dacă fabricile de roboți sunt la rândul lor echipate de roboți, atunci producția greu mai poate fi oprită la nevoie.

Un pericol mai mare este folosirea inteligenței artificiale ca mijloc de luptă autonom, în cazul că vreo putere militară ar fi tentată să deschidă Cutia Pandorei. Dacă scopul programat al robotului este să ucidă, atunci o va face fără să mai fie nevoie de cine știe ce rațiuni.

Dar cel mai mare pericol este fuziunea regnurilor – în momentul în care avantajele biologicului și electronicului sunt cumulate, prin inginerie genetică și biotehnologii. În momentul în care ar apărea în care o specie nouă, inteligentă, adaptabilă și care să concureze cu omul pentru aceleași resurse, atunci cel mai probabil va trebui ca una din cele două să dispară sau să fie subordonată complet.

Citește și ce faci când vine robotul să-ți ia jobul

3 comentarii
Manuel Transmission

„Zukerberg crede că pericolele inteligenței artificiale nu există, Musk susține că ele sunt mai mari decât ne putem închipui și că Zuckerberg nu prea înțelege nimic.”

Diferenta dintre cei doi este urmatoarea:
– Zuckerberg este un programator si un specialist IT care a creat o companie de la zero iar acum are in spate o gramada de tehnologii si inovatii complexe si conexe. O afacere reala care valoreaza in mod real ~ 35 miliarde USD

– Musk este un sarlatan cu o firma falimentara care este „profitabila” pentru simplul motiv ca primeste subventii de miliarde de la guvernul SUA. In termeni de tehnologie/IT, afacerea si prosdusul lui Musk parta denumirea de D.O.A. (= dead on arrival / defective on arrival), motiv pentru care „face valva” si este tare in clanta. Mai ales atunci cand ti se prabusesc vanzarile din acuza preturilor colosale de vanzare, din cauza beneficiilor mici livrate de produs catre consumator si mai ales din cauza calitatii execrabile a produsului (ca la majoritatea masinilor americane). Masinile Tesla concureaza la calitate cu Fiat-urile din anii ’80. cauta cu Google dupa „tesla poor build quality” sau alte chestiuni similare si te lamuresti. Incearca si pe Youtube.

„Primul pericol este autoreproducerea necontrolată. Dacă fabricile de roboți sunt la rândul lor echipate de roboți, atunci producția greu mai poate fi oprită la nevoie.”

Nu exista si probabil nu va exista asa ceva.
Nu mai speria lumea cu predictii apocaliptice demne de Baba Vanga.
Te plictisesti chiar atat de mult?

PS. Citat din articolul anterior: „La ce mai este nevoie de tot marketingul și publicitatea, de rețelele de agenți de vânzări?”
Cat tot vorbeai la articolul trecut cum vine robotul si iti ia jobul si uite asa moare marketingul, publicitatea si vanzarile… Poate cineva cu neuroni functionali sa-mi spuna si mie cum a facut Zuckerberg camioanele alea cu miliarde de USD? Dar aia de la Google? Dar aia care ofera tot felul de servicii si produse gratuite care in momentul in care dai un click sau desckizi pagina iti explodeaza in fata catralioane de bannere si animatii flash si javascript.

Cum se numeste compania lui Zuckerberg? Numai un prost va spune „Facebook”.
Un om inteligent va spune „Platforma de PUBLICITATE si affiliate(online) MARKETING, cu continut gratuit creat de idioti care in acelasi timp sunt si producatori de „continut” si clienti/cumparatori pentru produsele si serviciile reale altora”!
Ce poate fii mai tare de atat? Creezi un cacat de forum, il pui pe niste servere, il marketezi ca pe „gaura din gogoasa”, vin miliarde de idioti sa piarda timpul, iar tu le livrezi fix in bot publicitate si/sau produsele altora si asa faci camioane cu bani vanzand spatiu pentru reclama sau incasand comisioane din vanzari? Exista un motiv bine intemeiat pentru care au aparut specializari ca „internet/online marketing” si „social media marketing”.

Ca o regula simpla si de bun simt: pe „retelele sociale” nu iti faci cont si nu iti pierzi timpul daca nu ai ceva de vandut/promovat. Altfel vei fii idiotul pe spatele caruia vor face altii bani. In loc sa te intrebi „de ce sa imi deschid” sau „de ce sa nu imi deschid” un cont pe o „retea sociala” trebuie mai intati sa te intrebi „CE AM DE VANDUT?” acolo.

Eu sunt ferm convins ca marea majoritate a lumii habar nu are despre lumea in care traim si felul in care se schimba, motiv pentru care Romania inca pregateste „specialisti” in „pilirea capetelor de ciocan”, iar „expetii si analistii” canta prohodul marketingului, publicitatii si vanzarii si bat campii cu robatii care ne iau la inceput joburile si mai tarziu viata.

Relu

Ești sigur că Zuckerberg n-a primit niște oferte și ajutoare (hai să zicem favoruri, nu „ajutoare”, că sună a corupție 🙂 ) din partea agențiilor guvernamentale americane?

Munteanu

Articol mincinos scris de un ne-specialist in roboti si calculatore. Calculatore quantice nu exista si foarte probabil nu vor fi proiectate nici in viitor. Se cerceteaza posibilitatea creerii de memorii quantice utilizabile inclusiv la calculatorele existente. Daca vor fi realizate ele vor permite memorarea a mult mai multi biti intr-un spatiu foarte mic. Atat nimic mai mult nici mai putin. Viteza de calcul care e oricum foarte mare va putea fi marita de calculatorele supra-conductoare. Exista deja cateva dar probabil mai e inca mult de lucru la perfectionarea lor. Si mai rapide vor fi calculatorele care vor utiliza lumina in locul electricitatii. Cabluri din fibra optica exista deja si se lucreaza la componente electro-optice inclusiv de mare viteza. Rushii au scris un articol impotriva robotilor. In Japonia ei au fost o vreme la moda pana cand s-a descoperit ca majoritatea sarcinilor robotilor pot fi indeplinite chiar mai bine de dispozitive mai simple si mai ieftine iar robotii foarte scumpi utilizati doar unde au eshuat dispozitivele mai ieftine. Cand a fost creat primul PC un grup de afaceristi s-a intalnit cu un grup de ingineri. La ce-i bun acest dispozitiv ? au intrebat afaceristii. El poate automatiza toate trenurile din SUA. au raspuns inginerii. Asta este excelent au raspuns afaceristii si au dat bani pentru dezvoltarea industriei de PC-uri. Azi PC-urile au display color si majoritatea au sistemul de operare Windows. Trenurile merg prin SUA chiar mai prost decat mergeau atunci si multe cai-ferate au fost intre timp demolate. Inventatorii au devenit miliardari si PC-urile lor tot mai inutile. Azi calculatorele nu mai calculeaza dar toti au devenit dependenti de ele ca de opium.