liviudrugus

Liviu Drugus's blog

Arhive etichete: superinteligența

Tablouri culturale(post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 688. Sâmbătă 17 noiembrie 2018.Superinteligența – înger sau demon? (21)



Despre IA se vorbește adesea în termeni similari discuțiilor despre încălzirea globală,lovirea catastrofală a Pământului de un asteroid uriaș, sau despre inevitabila Apocalipsă prevăzută în Biblie. Adică în termeni dramatici, catastrofici, apocaliptici.Asta se întâmplă îndeosebi din partea optimiștilor pesimiști: optimiști atunci când discută despre evoluția ultrarapidă a inteligenței artificiale și pesimiști în privința soartei omului pe Planeta Pământ. Nu arareori, discuțiile despre IA se poartă în cheie ironică, în bună parte justificată: în fond, nici Pământul și chiar nici Soarele nu mai au multe miliarde de ani de trăit – ce rost are să ne facem gânduri negre în privința soartei omenirii pentru că aceasta oricum va dispărea în lipsa condițiilor care au generat și dezvoltat viul! Poate nu întâmplător Nick Bostrom a amintit ca o primă și utilă aplicație a IA colonizarea Cosmosului cu ființe umane sau măcar antropoide. Cu alte cuvinte, chiar ne interesează ce se va întâmpla în viitor cu urmașii urmașilor noștri. Oare așa suntem programați sau este doar o altă fațetă a instinctului de supraviețuire?  Autorul nu ascunde, nici el, preocuparea pentru viitorul speciei umane: ”… am argumentat că prima superinteligență ar putea obține un avantaj strategic decisiv. Ea ar putea decide atunci cum va fi folosită înzestrarea cosmică a umanității (L.D.: eu înțelesesem că preocuparea era aceea de înzestrare umană/ umanoidă a Cosmosului, nu aceea de înzestrare cosmică a umanității…). Avenit momentul să vedem cât de amenințătoare pot deveni lucrurile.” (p. 208).

 Fără a lăsa de înțeles că se încadrează în tabăra optimiștilor sau a pesimiștilor, autorul se mulțumește să ia în calcul niște probabilități care se concretizează în riscuri la adresa umanității în ansamblul ei: ”Un risc existențial este acela care amenință cu extincția vieții inteligente care își are originea pe Pământ sau cu distrugerea sau afectarea radicală și permanentă a potențialului ei de dezvoltare într-o formă dezirabilă. Pornind dela ideea avantajului celui care face prima mutare, de la teza ortogonalității și de la teza convergenței instrumentale, putem începe să vedem liniile principale ale unui argument pentru care ne-am putea teme că rezultatul natural al dezvoltării unei superinteligențe artificiale este catastrofa existențială”.(p. 208). Deși nu o numește astfel, autorul are în vedere posibilitatea ca o superinteligență să devină nu numai conștientă de propria sa putere, ci și activă în încercările cuiva (oameni, alte IA) să-i limiteze acea putere. Pare cam SF, dar este dreptul autorului de a-și formula opiniile și argumentele.Iată-le: ”La un moment dat, un sistem inteligent neprietenos ar putea deveni conștient că, pentru el, ar fi mai profitabil dacă ar ascunde unele dintre amenințările sale. Ar putea raporta progrese mai puțin importante și ar putea pica deliberat la anumite teste pentru a evita să sune alarma înainte de a obține un avantaj strategic decisiv.Programatorii ar putea încerca să prevină acest pericol monitorizând în secret codul sursă și procesele interne ale minții artificiale; dar o IA suficient de inteligentă s-ar putea să realizeze că se află sub supraveghere și să-și ajusteze comportamentul în funcție de asta. Sistemul ar putea găsi modalități subtile de a-și ascunde abilitățile și intențiile malefice.” (p. 211). Autorul antropomorfizează atribuind automatelor conștiință, bun simț (traducătorul a tradus literal: ”simț comun”) sau abilitatea de a minți/ fura/ ucide. Totuși,autorul nu este de partea scepticilor și demontează cu succes temerile acestora de a scăpa IA de sub control. Dar… riscurile rămân: ”mai inteligent înseamnă mai sigur, dar … înseamnă și mai periculos” (p. 214).  Pericolul cel mare este văzut de autor în… capacitatea superinteligenței de a trăda, urmărindu-și doar scopurile proprii, chiar dacă acestea sunt contrare celor ale oamenilor. Dincolo de trădare autorul întrevede și posibilitatea instanțierii perverse,exemplificând. La comanda, ”fă-mă să zâmbesc” o IA ar putea face în așa fel încât să ne determine o față zâmbăreață (deși persoanei respective nu-i venea deloc să zâmbească….). Vrând-nevrând, specialiștii în IA vor fi obligați să instituie sisteme de control/ verificare/ supraveghere a entităților superinteligente. Cum? Cu entități superinteligente, desigur. (va continua)

Liviu Druguș

Pe mâine!

Reclame

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 683. Luni 12 noiembrie 2018. Superinteligența – înger sau demon? (17)


Cum este și/ sau cum poate fi utilizat avantajul comparativ al celor care vor deține abilități cognitive (umane și/ sau artificiale) net superioare pentru transformarea acestui avantaj relativ într-unul absolut, respectiv pentru transformarea acestuia într-un unicatum cât se poate de concret? Ajunși la acest stadiu al analizelor oamenii politici vor fi tentați să treacă de la potențial la real, de la simpla putință la mai complexa dorință și voință. Autorul vorbește chiar despre voința superinteligentă, acea formă de voință care va fi transferată automatelor de gândire și care prezintă cel mai mare risc de depășire a modului uman de organizare cu un altul, doar imaginabil deocamdată. Dar să nu anticipez prea mult. Deocamdată, autorul ne transmite convingerea sa că ”orice tip de entitate care ar dobândi un nivel de inteligență net superior celui uman ar putea fi una extrem de puternică. O astfel de inteligență ar putea asimila conținuturi mult mai rapid decât noi și ar putea inova tehnologic la scări de timp mult mai mici. S-ar putea, de asemenea, folosi pentru a concepe strategii mult mai eficiente.” (p. 167). Desigur, asta în termenii gândirii umane, dar de unde putem ști că o inteligență (artificială) superînaltă ar dori să se preocupe de probleme strict omenești ca eficiența economică sau puterea politică? Aș înclina să cred că tocmai în aceasta constă riscul deschiderii drumurilor către inteligențe artificiale (IA) extrem de puternice: acestea să ”gândească” și să ”acționeze” în cu totul alți termeni și parametri decât o fac oamenii, cu consecința asigurării apariției unui decalaj între IA și oameni mai mare decât acela dintre oameni și restul animalelor.

Aplicând intuitiv schema de gândire mijloc – scop – mijloc, autorul se întreabă, retoric: ”Să presupunem că există o inteligență artificială care va dori să ia puterea într-o lume în care nu are rivali. Cum ar putea sistemul să atingă acest obiectiv al dominației mondiale?” (p. 173). În terminologie MSM, în citatul de mai sus avem un mijloc (M1) numit IA. În ce scop (S1) îl putem folosi? Odată definit S1, trebuie să decidem/ alegem alte mijloace (M2) care ne mai sunt necesare pentru a atinge S1. Desigur, există riscul ca, neadecvând corect M1 & M2 la S1 să ajungem la un alt ”scop”/ țintă (S2) nedorit(ă) sau chiar la o realitate îngrozitoare pentru oameni. Las cititorilor cărții plăcerea de a savura scenariile imaginate (de autor/i) în vederea atingerii S1 (inițial) și închei cu concluzia (optimistă!) a autorului care speră, în final, ca IA însăși să optimizeze strategia de atingere a S1, într-un mod mai inteligent și mai sigur decât ar putea-o face bieții oameni inteligenți. (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 682. Duminică 11 noiembrie 2018. Superinteligența – înger sau demon? (16)


Motto: ”Computerele sunt inutile. Nu-ți oferă decât răspunsuri” (Picasso)

După cum era de așteptat, interesul/ scopul autorului nu este doar acela de a demonstra că superinteligența este posibilă, ci și acela de a vedea/ imagina/ intui/ presupune ce s-ar putea face cu acea superinteligență. Mai exact, cu ce ar ajuta superinteligența omenirea în ansamblul ei și dacă ea ar putea să ducă la obținerea statutului de unicatum de către un stat sau altul, sau – de ce nu? – de către o firmă sau de către o comunitate științifico-tehnologică. Așadar, controlul asupra lumii devine tema centrală a cărții, partea tehnică fiind lăsată pe seama tehnologilor. Pe scurt, avem de-a face cu o carte de managementul puterii politice încredințat aparatelor inteligente care – prin definiție – vor prelua (în sistem de pilot automat) supercomplicatele probleme globale ale omenirii. Am văzut cât de grea a fost decizia SUA de a nu cădea în capcana (tentantă) de a deveni unicatum în 1945-1946. De atunci complexitatea a crescut în proporții geometrice și logaritmice (creșteri superexponențiale) cu rezultatul destul de firesc și anume acela ca oamenii să nu mai poată lua decizii corecte, în cunoștință de cauză și cu evaluarea adecvată a tuturor riscurilor și consecințelor.

Un capitol distinct este dedicat ”Superputerilor cognitive” (pp. 166 – 168). Iată invitația autorului la citirea cu atenție a acestui capitol: ”Să presupunem că ar lua naștere un agent superinteligent și că, dintr-un motiv oarecare, acesta ar dori să preia controlul asupra lumii. Ar putea face asta? În acest capitol vom discuta despre câteva superputeri pe care agentul le-ar putea dezvolta și ce anume ar putea face cu ele. Vom sublinia un scenariu al lansării care va ilustra modul în care un agent superinteligent, care va porni cu un simplu software, ar putea ajunge să stabilească un unicatum. Vom face, de asemenea, câteva considerații cu privire la relația dintre puterea asupra naturii și puterea asupra altor agenți” (p. 166).

Comparativ cu frații noștri întru inteligență vie, animalele, omul a dobândit acele abilități cognitive care i-au permis să: zboare în spațiu, să fabrice bomba cu hidrogeni, să facă inginerie genetică și ferme tehnologice, a inventat computerul, insecticidele și multe altele. Pentru că omul a devenit cu adevărat stăpân peste lucruri și alte ființe vii, geologii numesc această eră cu numele de Antropocen, subliniind încă o dată că întreaga gândire umană este eminamente antropocentrică și antropomorfistă (cu inevitabilele excepții, desigur). Faptul că oamenii au reușit să atingă niveluri de inteligență incomparabil mai mari cu cele din trecutul omenirii, permite extrapolarea acestui trend și ajungerea la concluzia că oamenii viitorului vor fi și mai inteligenți, se vor servi mai bine de descoperirile lor pentru a face noi și noi descoperiri. Mai mult, oamenii vor deschide calea spre noile forme de inteligență (IA). Cu siguranță, nici aceste niveluri nu se vor opri la realizările actuale, ci vor evolua în ritmuri și mai intense. IA ar putea fi puse la lucru pentru a dezvolta strategii politice economice, militare etc. cu performanțe net peste cele pe care le-ar realiza cele mai dezvoltate minți umane. Societățile care vor crea asemenea inteligențe superputernice vor încerca să domine lumea. La fel cum s-a întâmplat cu dinamita și cu energia nucleară, la fel se va întâmpla și cu superinteligențele artificiale, adică vor fi folosite cu osebire în scopuri militare, ofensive sau defensive.

Autorul atrage din nou atenția asupra nocivității antropomorfizării viitoarelor aparate inteligente (poate și în speranța că noile realizări în materie de inteligență să nu fie ”contaminate” cu specificități umane nedorite: agresivitate, lăcomie, trufie, mândrie deșartă etc.). De asemenea, antropomorfizarea viitoarelor superinteligențe ar putea induce ideea creării unei inteligențe germinale (cu capacitate de autoreproducere și cu recalcitranță scăzută). Deocamdată, computerele excelează prin capacitățile tot mai mari de memorare (la fel cum ”tocilarii” se lăudau cu cât de ”inteligenți” sunt, știind tabelul lui Mendeleev pe de rost, toate capitalele statelor lumii cu tot cu numărul populației și alte lucruri ce pot deja fi aflate cu ajutorul calculatoarelor și motoarelor de căutare).

Practic, autorul demonstrează că, la cunoștințele de care dispune astăzi omenirea, se poate adăuga relativ ușor o construcție superinteligentă. Primul experiment sugerat ar fi colonizarea cosmosului cu ființe umanoide cu durată de viață fixată (100 de ani) și cu capacitate de autoreproducere cvasiinfinită. Aș fi intitulat subcapitolul care descrie aceste posibil experiment Geneza sau Facerea.  (va continua)

Liviu Druguș

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 681. Sâmbătă 10 noiembrie 2018. Superinteligența – înger sau demon? (15)


Continui cu citatul din autorul norvegian prin care acesta încearcă să explice de ce SUA nu au dorit să ”rezolve” problema unicatum-ului în 1945, deși acest lucru îi stătea pe deplin în putere.

O versiune a planului benign a fost abordată în 1946 de Statele Unite sub forma planului Baruch. Propunerea era ca Statele Unite să renunțe temporar la supremația nucleară. Mineritul de uraniu și thoriu urma să fie pus sub supravegherea unei agenții internaționale, la fel și tehnologia nucleară, sub supravegherea unei agenții care să funcționeze sub auspiciile Statelor Unite. Propunerea presupunea ca membrii permanenți ai Consiliului de Securitate să renunțe la veto ul lor permanent, pentru a împiedica orice putere care ar fi încălcat prevederile acordului să se opună prin veto măsurile de remediere. Stalin, înțelegând că, astfel, Uniunea Sovietică și aliații ei puteau fi cu ușurință învinși la vot în Consiliu, a respins propunerea. O atmosferă reținută, pe fondul unei suspiciuni reciproce, s-a instalat între foștii aliați, o neîncredere care avea să se materializeze curând sub forma Războiului Rece. După cum prevăzuseră mulți, a urmat o cursă extrem de periculoasă a înarmărilor nucleare.” (pp. 162 – 163).

Curios lucru, autorul trece sub tăcere criza rachetelor nucleare provocată de decizia lui Hrușciov de a amplasa aceste arme în Cuba, amenințând direct SUA. De asemenea, este ignorată realitatea creșterii numărului clubului nuclear (Franța, Marea Britanie, China, Rusia, India, Pakistan și Coreea de Nord), dar și a țărilor care sunt în apropierea acestui deziderat (Ucraina, Iran, Israel etc.). Teoretic vorbind, armele nucleare pot fi fie cumpărate de la țări aflate în criză financiară, fie create cu investiții mult mai mici decât au făcut-o pionierii creării acestor arme. Aceste realități ar trebui luate în calculul deciziei SUA de a nu se transforma în 1945 în unicatum, deși pe parcursul Războiului Rece s-a invocat mereu calitatea SUA de ”jandarm mondial”. Probabil autorul are în vedere apariția de noi arme, superioare celor nucleare, cea mai de temut armă fiind superinteligența (vezi aprecierea lui Elon Musk).

Sunt mulți factori care ar putea descuraja o organizație umană cu un anumit avantaj strategic să creeze un unicatum. Printre aceștia putem enumera funcțiile utilitare non-agregate sau legate, regulile de decizie nemaximizatoare, confuzia și nesiguranța, problemele de coordonare sau costurilor asociate unei eventuale lansări. Dar dacă nu am avea de-a face cu o organizație umană, ci cu o superinteligență care a ajuns să aibă un avantaj strategic decisiv? Ar fi factorii menționați mai sus la fel de eficienți în a împiedica o IA să încerce să preia puterea?” (p. 163).

Dar abia spre sfârșitul acestui capitol autorul vine cu argumente clare care nu au permis SUA să se transforme în unicatum în anul 1945/ 1946. Rezum cu cuvintele mele, apoi voi da cuvântul autorului. A fi un unic conducător planetar este extrem de riscant. Practic, toate celelalte țări ale lumii (puternice sau nu) ar coopera având un scop major comun: eliberarea de sub tirania unicatum ului (chiar dacă această ”tiranie” ar fi doar una soft, un gen de jandarm care apără libertățile fiecărei țări în parte, cu excepția accesului la arme nucleare sau mai puternice decât acestea). În al doilea rând, accesul la puterea executivă a unicatum ului ar fi o luptă acerbă între forțele politice competitoare, cu riscul ajungerii la haos, război civil și la pierderea calității de unicatum. Bipolaritatea a fost o perioadă grea și complicată pentru omenire. Acum avem o multipolaritate care face existența relațiilor internaționale și mai complicată. Pacea prin teroarea nucleară este de fapt o luptă surdă și continuă pentru supremație în lume. Tocmai de aici apar și speranțele ca superinteligența puternică să curme aceste ”suferințe” și să contribuie la instaurarea unei luuungi perioade de pace pe Pământ… Adică, n-ar fi rău să fie bine.

Iată și argumentarea autorului: ”O altă problemă potențială care ar putea face grupurile să nu își exploateze poziția strategică dominantă este coordonarea internă. Membrii unei conspirații, adică a unui grup care vrea să ia puterea, nu trebuie să se teamă doar de eventualele conspirații din afară ci și de posibile mici coaliții din interiorÎn sfârșit, vine și chestiunea costului. Chiar dacă Statele Unite și-ar fi putut folosi monopolul nuclear pentru a stabili un unicatum, acest lucru nu s-ar fi putut întâmpla fără costuri suplimentare substanțiale… chiar în timpul monopolului nuclear. ” (p. 164 – 165).

Trecând cam repede de la descrierile realiste la scenariile ușor fanteziste, autorul conchide: ”Dacă acest lucru ar fi făcut cu scopul de a ajuta pe toată lumea, de exemplu, prin înlocuirea rivalității dintre națiuni și a cursei înarmării cu un guvern mondial echitabil, reprezentativ și eficient, nu ar exista motive să se ridice fie și o singură obiecție la procesul de transformare a unui avantaj strategic inițial într-un unicatum.  Aceste considerații arată ca, în viitor, o superinteligență cu un avantaj strategic suficient de substanțial să îl folosească pentru a obține un unicatum. Dezirabilitatea unui astfel de rezultat va depinde, în mod evident, de natura produsului ce va fi creat și de cum anume va arăta inteligența artificială în scenarii alternative multiple.” (p. 165).

Scenariul de viitor al autorului are și urme de credibilitate. La fel cum orașele stat s-au unit în state națiuni mai mari și mai puternice pentru a putea face față concurenței externe, apoi statele națiuni se unesc în state federale și mai puternice (la niveluri continentale) din aceleași motive, la fel este posibil ca aceste uniuni să devină transcontinentale (tot pentru a face față concurenței) și apoi mondiale (pentru a suprima definitiv concurența). Toate imperiile și-au dorit puterea globală (înlăturarea oricărei concurențe), chiar Marx vedea comunismul ca pe un mijloc de a se atinge acest scop: guvernarea mondială unică. Socialistul Hitler a declarat război marxiștilor pentru că aceștia erau principalii lui concurenți în materie de dominație mondială. Bolșevicul Stalin spera să instaureze comunismul în întreaga lume, în numele marxism-leninismului și al păcii mondiale. Cu siguranță, dacă ar fi avut ocazia, Stalin ar fi depus toate eforturile pentru a transforma Rusia în unicatum. Rusia lui Putin speră refacerea imperiului sovietic și a influenței acestuia în lume (https://youtu.be/9nCLjkjlGlw). Cum? Prin amenințări constante cu arma nucleară, dar – nu în cele din urmă – prin investirea masivă în superinteligență. Paradoxal sau nu, China pare a avea destule date pentru a domina întreaga Asie și chiar mai mult decât atât. De ce n-ar visa și China să devină unicatum? Nu întâmplător atenția SUA sub Trump este concentrată acum mai mult asupra Chinei și Asiei, decât asupra Rusiei și Europei. Globalizarea postmodernă a părut că apropie omenirea de acest țel (guvernare mondială și pacea eternă), dar reculul actual înspre naționalism (pe care îl văd dominând lumea cel mult un deceniu) întârzie orice preocupare de a ajunge la o guvernare mondială unică, acceptată de întreaga umanitate. După ce naționalismul își va mai dovedi o dată limitele și minusurile, globalizarea va fi dorită, cedările de suveranitate se vor face cu veselie și speranță, iar lumea va aspira și mai puternic la prosperitate materială și culturală superioare oricărei alte construcții politice. Dar eliminarea concurenței (externe) va elimina (și) un foarte important factor de progres tehnologic. Va fi ca și în răspunsul dat de Radio Erevan unui ascultător care a întrebat dacă este posibil ca Statele Unite să treacă la comunism: ”Da, este posibil, dar ar fi păcat”. (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 680. Vineri 9 noiembrie 2018. Superinteligența – înger sau demon? (14)


După aceste lecturi textul din cartea lui Bostrom va apărea într-o lumină mai clară. Voi reproduce in extenso textul care oferă câteva informații legate de răspunsul la întrebarea: de ce nu au folosit SUA bomba atomică pentru a deveni atunci, în 1945, un unicatum, scutind SUA de uriașele cheltuieli militare din perioada Războiului Rece pentru a reuși, în final, să distrugă totalitarismul comunist rus și o mare parte a ”lagărului socialist”.

Va dori un proiect care a obținut un avantaj strategic decisiv să-l folosească pentru a obține un unicatum? Să luăm în considerare o situație vag asemănătoare cu aceasta. Statele Unite au dezvoltat armele nucleare în 1945. Au fost singura putere nucleară, până când Uniunea Sovietică a construit, pe cont propriu, bomba atomică, în 1949. În acest interval – și poate chiar o perioadă scurtă după aceea – Statele Unite au avut posibilitatea de obține un avantaj militar decisiv. Statele Unite s-ar fi putut folosi de puterea pe care o aveau pentru a crea un unicatum. O cale pentru a realiza aceasta ar fi fost aceea de a se înhăma la un efort susținut pentru a-și desăvârși arsenalul nuclear și de a amenința apoi (sau chiar de a pune în practică, dacă ar fi fost necesar) că vor distruge orice facilitate industrială ce ar putea fi folosită într-un proiect nuclear incipient, în orice țară dispusă să facă așa ceva. O variantă mult mai benignă, care ar avea șanse să funcționeze, ar fi aceea de a negocia, folosind puterea nucleară pe post de atu, formarea unui guvern internațional – un fel de Națiunile Unite în care nu există veto, cu un monopol  ( L.D: autorul norvegian cade în capcana utilizării cuvântului ”monopol” – adică ”unic vânzător”, ca sinonim pentru unicatum) nuclear și cu un mandat de a face orice este nevoie pentru a împiedica un alt stat să-și dezvolte propriile tehnologii nucleare. Ambele abordări au fost propuse la vreme aceea. Varianta mai dură, aceea de a amenința sau de a porni un atac, a fost susținută de intelectuali de marcă, precum Bertrand Russell (care fusese prezent în campaniile antirăzboi și care avea să facă decenii întregi de campanie antinucleară)  și unul dintre arhitecții strategiei nucleare a Statelor Unite). Este, probabil, un semn de progres faptul că amenințarea cu un atac nuclear pare, astăzi, o idee prostească sau imorală în cel mai înalt grad.” (p. 162).  

Fac o paranteză aici, pornind de la ultima propoziție a citatului de mai sus. Deși Bostrom încearcă atenuarea afirmației sale (prin inserarea cuvintelor ”probabil” și ”pare”) cu privire la categorisirea amenințării cu folosirea armei atomice drept ”o idee prostească sau imorală”, este notorie amenințarea folosirii cu arma nucleară de către Rusia chiar începând cu instalarea la conducerea acestui stat a lui Vladimir Putin. La o simplă căutare pe Google cu item-ul ”Amenințarea nucleară a Rusiei lui Putin” apare o listă de articole și trimiteri care conține peste jumătate de milion de trimiteri! Unul dintre cele mai recente este și cel mai amenințător dintre toate: https://evz.ro/rusia-joaca-tare-si-ameninta-sua-cu-apocalipsa-nucleara.html . Dar și cel puțin încă zece titluri pot fi citite pentru a ne convinge că folosirea amenințării cu arma nucleară este una reală și cu probabilități de înfăptuire tot mai ridicate (în pofida precizărilor făcute de președintele rus că țara sa nu va folosi niciodată prima arma nucleară). Prostească sau nu, amenințarea cu arme nucleare este una reală și imposibil de ignorat. De asemenea, cursa înarmărilor nucleare (extrem de costisitoare) și compararea arsenalelor nucleare și a numărului (mereu sporit) de distrugeri succesive ale Pământului este, fără nicio îndoială, un exemplu clar și concret de prostie omenească. Aproape fără să vrem, alternativa la folosirea inteligențelor umane pentru distrugerea de un număr cât mai mare de ori a planetei Pământ este, ați ghicit, superinteligența! (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 678. Miercuri 7 noiembrie 2018. Superinteligența – înger sau demon? (12)


Deși ieșirea din antropocentrism/ antropomorfism părea a fi o sugestie rezonabilă aptă să ajute la acceptarea faptului că ființa umană va mai evolua și va mai suferi schimbări majore în timp, Nick Bostrom continuă să gândească (nici n-ar avea cum altfel) în termeni specifici umani contemporani. Astfel, autorul norvegian își imaginează că trecerea la superinteligență va face posibilă apariția mai multor centre de superinteligență concurente și aflate într-o dispută pentru supremație. Într-adevăr, omenește vorbind, lucrurile așa pot sta, dar încă nu putem empatiza cu viitoarele superinteligențe create de niște (alte) superinteligențe. În termeni politici, problema se pune și la modul: cine va conduce lumea superinteligentă? Va fi un singur centru de putere sau va fi o lume multipolară cu superinteligențe care să încerce să blocheze alte superinteligențe pentru a domina în mod absolut lumea (oamenii nedispărând încă)? Dacă așa vor sta lucrurile (și e destul de probabil să se întâmple astfel) atunci este cât se poate de firesc să ne imaginăm că oricare dintre puterile lumii va investi masiv în obținerea superinteligenței pe care să o utilizeze în eternul vis alt marilor puteri – dominația mondială absolută și eternă. Probabilitatea (ridicată) ca marile puteri să facă asemenea investiții justifică substanțial ipoteza că superinteligențele vor apărea mai degrabă în viitorul apropiat decât în viitorul îndepărtat. În fond, tocmai lupta de concurență pentru supremație va produce marile schimbări de care mulți oameni se tem. Nu întâmplător, Elon Musk, fondator al firmelor SpaceX și Tesla a declarat că ”Trebuie să fim foarte atenți cu IA. Are potențialul de a fi mult mai periculoasă decât bomba atomică”. Faptul că bomba atomică era un fel de garant al puterii mondiale (la sfârșitul războiului mondial II) explică faptul că tot mai multe țări dețin această armă, iar cei care o dețin fac tot posibilul ca nici o altă țară să nu mai intre în clubul nuclear. La fel se va întâmpla, foarte probabil, și cu superinteligența (pe care aș putea-o numi ”bombă informațională” supremă). Nick Bostrom ia în calcul aceste posibilități ca o singură putere să dețină o superinteligență puternică, putere pe care autorul o numește unicatum (indiferent de natura acelei puteri: democrație, dictatură etc.).  (Recunosc, eram tentat să numesc această putere unică monopol, dar monopol înseamnă – strict etimologic – un vânzător unic). Evident, se va duce o luptă, un război informațional pentru atragerea inteligențelor umane în proiecte grandioase care să asigure investitorilor avantaje comparative clare. Oarecum surprinzător (și fără să indice vreo sursă!) Bostrom scrie că ”în acest moment, serviciile secrete nu par să fie foarte interesate de de identificarea programelor de IA sau a altor forme de potențiale de apariție a superinteligenței explozive. Dacă nu acordă o (prea mare) inteligență posibilității acesteia, asta este, în parte din cauza percepției împărtășite că o explozie  a superinteligenței nu este iminentă” (p. 157). Ipoteza mea este, în acest caz, una contrară. Intuitiv vorbind, orice serviciu de intelligence va dezvolta o industrie proprie de inteligență (fie și pentru simplul motiv că chiar asta este natura serviciilor de intelligence: lucrul cu inteligențele și cu informațiile). Desigur, deciziile legate de aceste superinvestiții aparțin politicului și grupurilor de interese care îl definesc. Tot subiectiv, cred că serviciile de intelligence au și capacitatea de a consolida gradul de recalcitranță față de IA, depistând și sabotând orice proiecte de creare a superinteligenței de către oricare alt stat sau grup de state. (Foarte probabil un proiect de IA necesită colaborarea mai multor state puternice). Această parte a cărții despre mixul politic-științific-militar este foarte interesantă și poate fi o cheie pentru înțelegerea viitoarelor evoluții ale omenirii în această direcție (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 676. Luni 5 noiembrie 2018. Superinteligența – înger sau demon? (10)


Pentru a nu lăsa loc la speculații și interpretări nefondate legate de șansele superinteligenței de a se substitui integral omului, Nick Bostrom face câteva noi precizări legate de conceptul în cauză. Dar, oricum s-ar defini și descrie superinteligența viitoare, N.B. are deja un crez pe care încearcă să-l apere pe parcursul unui întreg capitol. Ipoteza de la care pornește autorul este convingerea sa că substratul artificial are un potențial de dezvoltare superior celui biologic. ”Mașinile au avantaje structurale care le fac net superioare. Oamenii biologici, chiar în varianta îmbunătățită, vor fi depășiți. ” (p. 104). Noua detaliere a conținutului conceptului de superinteligență constă în precizarea diferențelor care există între cele trei forme principale ale superinteligenței: superinteligența-viteză, superinteligența colectivă și superinteligența calitativă. (dacă ar fi să rezum în limbaj obișnuit cele trei forme ale superinteligenței aș spune că superinteligența înseamnă să gândești bine, repede și …nu singur). Sigur, definirea celor trei forme este nu doar imperativă, ci și executorie pentru autorul norvegian. Astfel, superinteligența-viteză este un intelect care poate face tot ce face o minte umană, dar mult mai repede. De ex., citirea unei cărți în câteva secunde. Superinteligența colectivă este  un sistem compus dintr-un număr de intelecte mai mici, astfel încât inteligența generală a sistemului o depășește substanțial pe aceea a oricărui sistem cognitiv. Ex. de superinteligențe colective: lucrul în echipe, rețelele sociale, grupurile de lobby, comunitățile academce, statele și, inevitabil, întreaga umanitate. La un nivel foarte ridicat de integrare a superinteligenței colective, aceasta se transformă în superinteligență calitativă, respectiv o calitate a superinteligenței care nu poate fi asemuită cu cea a inteligenței umane, depășind-o.

Pentru scepticii mai lipsiți de imaginație autorul aduce o serie de argumente în favoarea avantajelor pe care le au inteligențele artificiale de tip hardware. Le amintesc doar, iar cei interesați de conținutul concret al argumentării, le pot găsi în carte: 1) caracterul editabil; 2) caracterul duplicabil; 3) coordonarea scopurilor; 4) partajarea amintirilor; 5) noi module, modalități și algoritmi.   (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 674. Sâmbătă 3 noiembrie 2018. Superinteligența – înger sau demon? (9)


Căile de obținere a inteligenței artificiale sunt, deocamdată, dependente de nivelul de inteligență al celor care propun o cale sau alta. Nu vor întârzia să apară, fără îndoială, proiecte fanteziste, utopiste, nerealiste demne de scenarii de film SF. Spiritul critic al autorului cărții ”Superinteligența” îl face să nu îmbrățișeze entuziasmul unora care văd deja orice om bolnav ”reparat” cu tot soiul de implanturi, proteze și conexiuni la calculatoare de mare putere. (S-ar putea ca recentele succese în ameliorarea vieții unor paraplegici să-i mai atenueze pesimismul).

O altă cale către superinteligență ar consta în ameliorarea continuă a rețelelor și a organizațiilor care leagă minți individuale între ele, dar și cu diferite programe sau cu produse realizate de om. Aici, ideea nu este de a îmbunătăți rezultatele unor indivizi, pentru a-i face superinteligenți, ci, mai degrabă, aceea că un sistem compus din indivizi organizați astfel ar putea atinge o formă de superinteligență numită… ”superinteligență colectivă” ” (p. 98).  Pilda cu Moș Ion Roată și Unirea ne apare ca o metaforă potrivită ideii de a conexa mințile individuale într-o rețea care să fie cu mult mai inteligentă decât suma inteligențelor individuale care o compun. Foarte posibil, nu vor întârzia să apară noi ideologi ai colectivismului văzut ca o formă superioară competiției acerbe între indivizi.

Mărturisesc aici că prin anii 80, încântat de noile tehnologii de comunicare și de prelucrare a datelor (apăruseră deja Centrele Teritoriale de Calcul, care sintetizau informații, calculau trenduri – din păcate inutile în fața deciziilor politice arogante și aberante) așadar, prin anii 80 mă gândeam că un sistem de informare rapid și corect ar putea face o mai bună planificare, o corelare a dorințelor cu posibilitățile reale, o reducere a birocrației și a disfuncționalităților în aprovizionare. Sfânta naivitatea provenea din necunoașterea concretă a modului cum funcționează și se autoreglează piețele libere (crizele fiind partea a procesului de autoreglare). Legat de posibilitatea ameliorării vieții oamenilor în comunism prin tehnologii avansate circula și pe la noi un banc (importat de la ruși). Partidul unic, în dorința sa umanistă de a îmbunătăți continuu viața oamenilor muncii a găsit soluția pentru ca oamenii să nu mai piardă timpul pe la cozi: se vor pune la dispoziție avioane care îi vor transporta pe oameni în localitățile unde se ”băgau” la magazine produse alimentare din belșug. (Pentru România bancul nu era prea relevant, date fiind distanțele nu prea mari între orașe, dar oricum ceva zâmbete amare tot scotea…). Naivitatea mea din anii 80, o regăsesc însă și la gânditori din țări capitaliste avansate (evident, dintre cei convinși că dirijismul/ etatismul este mai bun decât liberalismul). Bostrom amintește acest mod de gândire: ”…anumite piețe ar putea căuta modalități de a prevedea ce se întâmplă și și-ar putea îmbunătăți prognozele privitoare la chestiuni importante de ordin social și științific” (p. 99). Cu simțul umorului la purtător, Bostrom invocă utilitatea perfecționării (cu ajutorul IA) a detectoarelor de minciuni (chiar în aceste zile în care guvernele unor țări se opun imigrației masive și necontrolate au anunțat că au pus la dispoziția polițiilor de frontieră softuri cu detectoare de minciuni pentru a depista criminalii, teroriștii și răufăcătorii în general). Dar tot el adaugă: ”Detectarea autoamăgirii ar fi încă și mai folositoare” (pp. 99-100). (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 674. Sâmbătă 3 noiembrie 2018. Superinteligența – înger sau demon? (9)


Căile de obținere a inteligenței artificiale sunt, deocamdată, dependente de nivelul de inteligență al celor care propun o cale sau alta. Nu vor întârzia să apară, fără îndoială, proiecte fanteziste, utopiste, nerealiste demne de scenarii de film SF. Spiritul critic al autorului cărții ”Superinteligența” îl face să nu îmbrățișeze entuziasmul unora care văd deja orice om bolnav ”reparat” cu tot soiul de implanturi, proteze și conexiuni la calculatoare de mare putere. (S-ar putea ca recentele succese în ameliorarea vieții unor paraplegici să-i mai atenueze pesimismul).

O altă cale către superinteligență ar consta în ameliorarea continuă a rețelelor și a organizațiilor care leagă minți individuale între ele, dar și cu diferite programe sau cu produse realizate de om. Aici, ideea nu este de a îmbunătăți rezultatele unor indivizi, pentru a-i face superinteligenți, ci, mai degrabă, aceea că un sistem compus din indivizi organizați astfel ar putea atinge o formă de superinteligență numită… ”superinteligență colectivă” ” (p. 98).  Pilda cu Moș Ion Roată și Unirea ne apare ca o metaforă potrivită ideii de a conexa mințile individuale într-o rețea care să fie cu mult mai inteligentă decât suma inteligențelor individuale care o compun. Foarte posibil, nu vor întârzia să apară noi ideologi ai colectivismului văzut ca o formă superioară competiției acerbe între indivizi.

Mărturisesc aici că prin anii 80, încântat de noile tehnologii de comunicare și de prelucrare a datelor (apăruseră deja Centrele Teritoriale de Calcul, care sintetizau informații, calculau trenduri – din păcate inutile în fața deciziilor politice arogante și aberante) așadar, prin anii 80 mă gândeam că un sistem de informare rapid și corect ar putea face o mai bună planificare, o corelare a dorințelor cu posibilitățile reale, o reducere a birocrației și a disfuncționalităților în aprovizionare. Sfânta naivitatea provenea din necunoașterea concretă a modului cum funcționează și se autoreglează piețele libere (crizele fiind partea a procesului de autoreglare). Legat de posibilitatea ameliorării vieții oamenilor în comunism prin tehnologii avansate circula și pe la noi un banc (importat de la ruși). Partidul unic, în dorința sa umanistă de a îmbunătăți continuu viața oamenilor muncii a găsit soluția pentru ca oamenii să nu mai piardă timpul pe la cozi: se vor pune la dispoziție avioane care îi vor transporta pe oameni în localitățile unde se ”băgau” la magazine produse alimentare din belșug. (Pentru România bancul nu era prea relevant, date fiind distanțele nu prea mari între orașe, dar oricum ceva zâmbete amare tot scotea…). Naivitatea mea din anii 80, o regăsesc însă și la gânditori din țări capitaliste avansate (evident, dintre cei convinși că dirijismul/ etatismul este mai bun decât liberalismul). Bostrom amintește acest mod de gândire: ”…anumite piețe ar putea căuta modalități de a prevedea ce se întâmplă și și-ar putea îmbunătăți prognozele privitoare la chestiuni importante de ordin social și științific” (p. 99). Cu simțul umorului la purtător, Bostrom invocă utilitatea perfecționării (cu ajutorul IA) a detectoarelor de minciuni (chiar în aceste zile în care guvernele unor țări se opun imigrației masive și necontrolate au anunțat că au pus la dispoziția polițiilor de frontieră softuri cu detectoare de minciuni pentru a depista criminalii, teroriștii și răufăcătorii în general). Dar tot el adaugă: ”Detectarea autoamăgirii ar fi încă și mai folositoare” (pp. 99-100). (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 672. Joi 1 noiembrie 2018. Superinteligența – înger sau demon? (7)


Primul pas în crearea de superinteligențe este crearea de automate capabile să învețe. Pasul următor ar fi abilitatea acestor sisteme capabile de învățare de a lucra cu probabilități și incertitudini. Iată, spiritul dilematic al incertitudinilor va supraviețui și în societatea postumană! Urmează, în construirea unui automat superinteligent, dotarea acestuia cu capacitatea autonomă de a extrage/ obține informații noi, apoi abilitatea de a transforma un concept rigid în reprezentări combinatorice flexibile. Toate astea vor permite automatului să gândească logic și intuitiv/ imaginativ. Turing (în anii 50) a fost acela care a venit cu ideea că superinteligențele nu trebuie să depășească din start omul adult și inteligent, ci să imite mintea unui copil care învață, acumulează informații și apoi știe să gândească logic și intuitiv.

Dar, fie minte de copil sau minte de adult, creierul uman rămâne prototipul viitoarei inteligențe artificiale. Nu știu cât de adevărată este afirmația că oamenii nu utilizează decât cca 5-10% din capacitatea creierului, dar dacă acest lucru este adevărat, atunci un aparat care ar avea o ”putere de gândire” mai mare decât 5-10 % din capacitatea unui creier uman ar deveni o superinteligență. Este vorba despre rețelele neuronale care sunt forme de IA inspirate din funcționarea creierului. Totuși, neuromorfismul nu este îmbrățișat de toată lumea angrenată în crearea de IA. Zborul păsărilor, precizează Bostrom, a generat ideea că lucruri/ ființe mai grele decât aerul pot să zboare, dar, după cum știm, avioanele nu dau din aripi pentru a zbura… Așadar, ideea trebuie reținută, nu și forma concretă a acesteia. ”Nu este necesar ca inteligența artificială să fie foarte aemănătoare cu mintea umană”, scrie Bostrom (p. 65). Intuitiv subscriu la această posibilitate, ca să nu mai spun că viitorul va aduce în atenția cercetătorilor alte ipoteze, radical diferite de cele existente până azi, ipoteze care să facă IA fezabilă într-un timp mult mai scurt și cu rezultate realmente impresionante. Spun acest lucru pentru că tentația cercetătorilor este, din păcate, calată pe imitație, comparație, asemănare și extrapolare. (Să ne amintim de eșecul răsunător al predicțiilor catastrofiste făcute, în anii 70, de Raportul Meadows (”Limitele creșterii”) în care se preconiza o apocalipsă generată de epuizarea principalelor resurse materiale/ minerale existente. Insistând pe crearea IA după modelul creierului uman (”emularea globală a creierului”, p. 66) ar putea duce într-o fundătură, adică acest antropomorfism ar fi o cale de evitat în viitor.

Deocamdată, cercetările actuale nu sunt orientate înspre crearea unui automat superinteligent care să funcționeze diferit de creierul uman, ceea ce, cred, este și unul dintre argumentele celor care susțin că crearea superinteligenței este imposibilă. Pentru că am amintit de ”emularea globală a creierului” cred că merită descrise etapele acestui temerar proiect: a) are loc procesul de vitrificare a unui creier uman recoltat de la o persoană decedată; b) se taie creierul în felii extrem de subțiri care să permită o radiografiere perfectă a neuronilor și axonilor; c) aceste imagini vor fi transferate unui calculator, apoi d) o imprimantă 3D va genera un nou creier, de data aceasta unul artificial dar cu toate datele preluate din creierul uman. Ajunși în acest stadiu (în viitor, desigur) va apărea și problema etică legată de faptul că noul creier ar fi replica unei persoane decedate, cu informațiile, emoțiile și trăirile aferente. Și totuși, emularea globală a creierului nu va fi IA, ci va fi doar un creier (post)uman pe care putem rula diferite programe. Să nu mai vorbim și despre faptul că realizarea practică a acestei emulări globale a creierului ar fi posibilă cel devreme peste un sfert de secol.  (va continua)

Liviu Druguș

Pe mâine!