liviudrugus

Liviu Drugus's blog

Arhive etichete: unicatum

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 683. Luni 12 noiembrie 2018. Superinteligența – înger sau demon? (17)


Cum este și/ sau cum poate fi utilizat avantajul comparativ al celor care vor deține abilități cognitive (umane și/ sau artificiale) net superioare pentru transformarea acestui avantaj relativ într-unul absolut, respectiv pentru transformarea acestuia într-un unicatum cât se poate de concret? Ajunși la acest stadiu al analizelor oamenii politici vor fi tentați să treacă de la potențial la real, de la simpla putință la mai complexa dorință și voință. Autorul vorbește chiar despre voința superinteligentă, acea formă de voință care va fi transferată automatelor de gândire și care prezintă cel mai mare risc de depășire a modului uman de organizare cu un altul, doar imaginabil deocamdată. Dar să nu anticipez prea mult. Deocamdată, autorul ne transmite convingerea sa că ”orice tip de entitate care ar dobândi un nivel de inteligență net superior celui uman ar putea fi una extrem de puternică. O astfel de inteligență ar putea asimila conținuturi mult mai rapid decât noi și ar putea inova tehnologic la scări de timp mult mai mici. S-ar putea, de asemenea, folosi pentru a concepe strategii mult mai eficiente.” (p. 167). Desigur, asta în termenii gândirii umane, dar de unde putem ști că o inteligență (artificială) superînaltă ar dori să se preocupe de probleme strict omenești ca eficiența economică sau puterea politică? Aș înclina să cred că tocmai în aceasta constă riscul deschiderii drumurilor către inteligențe artificiale (IA) extrem de puternice: acestea să ”gândească” și să ”acționeze” în cu totul alți termeni și parametri decât o fac oamenii, cu consecința asigurării apariției unui decalaj între IA și oameni mai mare decât acela dintre oameni și restul animalelor.

Aplicând intuitiv schema de gândire mijloc – scop – mijloc, autorul se întreabă, retoric: ”Să presupunem că există o inteligență artificială care va dori să ia puterea într-o lume în care nu are rivali. Cum ar putea sistemul să atingă acest obiectiv al dominației mondiale?” (p. 173). În terminologie MSM, în citatul de mai sus avem un mijloc (M1) numit IA. În ce scop (S1) îl putem folosi? Odată definit S1, trebuie să decidem/ alegem alte mijloace (M2) care ne mai sunt necesare pentru a atinge S1. Desigur, există riscul ca, neadecvând corect M1 & M2 la S1 să ajungem la un alt ”scop”/ țintă (S2) nedorit(ă) sau chiar la o realitate îngrozitoare pentru oameni. Las cititorilor cărții plăcerea de a savura scenariile imaginate (de autor/i) în vederea atingerii S1 (inițial) și închei cu concluzia (optimistă!) a autorului care speră, în final, ca IA însăși să optimizeze strategia de atingere a S1, într-un mod mai inteligent și mai sigur decât ar putea-o face bieții oameni inteligenți. (va continua)

Liviu Druguș

Pe mâine!

Reclame

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 682. Duminică 11 noiembrie 2018. Superinteligența – înger sau demon? (16)


Motto: ”Computerele sunt inutile. Nu-ți oferă decât răspunsuri” (Picasso)

După cum era de așteptat, interesul/ scopul autorului nu este doar acela de a demonstra că superinteligența este posibilă, ci și acela de a vedea/ imagina/ intui/ presupune ce s-ar putea face cu acea superinteligență. Mai exact, cu ce ar ajuta superinteligența omenirea în ansamblul ei și dacă ea ar putea să ducă la obținerea statutului de unicatum de către un stat sau altul, sau – de ce nu? – de către o firmă sau de către o comunitate științifico-tehnologică. Așadar, controlul asupra lumii devine tema centrală a cărții, partea tehnică fiind lăsată pe seama tehnologilor. Pe scurt, avem de-a face cu o carte de managementul puterii politice încredințat aparatelor inteligente care – prin definiție – vor prelua (în sistem de pilot automat) supercomplicatele probleme globale ale omenirii. Am văzut cât de grea a fost decizia SUA de a nu cădea în capcana (tentantă) de a deveni unicatum în 1945-1946. De atunci complexitatea a crescut în proporții geometrice și logaritmice (creșteri superexponențiale) cu rezultatul destul de firesc și anume acela ca oamenii să nu mai poată lua decizii corecte, în cunoștință de cauză și cu evaluarea adecvată a tuturor riscurilor și consecințelor.

Un capitol distinct este dedicat ”Superputerilor cognitive” (pp. 166 – 168). Iată invitația autorului la citirea cu atenție a acestui capitol: ”Să presupunem că ar lua naștere un agent superinteligent și că, dintr-un motiv oarecare, acesta ar dori să preia controlul asupra lumii. Ar putea face asta? În acest capitol vom discuta despre câteva superputeri pe care agentul le-ar putea dezvolta și ce anume ar putea face cu ele. Vom sublinia un scenariu al lansării care va ilustra modul în care un agent superinteligent, care va porni cu un simplu software, ar putea ajunge să stabilească un unicatum. Vom face, de asemenea, câteva considerații cu privire la relația dintre puterea asupra naturii și puterea asupra altor agenți” (p. 166).

Comparativ cu frații noștri întru inteligență vie, animalele, omul a dobândit acele abilități cognitive care i-au permis să: zboare în spațiu, să fabrice bomba cu hidrogeni, să facă inginerie genetică și ferme tehnologice, a inventat computerul, insecticidele și multe altele. Pentru că omul a devenit cu adevărat stăpân peste lucruri și alte ființe vii, geologii numesc această eră cu numele de Antropocen, subliniind încă o dată că întreaga gândire umană este eminamente antropocentrică și antropomorfistă (cu inevitabilele excepții, desigur). Faptul că oamenii au reușit să atingă niveluri de inteligență incomparabil mai mari cu cele din trecutul omenirii, permite extrapolarea acestui trend și ajungerea la concluzia că oamenii viitorului vor fi și mai inteligenți, se vor servi mai bine de descoperirile lor pentru a face noi și noi descoperiri. Mai mult, oamenii vor deschide calea spre noile forme de inteligență (IA). Cu siguranță, nici aceste niveluri nu se vor opri la realizările actuale, ci vor evolua în ritmuri și mai intense. IA ar putea fi puse la lucru pentru a dezvolta strategii politice economice, militare etc. cu performanțe net peste cele pe care le-ar realiza cele mai dezvoltate minți umane. Societățile care vor crea asemenea inteligențe superputernice vor încerca să domine lumea. La fel cum s-a întâmplat cu dinamita și cu energia nucleară, la fel se va întâmpla și cu superinteligențele artificiale, adică vor fi folosite cu osebire în scopuri militare, ofensive sau defensive.

Autorul atrage din nou atenția asupra nocivității antropomorfizării viitoarelor aparate inteligente (poate și în speranța că noile realizări în materie de inteligență să nu fie ”contaminate” cu specificități umane nedorite: agresivitate, lăcomie, trufie, mândrie deșartă etc.). De asemenea, antropomorfizarea viitoarelor superinteligențe ar putea induce ideea creării unei inteligențe germinale (cu capacitate de autoreproducere și cu recalcitranță scăzută). Deocamdată, computerele excelează prin capacitățile tot mai mari de memorare (la fel cum ”tocilarii” se lăudau cu cât de ”inteligenți” sunt, știind tabelul lui Mendeleev pe de rost, toate capitalele statelor lumii cu tot cu numărul populației și alte lucruri ce pot deja fi aflate cu ajutorul calculatoarelor și motoarelor de căutare).

Practic, autorul demonstrează că, la cunoștințele de care dispune astăzi omenirea, se poate adăuga relativ ușor o construcție superinteligentă. Primul experiment sugerat ar fi colonizarea cosmosului cu ființe umanoide cu durată de viață fixată (100 de ani) și cu capacitate de autoreproducere cvasiinfinită. Aș fi intitulat subcapitolul care descrie aceste posibil experiment Geneza sau Facerea.  (va continua)

Liviu Druguș

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 681. Sâmbătă 10 noiembrie 2018. Superinteligența – înger sau demon? (15)


Continui cu citatul din autorul norvegian prin care acesta încearcă să explice de ce SUA nu au dorit să ”rezolve” problema unicatum-ului în 1945, deși acest lucru îi stătea pe deplin în putere.

O versiune a planului benign a fost abordată în 1946 de Statele Unite sub forma planului Baruch. Propunerea era ca Statele Unite să renunțe temporar la supremația nucleară. Mineritul de uraniu și thoriu urma să fie pus sub supravegherea unei agenții internaționale, la fel și tehnologia nucleară, sub supravegherea unei agenții care să funcționeze sub auspiciile Statelor Unite. Propunerea presupunea ca membrii permanenți ai Consiliului de Securitate să renunțe la veto ul lor permanent, pentru a împiedica orice putere care ar fi încălcat prevederile acordului să se opună prin veto măsurile de remediere. Stalin, înțelegând că, astfel, Uniunea Sovietică și aliații ei puteau fi cu ușurință învinși la vot în Consiliu, a respins propunerea. O atmosferă reținută, pe fondul unei suspiciuni reciproce, s-a instalat între foștii aliați, o neîncredere care avea să se materializeze curând sub forma Războiului Rece. După cum prevăzuseră mulți, a urmat o cursă extrem de periculoasă a înarmărilor nucleare.” (pp. 162 – 163).

Curios lucru, autorul trece sub tăcere criza rachetelor nucleare provocată de decizia lui Hrușciov de a amplasa aceste arme în Cuba, amenințând direct SUA. De asemenea, este ignorată realitatea creșterii numărului clubului nuclear (Franța, Marea Britanie, China, Rusia, India, Pakistan și Coreea de Nord), dar și a țărilor care sunt în apropierea acestui deziderat (Ucraina, Iran, Israel etc.). Teoretic vorbind, armele nucleare pot fi fie cumpărate de la țări aflate în criză financiară, fie create cu investiții mult mai mici decât au făcut-o pionierii creării acestor arme. Aceste realități ar trebui luate în calculul deciziei SUA de a nu se transforma în 1945 în unicatum, deși pe parcursul Războiului Rece s-a invocat mereu calitatea SUA de ”jandarm mondial”. Probabil autorul are în vedere apariția de noi arme, superioare celor nucleare, cea mai de temut armă fiind superinteligența (vezi aprecierea lui Elon Musk).

Sunt mulți factori care ar putea descuraja o organizație umană cu un anumit avantaj strategic să creeze un unicatum. Printre aceștia putem enumera funcțiile utilitare non-agregate sau legate, regulile de decizie nemaximizatoare, confuzia și nesiguranța, problemele de coordonare sau costurilor asociate unei eventuale lansări. Dar dacă nu am avea de-a face cu o organizație umană, ci cu o superinteligență care a ajuns să aibă un avantaj strategic decisiv? Ar fi factorii menționați mai sus la fel de eficienți în a împiedica o IA să încerce să preia puterea?” (p. 163).

Dar abia spre sfârșitul acestui capitol autorul vine cu argumente clare care nu au permis SUA să se transforme în unicatum în anul 1945/ 1946. Rezum cu cuvintele mele, apoi voi da cuvântul autorului. A fi un unic conducător planetar este extrem de riscant. Practic, toate celelalte țări ale lumii (puternice sau nu) ar coopera având un scop major comun: eliberarea de sub tirania unicatum ului (chiar dacă această ”tiranie” ar fi doar una soft, un gen de jandarm care apără libertățile fiecărei țări în parte, cu excepția accesului la arme nucleare sau mai puternice decât acestea). În al doilea rând, accesul la puterea executivă a unicatum ului ar fi o luptă acerbă între forțele politice competitoare, cu riscul ajungerii la haos, război civil și la pierderea calității de unicatum. Bipolaritatea a fost o perioadă grea și complicată pentru omenire. Acum avem o multipolaritate care face existența relațiilor internaționale și mai complicată. Pacea prin teroarea nucleară este de fapt o luptă surdă și continuă pentru supremație în lume. Tocmai de aici apar și speranțele ca superinteligența puternică să curme aceste ”suferințe” și să contribuie la instaurarea unei luuungi perioade de pace pe Pământ… Adică, n-ar fi rău să fie bine.

Iată și argumentarea autorului: ”O altă problemă potențială care ar putea face grupurile să nu își exploateze poziția strategică dominantă este coordonarea internă. Membrii unei conspirații, adică a unui grup care vrea să ia puterea, nu trebuie să se teamă doar de eventualele conspirații din afară ci și de posibile mici coaliții din interiorÎn sfârșit, vine și chestiunea costului. Chiar dacă Statele Unite și-ar fi putut folosi monopolul nuclear pentru a stabili un unicatum, acest lucru nu s-ar fi putut întâmpla fără costuri suplimentare substanțiale… chiar în timpul monopolului nuclear. ” (p. 164 – 165).

Trecând cam repede de la descrierile realiste la scenariile ușor fanteziste, autorul conchide: ”Dacă acest lucru ar fi făcut cu scopul de a ajuta pe toată lumea, de exemplu, prin înlocuirea rivalității dintre națiuni și a cursei înarmării cu un guvern mondial echitabil, reprezentativ și eficient, nu ar exista motive să se ridice fie și o singură obiecție la procesul de transformare a unui avantaj strategic inițial într-un unicatum.  Aceste considerații arată ca, în viitor, o superinteligență cu un avantaj strategic suficient de substanțial să îl folosească pentru a obține un unicatum. Dezirabilitatea unui astfel de rezultat va depinde, în mod evident, de natura produsului ce va fi creat și de cum anume va arăta inteligența artificială în scenarii alternative multiple.” (p. 165).

Scenariul de viitor al autorului are și urme de credibilitate. La fel cum orașele stat s-au unit în state națiuni mai mari și mai puternice pentru a putea face față concurenței externe, apoi statele națiuni se unesc în state federale și mai puternice (la niveluri continentale) din aceleași motive, la fel este posibil ca aceste uniuni să devină transcontinentale (tot pentru a face față concurenței) și apoi mondiale (pentru a suprima definitiv concurența). Toate imperiile și-au dorit puterea globală (înlăturarea oricărei concurențe), chiar Marx vedea comunismul ca pe un mijloc de a se atinge acest scop: guvernarea mondială unică. Socialistul Hitler a declarat război marxiștilor pentru că aceștia erau principalii lui concurenți în materie de dominație mondială. Bolșevicul Stalin spera să instaureze comunismul în întreaga lume, în numele marxism-leninismului și al păcii mondiale. Cu siguranță, dacă ar fi avut ocazia, Stalin ar fi depus toate eforturile pentru a transforma Rusia în unicatum. Rusia lui Putin speră refacerea imperiului sovietic și a influenței acestuia în lume (https://youtu.be/9nCLjkjlGlw). Cum? Prin amenințări constante cu arma nucleară, dar – nu în cele din urmă – prin investirea masivă în superinteligență. Paradoxal sau nu, China pare a avea destule date pentru a domina întreaga Asie și chiar mai mult decât atât. De ce n-ar visa și China să devină unicatum? Nu întâmplător atenția SUA sub Trump este concentrată acum mai mult asupra Chinei și Asiei, decât asupra Rusiei și Europei. Globalizarea postmodernă a părut că apropie omenirea de acest țel (guvernare mondială și pacea eternă), dar reculul actual înspre naționalism (pe care îl văd dominând lumea cel mult un deceniu) întârzie orice preocupare de a ajunge la o guvernare mondială unică, acceptată de întreaga umanitate. După ce naționalismul își va mai dovedi o dată limitele și minusurile, globalizarea va fi dorită, cedările de suveranitate se vor face cu veselie și speranță, iar lumea va aspira și mai puternic la prosperitate materială și culturală superioare oricărei alte construcții politice. Dar eliminarea concurenței (externe) va elimina (și) un foarte important factor de progres tehnologic. Va fi ca și în răspunsul dat de Radio Erevan unui ascultător care a întrebat dacă este posibil ca Statele Unite să treacă la comunism: ”Da, este posibil, dar ar fi păcat”. (va continua)

Liviu Druguș

Pe mâine!