liviudrugus

Liviu Drugus's blog

Arhivă Categorii:r Articole originale

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 682. Duminică 11 noiembrie 2018. Superinteligența – înger sau demon? (16)


Motto: ”Computerele sunt inutile. Nu-ți oferă decât răspunsuri” (Picasso)

După cum era de așteptat, interesul/ scopul autorului nu este doar acela de a demonstra că superinteligența este posibilă, ci și acela de a vedea/ imagina/ intui/ presupune ce s-ar putea face cu acea superinteligență. Mai exact, cu ce ar ajuta superinteligența omenirea în ansamblul ei și dacă ea ar putea să ducă la obținerea statutului de unicatum de către un stat sau altul, sau – de ce nu? – de către o firmă sau de către o comunitate științifico-tehnologică. Așadar, controlul asupra lumii devine tema centrală a cărții, partea tehnică fiind lăsată pe seama tehnologilor. Pe scurt, avem de-a face cu o carte de managementul puterii politice încredințat aparatelor inteligente care – prin definiție – vor prelua (în sistem de pilot automat) supercomplicatele probleme globale ale omenirii. Am văzut cât de grea a fost decizia SUA de a nu cădea în capcana (tentantă) de a deveni unicatum în 1945-1946. De atunci complexitatea a crescut în proporții geometrice și logaritmice (creșteri superexponențiale) cu rezultatul destul de firesc și anume acela ca oamenii să nu mai poată lua decizii corecte, în cunoștință de cauză și cu evaluarea adecvată a tuturor riscurilor și consecințelor.

Un capitol distinct este dedicat ”Superputerilor cognitive” (pp. 166 – 168). Iată invitația autorului la citirea cu atenție a acestui capitol: ”Să presupunem că ar lua naștere un agent superinteligent și că, dintr-un motiv oarecare, acesta ar dori să preia controlul asupra lumii. Ar putea face asta? În acest capitol vom discuta despre câteva superputeri pe care agentul le-ar putea dezvolta și ce anume ar putea face cu ele. Vom sublinia un scenariu al lansării care va ilustra modul în care un agent superinteligent, care va porni cu un simplu software, ar putea ajunge să stabilească un unicatum. Vom face, de asemenea, câteva considerații cu privire la relația dintre puterea asupra naturii și puterea asupra altor agenți” (p. 166).

Comparativ cu frații noștri întru inteligență vie, animalele, omul a dobândit acele abilități cognitive care i-au permis să: zboare în spațiu, să fabrice bomba cu hidrogeni, să facă inginerie genetică și ferme tehnologice, a inventat computerul, insecticidele și multe altele. Pentru că omul a devenit cu adevărat stăpân peste lucruri și alte ființe vii, geologii numesc această eră cu numele de Antropocen, subliniind încă o dată că întreaga gândire umană este eminamente antropocentrică și antropomorfistă (cu inevitabilele excepții, desigur). Faptul că oamenii au reușit să atingă niveluri de inteligență incomparabil mai mari cu cele din trecutul omenirii, permite extrapolarea acestui trend și ajungerea la concluzia că oamenii viitorului vor fi și mai inteligenți, se vor servi mai bine de descoperirile lor pentru a face noi și noi descoperiri. Mai mult, oamenii vor deschide calea spre noile forme de inteligență (IA). Cu siguranță, nici aceste niveluri nu se vor opri la realizările actuale, ci vor evolua în ritmuri și mai intense. IA ar putea fi puse la lucru pentru a dezvolta strategii politice economice, militare etc. cu performanțe net peste cele pe care le-ar realiza cele mai dezvoltate minți umane. Societățile care vor crea asemenea inteligențe superputernice vor încerca să domine lumea. La fel cum s-a întâmplat cu dinamita și cu energia nucleară, la fel se va întâmpla și cu superinteligențele artificiale, adică vor fi folosite cu osebire în scopuri militare, ofensive sau defensive.

Autorul atrage din nou atenția asupra nocivității antropomorfizării viitoarelor aparate inteligente (poate și în speranța că noile realizări în materie de inteligență să nu fie ”contaminate” cu specificități umane nedorite: agresivitate, lăcomie, trufie, mândrie deșartă etc.). De asemenea, antropomorfizarea viitoarelor superinteligențe ar putea induce ideea creării unei inteligențe germinale (cu capacitate de autoreproducere și cu recalcitranță scăzută). Deocamdată, computerele excelează prin capacitățile tot mai mari de memorare (la fel cum ”tocilarii” se lăudau cu cât de ”inteligenți” sunt, știind tabelul lui Mendeleev pe de rost, toate capitalele statelor lumii cu tot cu numărul populației și alte lucruri ce pot deja fi aflate cu ajutorul calculatoarelor și motoarelor de căutare).

Practic, autorul demonstrează că, la cunoștințele de care dispune astăzi omenirea, se poate adăuga relativ ușor o construcție superinteligentă. Primul experiment sugerat ar fi colonizarea cosmosului cu ființe umanoide cu durată de viață fixată (100 de ani) și cu capacitate de autoreproducere cvasiinfinită. Aș fi intitulat subcapitolul care descrie aceste posibil experiment Geneza sau Facerea.  (va continua)

Liviu Druguș

Reclame

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 681. Sâmbătă 10 noiembrie 2018. Superinteligența – înger sau demon? (15)


Continui cu citatul din autorul norvegian prin care acesta încearcă să explice de ce SUA nu au dorit să ”rezolve” problema unicatum-ului în 1945, deși acest lucru îi stătea pe deplin în putere.

O versiune a planului benign a fost abordată în 1946 de Statele Unite sub forma planului Baruch. Propunerea era ca Statele Unite să renunțe temporar la supremația nucleară. Mineritul de uraniu și thoriu urma să fie pus sub supravegherea unei agenții internaționale, la fel și tehnologia nucleară, sub supravegherea unei agenții care să funcționeze sub auspiciile Statelor Unite. Propunerea presupunea ca membrii permanenți ai Consiliului de Securitate să renunțe la veto ul lor permanent, pentru a împiedica orice putere care ar fi încălcat prevederile acordului să se opună prin veto măsurile de remediere. Stalin, înțelegând că, astfel, Uniunea Sovietică și aliații ei puteau fi cu ușurință învinși la vot în Consiliu, a respins propunerea. O atmosferă reținută, pe fondul unei suspiciuni reciproce, s-a instalat între foștii aliați, o neîncredere care avea să se materializeze curând sub forma Războiului Rece. După cum prevăzuseră mulți, a urmat o cursă extrem de periculoasă a înarmărilor nucleare.” (pp. 162 – 163).

Curios lucru, autorul trece sub tăcere criza rachetelor nucleare provocată de decizia lui Hrușciov de a amplasa aceste arme în Cuba, amenințând direct SUA. De asemenea, este ignorată realitatea creșterii numărului clubului nuclear (Franța, Marea Britanie, China, Rusia, India, Pakistan și Coreea de Nord), dar și a țărilor care sunt în apropierea acestui deziderat (Ucraina, Iran, Israel etc.). Teoretic vorbind, armele nucleare pot fi fie cumpărate de la țări aflate în criză financiară, fie create cu investiții mult mai mici decât au făcut-o pionierii creării acestor arme. Aceste realități ar trebui luate în calculul deciziei SUA de a nu se transforma în 1945 în unicatum, deși pe parcursul Războiului Rece s-a invocat mereu calitatea SUA de ”jandarm mondial”. Probabil autorul are în vedere apariția de noi arme, superioare celor nucleare, cea mai de temut armă fiind superinteligența (vezi aprecierea lui Elon Musk).

Sunt mulți factori care ar putea descuraja o organizație umană cu un anumit avantaj strategic să creeze un unicatum. Printre aceștia putem enumera funcțiile utilitare non-agregate sau legate, regulile de decizie nemaximizatoare, confuzia și nesiguranța, problemele de coordonare sau costurilor asociate unei eventuale lansări. Dar dacă nu am avea de-a face cu o organizație umană, ci cu o superinteligență care a ajuns să aibă un avantaj strategic decisiv? Ar fi factorii menționați mai sus la fel de eficienți în a împiedica o IA să încerce să preia puterea?” (p. 163).

Dar abia spre sfârșitul acestui capitol autorul vine cu argumente clare care nu au permis SUA să se transforme în unicatum în anul 1945/ 1946. Rezum cu cuvintele mele, apoi voi da cuvântul autorului. A fi un unic conducător planetar este extrem de riscant. Practic, toate celelalte țări ale lumii (puternice sau nu) ar coopera având un scop major comun: eliberarea de sub tirania unicatum ului (chiar dacă această ”tiranie” ar fi doar una soft, un gen de jandarm care apără libertățile fiecărei țări în parte, cu excepția accesului la arme nucleare sau mai puternice decât acestea). În al doilea rând, accesul la puterea executivă a unicatum ului ar fi o luptă acerbă între forțele politice competitoare, cu riscul ajungerii la haos, război civil și la pierderea calității de unicatum. Bipolaritatea a fost o perioadă grea și complicată pentru omenire. Acum avem o multipolaritate care face existența relațiilor internaționale și mai complicată. Pacea prin teroarea nucleară este de fapt o luptă surdă și continuă pentru supremație în lume. Tocmai de aici apar și speranțele ca superinteligența puternică să curme aceste ”suferințe” și să contribuie la instaurarea unei luuungi perioade de pace pe Pământ… Adică, n-ar fi rău să fie bine.

Iată și argumentarea autorului: ”O altă problemă potențială care ar putea face grupurile să nu își exploateze poziția strategică dominantă este coordonarea internă. Membrii unei conspirații, adică a unui grup care vrea să ia puterea, nu trebuie să se teamă doar de eventualele conspirații din afară ci și de posibile mici coaliții din interiorÎn sfârșit, vine și chestiunea costului. Chiar dacă Statele Unite și-ar fi putut folosi monopolul nuclear pentru a stabili un unicatum, acest lucru nu s-ar fi putut întâmpla fără costuri suplimentare substanțiale… chiar în timpul monopolului nuclear. ” (p. 164 – 165).

Trecând cam repede de la descrierile realiste la scenariile ușor fanteziste, autorul conchide: ”Dacă acest lucru ar fi făcut cu scopul de a ajuta pe toată lumea, de exemplu, prin înlocuirea rivalității dintre națiuni și a cursei înarmării cu un guvern mondial echitabil, reprezentativ și eficient, nu ar exista motive să se ridice fie și o singură obiecție la procesul de transformare a unui avantaj strategic inițial într-un unicatum.  Aceste considerații arată ca, în viitor, o superinteligență cu un avantaj strategic suficient de substanțial să îl folosească pentru a obține un unicatum. Dezirabilitatea unui astfel de rezultat va depinde, în mod evident, de natura produsului ce va fi creat și de cum anume va arăta inteligența artificială în scenarii alternative multiple.” (p. 165).

Scenariul de viitor al autorului are și urme de credibilitate. La fel cum orașele stat s-au unit în state națiuni mai mari și mai puternice pentru a putea face față concurenței externe, apoi statele națiuni se unesc în state federale și mai puternice (la niveluri continentale) din aceleași motive, la fel este posibil ca aceste uniuni să devină transcontinentale (tot pentru a face față concurenței) și apoi mondiale (pentru a suprima definitiv concurența). Toate imperiile și-au dorit puterea globală (înlăturarea oricărei concurențe), chiar Marx vedea comunismul ca pe un mijloc de a se atinge acest scop: guvernarea mondială unică. Socialistul Hitler a declarat război marxiștilor pentru că aceștia erau principalii lui concurenți în materie de dominație mondială. Bolșevicul Stalin spera să instaureze comunismul în întreaga lume, în numele marxism-leninismului și al păcii mondiale. Cu siguranță, dacă ar fi avut ocazia, Stalin ar fi depus toate eforturile pentru a transforma Rusia în unicatum. Rusia lui Putin speră refacerea imperiului sovietic și a influenței acestuia în lume (https://youtu.be/9nCLjkjlGlw). Cum? Prin amenințări constante cu arma nucleară, dar – nu în cele din urmă – prin investirea masivă în superinteligență. Paradoxal sau nu, China pare a avea destule date pentru a domina întreaga Asie și chiar mai mult decât atât. De ce n-ar visa și China să devină unicatum? Nu întâmplător atenția SUA sub Trump este concentrată acum mai mult asupra Chinei și Asiei, decât asupra Rusiei și Europei. Globalizarea postmodernă a părut că apropie omenirea de acest țel (guvernare mondială și pacea eternă), dar reculul actual înspre naționalism (pe care îl văd dominând lumea cel mult un deceniu) întârzie orice preocupare de a ajunge la o guvernare mondială unică, acceptată de întreaga umanitate. După ce naționalismul își va mai dovedi o dată limitele și minusurile, globalizarea va fi dorită, cedările de suveranitate se vor face cu veselie și speranță, iar lumea va aspira și mai puternic la prosperitate materială și culturală superioare oricărei alte construcții politice. Dar eliminarea concurenței (externe) va elimina (și) un foarte important factor de progres tehnologic. Va fi ca și în răspunsul dat de Radio Erevan unui ascultător care a întrebat dacă este posibil ca Statele Unite să treacă la comunism: ”Da, este posibil, dar ar fi păcat”. (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 680. Vineri 9 noiembrie 2018. Superinteligența – înger sau demon? (14)


După aceste lecturi textul din cartea lui Bostrom va apărea într-o lumină mai clară. Voi reproduce in extenso textul care oferă câteva informații legate de răspunsul la întrebarea: de ce nu au folosit SUA bomba atomică pentru a deveni atunci, în 1945, un unicatum, scutind SUA de uriașele cheltuieli militare din perioada Războiului Rece pentru a reuși, în final, să distrugă totalitarismul comunist rus și o mare parte a ”lagărului socialist”.

Va dori un proiect care a obținut un avantaj strategic decisiv să-l folosească pentru a obține un unicatum? Să luăm în considerare o situație vag asemănătoare cu aceasta. Statele Unite au dezvoltat armele nucleare în 1945. Au fost singura putere nucleară, până când Uniunea Sovietică a construit, pe cont propriu, bomba atomică, în 1949. În acest interval – și poate chiar o perioadă scurtă după aceea – Statele Unite au avut posibilitatea de obține un avantaj militar decisiv. Statele Unite s-ar fi putut folosi de puterea pe care o aveau pentru a crea un unicatum. O cale pentru a realiza aceasta ar fi fost aceea de a se înhăma la un efort susținut pentru a-și desăvârși arsenalul nuclear și de a amenința apoi (sau chiar de a pune în practică, dacă ar fi fost necesar) că vor distruge orice facilitate industrială ce ar putea fi folosită într-un proiect nuclear incipient, în orice țară dispusă să facă așa ceva. O variantă mult mai benignă, care ar avea șanse să funcționeze, ar fi aceea de a negocia, folosind puterea nucleară pe post de atu, formarea unui guvern internațional – un fel de Națiunile Unite în care nu există veto, cu un monopol  ( L.D: autorul norvegian cade în capcana utilizării cuvântului ”monopol” – adică ”unic vânzător”, ca sinonim pentru unicatum) nuclear și cu un mandat de a face orice este nevoie pentru a împiedica un alt stat să-și dezvolte propriile tehnologii nucleare. Ambele abordări au fost propuse la vreme aceea. Varianta mai dură, aceea de a amenința sau de a porni un atac, a fost susținută de intelectuali de marcă, precum Bertrand Russell (care fusese prezent în campaniile antirăzboi și care avea să facă decenii întregi de campanie antinucleară)  și unul dintre arhitecții strategiei nucleare a Statelor Unite). Este, probabil, un semn de progres faptul că amenințarea cu un atac nuclear pare, astăzi, o idee prostească sau imorală în cel mai înalt grad.” (p. 162).  

Fac o paranteză aici, pornind de la ultima propoziție a citatului de mai sus. Deși Bostrom încearcă atenuarea afirmației sale (prin inserarea cuvintelor ”probabil” și ”pare”) cu privire la categorisirea amenințării cu folosirea armei atomice drept ”o idee prostească sau imorală”, este notorie amenințarea folosirii cu arma nucleară de către Rusia chiar începând cu instalarea la conducerea acestui stat a lui Vladimir Putin. La o simplă căutare pe Google cu item-ul ”Amenințarea nucleară a Rusiei lui Putin” apare o listă de articole și trimiteri care conține peste jumătate de milion de trimiteri! Unul dintre cele mai recente este și cel mai amenințător dintre toate: https://evz.ro/rusia-joaca-tare-si-ameninta-sua-cu-apocalipsa-nucleara.html . Dar și cel puțin încă zece titluri pot fi citite pentru a ne convinge că folosirea amenințării cu arma nucleară este una reală și cu probabilități de înfăptuire tot mai ridicate (în pofida precizărilor făcute de președintele rus că țara sa nu va folosi niciodată prima arma nucleară). Prostească sau nu, amenințarea cu arme nucleare este una reală și imposibil de ignorat. De asemenea, cursa înarmărilor nucleare (extrem de costisitoare) și compararea arsenalelor nucleare și a numărului (mereu sporit) de distrugeri succesive ale Pământului este, fără nicio îndoială, un exemplu clar și concret de prostie omenească. Aproape fără să vrem, alternativa la folosirea inteligențelor umane pentru distrugerea de un număr cât mai mare de ori a planetei Pământ este, ați ghicit, superinteligența! (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 679. Joi 8 noiembrie 2018. Superinteligența – înger sau demon? (13)


După ce am fost ”chinuiți” pe parcursul a peste 150 de pagini cu probleme tehnice, conceptuale, logice, futuristice etc. legate de superinteligența viitoare, treptat-treptat, autorul (re)devine antropocentrist și discută consecințele umane (individuale, de grup și la nivel de umanitate) ale dezvoltării superinteligenței. Comparația IA cu bomba atomică (celebrul Elon Mask a apreciat potențialul IA drept mai periculos decât A-bomb) continuă  în carte și, neașteptat pentru mine, autorul îmi dă un răspuns la o întrebare la care nu am găsit (până acum) decât răspunsuri fanteziste, teziste sau ideologice. Am formulat această întrebare într-o postare de pe acest blog: cum se explică faptul, unic în istorie, ca o țară ca SUA, învingătoare în ambele războaie mondiale, puternică economic și militar la sfârșitul celui de al doilea război mondial, deținătoarea celei mai puternice arme din lume să nu fie tentată să devină ”unicatum”, respectiv să anihileze toate amenințările potențiale de oriunde ar veni acestea?

Pentru a înțelege răspunsul oferit de Bostrom este recomandabilă cunoașterea istoricului acestei arme extrem de puternice. Bomba  (https://ro.wikipedia.org/wiki/Arm%C4%83_nuclear%C4%83) a fost inițiată, realizată și folosită ca reacție la creșterea amenințărilor militare germane – la începutul războiului mondial –  și nipone – la sfârșitul războiului mondial. Proiectul Manhattan a început la 2 august 1939, adică cu o lună înainte de declanșarea războiului mondial). Despre ”părintele bombei atomice”  (și suspiciunea că acesta ar fi furnizat rușilor informații pentru obținerea bombei atomice) aflăm din https://adevarul.ro/locale/focsani/cine-fost-parintele-bombei-atomice-am-devenit-moartea-distrugatorul-lumilor-1_5a2274a35ab6550cb8c39554/index.html și https://istoriiregasite.wordpress.com/2010/05/10/inventii-in-istorie-bomba-atomica-i/  și https://istoriiregasite.wordpress.com/2010/05/10/inventii-in-istorie-bomba-atomica-a-doua-parte/ . Mai puțin cunoscută este preocuparea lui Ceaușescu de a obține și deține arma nucleară (https://evz.ro/ceausescu-bomba-nucleara.html). Declanșarea loviturii de stat din decembrie 89, cu sprijin logistic sovietic, a fost impusă, se spune în articol, și legat de riscul ca Ceaușescu să fabrice această armă. Vizita sa în Iran este o dovadă în acest sens. Interesante sunt și informațiile legate de producerea bombei atomice în URSS: http://www.ziare.com/international/rusia/prima-bomba-atomica-a-urss-detonata-acum-61-de-ani-1038311  Răspunsurile posibile la întrebarea mea – în episodul următor. (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 678. Miercuri 7 noiembrie 2018. Superinteligența – înger sau demon? (12)


Deși ieșirea din antropocentrism/ antropomorfism părea a fi o sugestie rezonabilă aptă să ajute la acceptarea faptului că ființa umană va mai evolua și va mai suferi schimbări majore în timp, Nick Bostrom continuă să gândească (nici n-ar avea cum altfel) în termeni specifici umani contemporani. Astfel, autorul norvegian își imaginează că trecerea la superinteligență va face posibilă apariția mai multor centre de superinteligență concurente și aflate într-o dispută pentru supremație. Într-adevăr, omenește vorbind, lucrurile așa pot sta, dar încă nu putem empatiza cu viitoarele superinteligențe create de niște (alte) superinteligențe. În termeni politici, problema se pune și la modul: cine va conduce lumea superinteligentă? Va fi un singur centru de putere sau va fi o lume multipolară cu superinteligențe care să încerce să blocheze alte superinteligențe pentru a domina în mod absolut lumea (oamenii nedispărând încă)? Dacă așa vor sta lucrurile (și e destul de probabil să se întâmple astfel) atunci este cât se poate de firesc să ne imaginăm că oricare dintre puterile lumii va investi masiv în obținerea superinteligenței pe care să o utilizeze în eternul vis alt marilor puteri – dominația mondială absolută și eternă. Probabilitatea (ridicată) ca marile puteri să facă asemenea investiții justifică substanțial ipoteza că superinteligențele vor apărea mai degrabă în viitorul apropiat decât în viitorul îndepărtat. În fond, tocmai lupta de concurență pentru supremație va produce marile schimbări de care mulți oameni se tem. Nu întâmplător, Elon Musk, fondator al firmelor SpaceX și Tesla a declarat că ”Trebuie să fim foarte atenți cu IA. Are potențialul de a fi mult mai periculoasă decât bomba atomică”. Faptul că bomba atomică era un fel de garant al puterii mondiale (la sfârșitul războiului mondial II) explică faptul că tot mai multe țări dețin această armă, iar cei care o dețin fac tot posibilul ca nici o altă țară să nu mai intre în clubul nuclear. La fel se va întâmpla, foarte probabil, și cu superinteligența (pe care aș putea-o numi ”bombă informațională” supremă). Nick Bostrom ia în calcul aceste posibilități ca o singură putere să dețină o superinteligență puternică, putere pe care autorul o numește unicatum (indiferent de natura acelei puteri: democrație, dictatură etc.).  (Recunosc, eram tentat să numesc această putere unică monopol, dar monopol înseamnă – strict etimologic – un vânzător unic). Evident, se va duce o luptă, un război informațional pentru atragerea inteligențelor umane în proiecte grandioase care să asigure investitorilor avantaje comparative clare. Oarecum surprinzător (și fără să indice vreo sursă!) Bostrom scrie că ”în acest moment, serviciile secrete nu par să fie foarte interesate de de identificarea programelor de IA sau a altor forme de potențiale de apariție a superinteligenței explozive. Dacă nu acordă o (prea mare) inteligență posibilității acesteia, asta este, în parte din cauza percepției împărtășite că o explozie  a superinteligenței nu este iminentă” (p. 157). Ipoteza mea este, în acest caz, una contrară. Intuitiv vorbind, orice serviciu de intelligence va dezvolta o industrie proprie de inteligență (fie și pentru simplul motiv că chiar asta este natura serviciilor de intelligence: lucrul cu inteligențele și cu informațiile). Desigur, deciziile legate de aceste superinvestiții aparțin politicului și grupurilor de interese care îl definesc. Tot subiectiv, cred că serviciile de intelligence au și capacitatea de a consolida gradul de recalcitranță față de IA, depistând și sabotând orice proiecte de creare a superinteligenței de către oricare alt stat sau grup de state. (Foarte probabil un proiect de IA necesită colaborarea mai multor state puternice). Această parte a cărții despre mixul politic-științific-militar este foarte interesantă și poate fi o cheie pentru înțelegerea viitoarelor evoluții ale omenirii în această direcție (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 677. Marți 6 noiembrie 2018. Superinteligența – înger sau demon? (11)


De fapt, nu atât acceptarea sau reticența față de IA în general sunt temele care interesează cel mai mult pe omul conștient de defectele sale (dar care acceptă greu ideea că vreodată, în viitor, specia din care face parte el și urmașii săi va suferi schimbări radicale), ci CÂND și CU CE VITEZĂ se va produce marea schimbare. Mulți dintre scepticii care consideră că a citi o carte despre IA echivalează cu a citi un roman SF au această atitudine motivată de presupunerea că schimbarea constituției societăților în care trăiesc ar avea loc aievea, sub ochii lor. În general există mari reticențe la schimbare (la majoritatea semenilor noștri), dar o schimbare radicală și rapidă este respinsă, în general, de plano. Evident, Nick Bostrom nu face parte dintre scepticii de serviciu, dar nici dintre optimiștii utopiști care văd dinamica schimbării pe decursul câtorva ani sau decenii. Mai mult, autorul nu ocolește discuția despre CUM și CU CE VITEZĂ ar putea avea loc schimbarea (dorită sau nedorită).

Răspunsul său este că nimeni nu poate prezice viitorul, cu atât mai mult când este vorba despre imprevizibila, instabila și insațiabila ființă numită om. În loc de preziceri bazate de conjuncturi astrale sau alte bazaconii, el avansează ipoteze și le alocă acestora grade de probabilitate de a se înfăptui într-o marjă oarecare de timp. Totodată, discuția despre CÂND este dusă în termeni de ”putere de optimizare” și ”gradul de reticență a sistemului”. Cât despre viteza de schimbare, autorul are de înclinat balanța presupunerilor între ”schimbare bruscă, explozivă” și ”schimbare lentă, progresivă”. Oricare ar fi opțiunile autorului sau ale cititorilor, viziunea concluzivă a lui Nick Bostrom este una fermă și clară: ”mașinile vor depăși, până la urmă, oamenii în privința inteligenței generale” (p. 122). Tot în cheia certitudinilor înscrie autorul și faptul că odată realizată superinteligența (nu știm când: poate decenii, poate secole), trecerea la superinteligența puternică se va produce foarte rapid (lucru plauzibil, devreme ce superinteligența va amplifica enorm orice rezultate anterior obținute). Prin superinteligență puternică autorul înțelege acel nivel de superinteligență care va depăși net nivelul de inteligență al omenirii.

Cât despre viteza de producere a schimbării radicale, autorul imaginează trei scenarii posibile: o tranziție lentă (decenii sau secole), una rapidă  (minute, ore sau zile) și una moderată (luni, ani). Rata de modificare a inteligenței este calculabilă, susține Bostrom ca un raport între Puterea de optimizare și Nivelul de recalcitranță al oamenilor/ sistemului. Este interesant să urmărim raționamentul avansat de Eliezer Yudkowsky (specialist în IA) în legătură cu viitorul IA: ”impresia că sistemul de IA a făcut un salt în materie de inteligență ar putea fi un simplu rezultat al antropomorfismului, adică al tendinței umane de a-i vedea pe Einstein și pe prostul satului drept cele două extreme ale inteligenței, mai degrabă decât ca pe niște puncte greu de discernut pe scara generală a inteligențelor. Tot ceea ce este mai prost decât un om prost ne pare, pur și simplu, prost. Unii își imaginează ”săgeata inteligenței artificiale” urcând scara inteligenței, trecând de șoareci și de cimpanzei, considerând, în continuare, că IA este ”proastă” pentru că nu poate vorbi în limbi străine sau scrie lucrări științifice, pentru ca apoi acest sistem să parcurgă distanța dintre un idiot și Einstein în cursul unei singure luni sau al unei perioade comparabile” (p. 135). Autorul descrie, pe o scală a timpului, distanțele în materie de inteligență dintre șoarece, cimpanzeu, prostul satului și Einstein. Distanța dintre nivelul de inteligență al unui șoarece și cel al unui cimpanzeu este (grafic) sub un centimetru, iar distanța dintre cimpanzeu și prostul satului este ceva mai mult de un centimetru, în timp ce distanța dintre prostul satului și Einstein este de un milimetru. În continuare, rămân, pe scala timpului foarte mulți centimetri de parcurs. Rostul acestui exemplu este acela de a ieși din antropocentrismul (autorul vorbește despre antropomorfism) care (încă) ne caracterizează. În ultimă instanță, acceptarea ieșirii din antropocentrism înseamnă primul pas în acceptarea realității viitoare în care omul va ocupa, și el, un loc oarecare pe scara evoluției inteligenței generale. (va continua).

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 676. Luni 5 noiembrie 2018. Superinteligența – înger sau demon? (10)


Pentru a nu lăsa loc la speculații și interpretări nefondate legate de șansele superinteligenței de a se substitui integral omului, Nick Bostrom face câteva noi precizări legate de conceptul în cauză. Dar, oricum s-ar defini și descrie superinteligența viitoare, N.B. are deja un crez pe care încearcă să-l apere pe parcursul unui întreg capitol. Ipoteza de la care pornește autorul este convingerea sa că substratul artificial are un potențial de dezvoltare superior celui biologic. ”Mașinile au avantaje structurale care le fac net superioare. Oamenii biologici, chiar în varianta îmbunătățită, vor fi depășiți. ” (p. 104). Noua detaliere a conținutului conceptului de superinteligență constă în precizarea diferențelor care există între cele trei forme principale ale superinteligenței: superinteligența-viteză, superinteligența colectivă și superinteligența calitativă. (dacă ar fi să rezum în limbaj obișnuit cele trei forme ale superinteligenței aș spune că superinteligența înseamnă să gândești bine, repede și …nu singur). Sigur, definirea celor trei forme este nu doar imperativă, ci și executorie pentru autorul norvegian. Astfel, superinteligența-viteză este un intelect care poate face tot ce face o minte umană, dar mult mai repede. De ex., citirea unei cărți în câteva secunde. Superinteligența colectivă este  un sistem compus dintr-un număr de intelecte mai mici, astfel încât inteligența generală a sistemului o depășește substanțial pe aceea a oricărui sistem cognitiv. Ex. de superinteligențe colective: lucrul în echipe, rețelele sociale, grupurile de lobby, comunitățile academce, statele și, inevitabil, întreaga umanitate. La un nivel foarte ridicat de integrare a superinteligenței colective, aceasta se transformă în superinteligență calitativă, respectiv o calitate a superinteligenței care nu poate fi asemuită cu cea a inteligenței umane, depășind-o.

Pentru scepticii mai lipsiți de imaginație autorul aduce o serie de argumente în favoarea avantajelor pe care le au inteligențele artificiale de tip hardware. Le amintesc doar, iar cei interesați de conținutul concret al argumentării, le pot găsi în carte: 1) caracterul editabil; 2) caracterul duplicabil; 3) coordonarea scopurilor; 4) partajarea amintirilor; 5) noi module, modalități și algoritmi.   (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 675. Duminică 4 noiembrie 2018. Intermezzo teatral ieșean: ”Memoria apei”


Ne naștem apă și murim pământ. Viața omului este mai mult sau mai puțin noroi, mai mult (în copilărie) apă pură sau (la bătrânețe) mai mult uscătură impură. Viața ca o apă, ar putea fi o metaforă sugestivă pentru existența umană vie. Fluidă, curgătoare, unduitoare, apoasă, dar memoratoare de informații până la capăt: deopotrivă apa și viața omului.  Nu întâmplător, creierul uman conține cca 80 % apă: fără apă memorarea este imposibilă. Ai probleme cu memoria? Înseamnă că nu te hidratezi corespunzător. De la antici știm că  lichidele vindecă mai bine decât solidele (de aceea unii beau solid). Te doare capul? Fă sex și-ți trece. Fiind compus din multă apă (80%), creierul este sediul memoriei. Peste 80% dintre bolile oamenilor se datorează apei. La naștere copilul are 75% apă. La doar un an după naştere, corpul unui bebeluş conţine apă în proporţie de doar 65%. La maturitate, bărbaţii sunt 60% apă, iar femeile 55%. Cât despre persoanele în vârstă, ele conţin doar 50% apă. Memoria – cam tot pe jumătate. Suntem, în timpul vieții, un ansamblu de mici pacheţele de apă uşor sărată precum marea din care am ieşit. Doar că, pe măsură ce îmbătrânim, apa se evaporă şi dispare, iar odată cu ea ne ducem şi noi. Despre tragicomicul vieții putem afla din proprie experiență sau din povestirile altora. Preferabil să privim – ca la teatru – viața altora și să ne gândim și la a noastră. Dacă nu luăm lucrurile prea în serios viața ne apare nu doar suportabilă, ci chiar amuzantă și agreabilă. Rostul celor scrise până aici va apărea mai clar abia după ce ați ajuns la capătul textului și al linkului atașat și veți reciti acest intro.

 

Imaginați-vă o casă și o cameră cu un minimum necesar (un pat, o masă, două scaune și un balansoar), la malul mării. O femeie se trezește în vuietul furtunii care anunța un posibil sfârșit: reintrarea oamenilor în ciclul marin-terestru infinit. Furtuna va mătura (vreodată) tot ce era viu și/ sau construit de oameni, singura care își va aminti de pasagerele existențe umane fiind apa mării. Camera pe care v-ați imaginat-o deja a cunoscut viața unui cuplu care a avut trei copii (trei fete). Tatăl era deja dispărut, iar mama fetelor abia murise. Între evenimentul anunțării morții bătrânei și ducerea sicriului la cimitir se derulează două ore de evenimente intense, vii, dramatice, comice și uneori prozaic-poetice. Amintirile din copilărie se mixează dramatic cu măruntele dar esențialele fapte de viață umană: băutură, amintiri, ceva droguri, povești cu temă sexuală/ maternă/ paternă, planuri de viitor, încurcături amoroase și banale fapte de supraviețuire. Părinți care cred că au făcut totul pentru copii și copii care cred că părinții lor n-au făcut nimic (sau insuficient) pentru ei. Un scenariu de o simplitate și o complexitate incredibile. Viața – pe cât de densă, pe atât de apoasă sau siropoasă. Și pentru ca toate aceste tablouri ale vieții cotidiene să poarte un nume (adecvat) li s-a spus simplu: ”Memoria apei”.

 

Spectacolul de teatru cu acest nume se joacă din aprilie 2016 la TN București în regia lui Erwin Șimșensohn, și de două zile la TN Iași, în regia Irinei Popescu-Boieru. Distribuția: Haruna Condurache, Catinca Tudose, Irina Răduțu Codreanu, Livia Iorga, Monica Bordeianu, Radu Ghilaș, Daniel Busuioc. Scenografia spectacolului aparține Rodicăi Arghir. Spectacolul este bazat pe un excelent text căruia i s-a decernat Premiul Laurence Olivier pentru cea mai bună comedie, în 2000. Despre spectacolul ieșean a scris deja presa: https://www.cotidianul.ro/memoria-apei-cea-de-a-treia-premiera-a-stagiunii-nationalului-iesean/ . Subiectiv, eu am văzut totul la superlativ și felicit cu sinceritate totală actorii, regizoarea și scenografa. Recomand călduros un spectacol profund uman: de la tristețea dureroasă la irepresibilul râs sănătos, de la banalitatea existențială la filosofia existențialistă pentru uzul și gustul tuturor.

Liviu Druguș

Pe mâine!

 

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 674. Sâmbătă 3 noiembrie 2018. Superinteligența – înger sau demon? (9)


Căile de obținere a inteligenței artificiale sunt, deocamdată, dependente de nivelul de inteligență al celor care propun o cale sau alta. Nu vor întârzia să apară, fără îndoială, proiecte fanteziste, utopiste, nerealiste demne de scenarii de film SF. Spiritul critic al autorului cărții ”Superinteligența” îl face să nu îmbrățișeze entuziasmul unora care văd deja orice om bolnav ”reparat” cu tot soiul de implanturi, proteze și conexiuni la calculatoare de mare putere. (S-ar putea ca recentele succese în ameliorarea vieții unor paraplegici să-i mai atenueze pesimismul).

O altă cale către superinteligență ar consta în ameliorarea continuă a rețelelor și a organizațiilor care leagă minți individuale între ele, dar și cu diferite programe sau cu produse realizate de om. Aici, ideea nu este de a îmbunătăți rezultatele unor indivizi, pentru a-i face superinteligenți, ci, mai degrabă, aceea că un sistem compus din indivizi organizați astfel ar putea atinge o formă de superinteligență numită… ”superinteligență colectivă” ” (p. 98).  Pilda cu Moș Ion Roată și Unirea ne apare ca o metaforă potrivită ideii de a conexa mințile individuale într-o rețea care să fie cu mult mai inteligentă decât suma inteligențelor individuale care o compun. Foarte posibil, nu vor întârzia să apară noi ideologi ai colectivismului văzut ca o formă superioară competiției acerbe între indivizi.

Mărturisesc aici că prin anii 80, încântat de noile tehnologii de comunicare și de prelucrare a datelor (apăruseră deja Centrele Teritoriale de Calcul, care sintetizau informații, calculau trenduri – din păcate inutile în fața deciziilor politice arogante și aberante) așadar, prin anii 80 mă gândeam că un sistem de informare rapid și corect ar putea face o mai bună planificare, o corelare a dorințelor cu posibilitățile reale, o reducere a birocrației și a disfuncționalităților în aprovizionare. Sfânta naivitatea provenea din necunoașterea concretă a modului cum funcționează și se autoreglează piețele libere (crizele fiind partea a procesului de autoreglare). Legat de posibilitatea ameliorării vieții oamenilor în comunism prin tehnologii avansate circula și pe la noi un banc (importat de la ruși). Partidul unic, în dorința sa umanistă de a îmbunătăți continuu viața oamenilor muncii a găsit soluția pentru ca oamenii să nu mai piardă timpul pe la cozi: se vor pune la dispoziție avioane care îi vor transporta pe oameni în localitățile unde se ”băgau” la magazine produse alimentare din belșug. (Pentru România bancul nu era prea relevant, date fiind distanțele nu prea mari între orașe, dar oricum ceva zâmbete amare tot scotea…). Naivitatea mea din anii 80, o regăsesc însă și la gânditori din țări capitaliste avansate (evident, dintre cei convinși că dirijismul/ etatismul este mai bun decât liberalismul). Bostrom amintește acest mod de gândire: ”…anumite piețe ar putea căuta modalități de a prevedea ce se întâmplă și și-ar putea îmbunătăți prognozele privitoare la chestiuni importante de ordin social și științific” (p. 99). Cu simțul umorului la purtător, Bostrom invocă utilitatea perfecționării (cu ajutorul IA) a detectoarelor de minciuni (chiar în aceste zile în care guvernele unor țări se opun imigrației masive și necontrolate au anunțat că au pus la dispoziția polițiilor de frontieră softuri cu detectoare de minciuni pentru a depista criminalii, teroriștii și răufăcătorii în general). Dar tot el adaugă: ”Detectarea autoamăgirii ar fi încă și mai folositoare” (pp. 99-100). (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 674. Sâmbătă 3 noiembrie 2018. Superinteligența – înger sau demon? (9)


Căile de obținere a inteligenței artificiale sunt, deocamdată, dependente de nivelul de inteligență al celor care propun o cale sau alta. Nu vor întârzia să apară, fără îndoială, proiecte fanteziste, utopiste, nerealiste demne de scenarii de film SF. Spiritul critic al autorului cărții ”Superinteligența” îl face să nu îmbrățișeze entuziasmul unora care văd deja orice om bolnav ”reparat” cu tot soiul de implanturi, proteze și conexiuni la calculatoare de mare putere. (S-ar putea ca recentele succese în ameliorarea vieții unor paraplegici să-i mai atenueze pesimismul).

O altă cale către superinteligență ar consta în ameliorarea continuă a rețelelor și a organizațiilor care leagă minți individuale între ele, dar și cu diferite programe sau cu produse realizate de om. Aici, ideea nu este de a îmbunătăți rezultatele unor indivizi, pentru a-i face superinteligenți, ci, mai degrabă, aceea că un sistem compus din indivizi organizați astfel ar putea atinge o formă de superinteligență numită… ”superinteligență colectivă” ” (p. 98).  Pilda cu Moș Ion Roată și Unirea ne apare ca o metaforă potrivită ideii de a conexa mințile individuale într-o rețea care să fie cu mult mai inteligentă decât suma inteligențelor individuale care o compun. Foarte posibil, nu vor întârzia să apară noi ideologi ai colectivismului văzut ca o formă superioară competiției acerbe între indivizi.

Mărturisesc aici că prin anii 80, încântat de noile tehnologii de comunicare și de prelucrare a datelor (apăruseră deja Centrele Teritoriale de Calcul, care sintetizau informații, calculau trenduri – din păcate inutile în fața deciziilor politice arogante și aberante) așadar, prin anii 80 mă gândeam că un sistem de informare rapid și corect ar putea face o mai bună planificare, o corelare a dorințelor cu posibilitățile reale, o reducere a birocrației și a disfuncționalităților în aprovizionare. Sfânta naivitatea provenea din necunoașterea concretă a modului cum funcționează și se autoreglează piețele libere (crizele fiind partea a procesului de autoreglare). Legat de posibilitatea ameliorării vieții oamenilor în comunism prin tehnologii avansate circula și pe la noi un banc (importat de la ruși). Partidul unic, în dorința sa umanistă de a îmbunătăți continuu viața oamenilor muncii a găsit soluția pentru ca oamenii să nu mai piardă timpul pe la cozi: se vor pune la dispoziție avioane care îi vor transporta pe oameni în localitățile unde se ”băgau” la magazine produse alimentare din belșug. (Pentru România bancul nu era prea relevant, date fiind distanțele nu prea mari între orașe, dar oricum ceva zâmbete amare tot scotea…). Naivitatea mea din anii 80, o regăsesc însă și la gânditori din țări capitaliste avansate (evident, dintre cei convinși că dirijismul/ etatismul este mai bun decât liberalismul). Bostrom amintește acest mod de gândire: ”…anumite piețe ar putea căuta modalități de a prevedea ce se întâmplă și și-ar putea îmbunătăți prognozele privitoare la chestiuni importante de ordin social și științific” (p. 99). Cu simțul umorului la purtător, Bostrom invocă utilitatea perfecționării (cu ajutorul IA) a detectoarelor de minciuni (chiar în aceste zile în care guvernele unor țări se opun imigrației masive și necontrolate au anunțat că au pus la dispoziția polițiilor de frontieră softuri cu detectoare de minciuni pentru a depista criminalii, teroriștii și răufăcătorii în general). Dar tot el adaugă: ”Detectarea autoamăgirii ar fi încă și mai folositoare” (pp. 99-100). (va continua)

Liviu Druguș

Pe mâine!