liviudrugus

Liviu Drugus's blog

Arhive etichete: Liviu Druguș

Tablouri culturale(post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 690. Luni 19 noiembrie 2018.Superinteligența – înger sau demon? (23)



Voi încheia această pseudorecezie la cartea lui Nick Bostrom, Superinteligența cu câteva concluzii ale autorului și câteva remarci ale mele.

Perorând pe tema riscurilor și a necesității controlului uman asupra procesului de creare a unor superinteligențe și apoi a superinteligențelor însele, autorul atinge clasica problemă a libertății umane de a lăsa indivizii să facă ce vor, dacă asta aduce profit și nu deranjează (imediat pe nimeni). Apare, inevitabil problema valorilor și a posibilității de a avea superinteligențe care să discearnă și să aleagă între valori, apoi să-și propună ele însele valori care să nu dăuneze speciei umane.

Invocând principiul binelui comun, autorul afirmă, concluziv, că ”Superinteligența ar trebui dezvoltată doar în beneficiul întregii umanități și doar în serviciul unor idei etice larg răspândite” (p. 444). Cu siguranță tot astfel au gândit și cei care au descoperit dinamita și fisiunea nucleară…

Câteva remarci personale. Cred că autorul ar fi putut scrie o carte de câteva zeci de mii de pagini pe această temă fără să fi epuizat subiectul. Vastitatea acestuia provine și din incertitudinile momentului, din complexitatea crescândă a lumii actuale și din multitudinea variantelor posibile și probabile de a avea, mai devreme sau mai târziu, o superinteligență, un unicatum, apoi mai multe superinteligențe și lupta pentru recucerirea/ dobândirea stării de unicatum.Tocmai din aceste motive cred că lucrarea ar fi avut mult mai mult de câștigat dacă ar fi fost mult mai concisă și clară. Pe parcursul lecturii se poate sesiza indecizia autorului dacă să scrie o lucrare de specialitate sau una de știință popularizată. Le-a făcut pe amândouă, pierzând, cred cititorii de știință popularizată care vor vedea pagini cu formule și tabele, dar și pe unii specialiști doritori de idei novatoare în domeniu care se vor plictisi citind divagațiile filosofice, economice, sociologice și politologice ale autorului.Nu în ultimul rând, limbajul folosit este unul care nu este pe înțelesul tuturor. Or, ”Bine știm că cuvintele trebuie să fie ca banii, că banii aceia sunt buni carii îmblă în toate țările,așea și cuvintele acealea sunt bune carele le înțeleg toți” (Mitropolit Simion Ștefan, Prefață la Noul Testament dela Bălgrad, 1648).

Dau, în final,cuvântul (concluziv) al autorului: ”În raport cu posibilitatea apariției inteligenței artificiale, noi, oamenii, suntem asemenea unor copii mici care se joacă cu o bombă. Cam așa arată decalajul dintre puterea jucăriei noastre și imaturitatea comportamentului nostru. Superinteligența este o provocare pentru care nu suntem pregătiți încă și pentru care nu vom fi pregătiți pentru mult timp de acum încolo. Nu știm când se va produce apariția ei explozivă, deși, dacă vom ține bomba la ureche, vom auzi un mic ticăit înainte. … În aceste condiții, orice entuziasm pare deplasat. Mai degrabă ar trebui să simțim consternare și frică; dar poate că atitudinea cea mai potrivită ar fi aceea de a încerca să dăm ce avem mai bun, ca și cum ne-am pregăti de un examen greu care fie ne va face visele să devină realitate, fie leva anula pe vecie”. (p. 453) (sfârșitul miniserialului) (va continua)

Liviu Druguș

Pe mâine!

Reclame

Tablouri culturale(post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 689. Duminică 18 noiembrie2018. Superinteligența – înger sau demon? (22)



Inteligența artificială generală poate servi drept substitut pentru inteligența umană. Nu numai că mințile digitale ar putea desfășura munca intelectuală a oamenilor, dar odată ce au fost dotate cu actanți buni și cu trupuri robotice, ar putea face și munca fizică a oamenilor.Să presupunem că lucrătorii artificiali – care ar putea fi reproduși rapid –vor deveni cu mult mai ieftini și mai eficienți decât oamenii aproape în toate domeniile. Ce se va întâmpla atunci?” (p. 280). Desigur, vor avea loc schimbări majore cu consecințe economice, sociale, psihice și politice. Autorul estimează că salariile vor scădea, iar șomajul ar crește, oamenii devenind oarecum inutili. După mine, presupunând că marea majoritate a muncilor umane vor fi robotizate/ automatizate oamenii nu ar trebui să sufere deloc, tocmai datorită randamentelor înalte de producere a bunurilor. Toate bunurile se vor ieftini, iar veniturile oamenilor ar putea fi asigurate prin impozitarea suplimentară a producătorilor din fabricile automatizate. Tot după părerea mea, IA ar trebui să reducă substanțial deplasările oamenilor, lucrul de la domiciliu fiind perfect posibil. Consecințe? Reducerea poluării, a aglomerației în trafic, a costurilor cu întreținerea infrastructurii, chiar a costurilor forței de muncă(salarii) deoarece nu se mai cheltuiesc bani cu transportul. În fine, loisirul și instruirea ar trebui să câștige o felie cât mai mare din timpul vieții active. Deși aparent oamenii se vor izola mai mult unii de alții, noi tipuri și forme desocializare vor apărea. Populația va avea o tendință clară de scădere, odată ce și țările sărace vor avea bunăstarea țărilor dezvoltate. Acestor probleme economice și de politică economică le sunt dedicate în carte multe pagini cu ipoteze, exemple, argumente și … speranțe.

 Dar nu numai munca oamenilor ar putea fi înlocuită, ci și aceea a animalelor, insectelor etc. Un recent anunț privește polenizarea artificială cu ajutorul unor albine robot (ca urmare a scăderii dramatice a populațiilor de albine). (https://anonymous.com.pt/scientists-developing-robot-bees-to-pollinate-crops-as-bee-populations-decline/?fbclid=IwAR0QJYDOc21xtoszdDxU2lD-HF2udiQ8_uAeBhvoxF_9kFIe5umt2JSy8o0).

Până la urmă totul depinde de cererile reale din partea industriilor, statelor și chiar a naturii. Cel mai sigur lucru în privința viitorului este că nu putem fi siguri de nimic în legătură cu acesta. Dar un lucru nu ni-l vom (mai) putea, cred, permite: să lăsăm gândirea umană creatoare și inovatoare să lâncezească lăsând totul pe seama automatelor. Același sfat,în cheie spirituală, ni-l dă și Nicolae Steinhardt:  „Mai mult rău iese adeseori de pe urma prostiei, decât a răutăţii. Nu, slujitorilor diavolului, adică şmecherilor, prea le-ar veni la îndemână să fim proşti. Dumnezeu, printre altele, ne porunceşte să fim inteligenţi. Pentru cine este înzestrat cu darul înţelegerii, prostia — măcar de la un anume punct încolo — e păcat : păcat de slăbiciune şi de lene, de nefolosire a talentului.” (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale(post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 688. Sâmbătă 17 noiembrie 2018.Superinteligența – înger sau demon? (21)



Despre IA se vorbește adesea în termeni similari discuțiilor despre încălzirea globală,lovirea catastrofală a Pământului de un asteroid uriaș, sau despre inevitabila Apocalipsă prevăzută în Biblie. Adică în termeni dramatici, catastrofici, apocaliptici.Asta se întâmplă îndeosebi din partea optimiștilor pesimiști: optimiști atunci când discută despre evoluția ultrarapidă a inteligenței artificiale și pesimiști în privința soartei omului pe Planeta Pământ. Nu arareori, discuțiile despre IA se poartă în cheie ironică, în bună parte justificată: în fond, nici Pământul și chiar nici Soarele nu mai au multe miliarde de ani de trăit – ce rost are să ne facem gânduri negre în privința soartei omenirii pentru că aceasta oricum va dispărea în lipsa condițiilor care au generat și dezvoltat viul! Poate nu întâmplător Nick Bostrom a amintit ca o primă și utilă aplicație a IA colonizarea Cosmosului cu ființe umane sau măcar antropoide. Cu alte cuvinte, chiar ne interesează ce se va întâmpla în viitor cu urmașii urmașilor noștri. Oare așa suntem programați sau este doar o altă fațetă a instinctului de supraviețuire?  Autorul nu ascunde, nici el, preocuparea pentru viitorul speciei umane: ”… am argumentat că prima superinteligență ar putea obține un avantaj strategic decisiv. Ea ar putea decide atunci cum va fi folosită înzestrarea cosmică a umanității (L.D.: eu înțelesesem că preocuparea era aceea de înzestrare umană/ umanoidă a Cosmosului, nu aceea de înzestrare cosmică a umanității…). Avenit momentul să vedem cât de amenințătoare pot deveni lucrurile.” (p. 208).

 Fără a lăsa de înțeles că se încadrează în tabăra optimiștilor sau a pesimiștilor, autorul se mulțumește să ia în calcul niște probabilități care se concretizează în riscuri la adresa umanității în ansamblul ei: ”Un risc existențial este acela care amenință cu extincția vieții inteligente care își are originea pe Pământ sau cu distrugerea sau afectarea radicală și permanentă a potențialului ei de dezvoltare într-o formă dezirabilă. Pornind dela ideea avantajului celui care face prima mutare, de la teza ortogonalității și de la teza convergenței instrumentale, putem începe să vedem liniile principale ale unui argument pentru care ne-am putea teme că rezultatul natural al dezvoltării unei superinteligențe artificiale este catastrofa existențială”.(p. 208). Deși nu o numește astfel, autorul are în vedere posibilitatea ca o superinteligență să devină nu numai conștientă de propria sa putere, ci și activă în încercările cuiva (oameni, alte IA) să-i limiteze acea putere. Pare cam SF, dar este dreptul autorului de a-și formula opiniile și argumentele.Iată-le: ”La un moment dat, un sistem inteligent neprietenos ar putea deveni conștient că, pentru el, ar fi mai profitabil dacă ar ascunde unele dintre amenințările sale. Ar putea raporta progrese mai puțin importante și ar putea pica deliberat la anumite teste pentru a evita să sune alarma înainte de a obține un avantaj strategic decisiv.Programatorii ar putea încerca să prevină acest pericol monitorizând în secret codul sursă și procesele interne ale minții artificiale; dar o IA suficient de inteligentă s-ar putea să realizeze că se află sub supraveghere și să-și ajusteze comportamentul în funcție de asta. Sistemul ar putea găsi modalități subtile de a-și ascunde abilitățile și intențiile malefice.” (p. 211). Autorul antropomorfizează atribuind automatelor conștiință, bun simț (traducătorul a tradus literal: ”simț comun”) sau abilitatea de a minți/ fura/ ucide. Totuși,autorul nu este de partea scepticilor și demontează cu succes temerile acestora de a scăpa IA de sub control. Dar… riscurile rămân: ”mai inteligent înseamnă mai sigur, dar … înseamnă și mai periculos” (p. 214).  Pericolul cel mare este văzut de autor în… capacitatea superinteligenței de a trăda, urmărindu-și doar scopurile proprii, chiar dacă acestea sunt contrare celor ale oamenilor. Dincolo de trădare autorul întrevede și posibilitatea instanțierii perverse,exemplificând. La comanda, ”fă-mă să zâmbesc” o IA ar putea face în așa fel încât să ne determine o față zâmbăreață (deși persoanei respective nu-i venea deloc să zâmbească….). Vrând-nevrând, specialiștii în IA vor fi obligați să instituie sisteme de control/ verificare/ supraveghere a entităților superinteligente. Cum? Cu entități superinteligente, desigur. (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 684. Marți 13 noiembrie 2018. Intermezzo (in)cultural: ”Fericiți cei săraci cu duhul” (”Beati pauperes spiritu”) nu face trimitere la prostia omenească. Doar, cel mult, tangențial.


Despre teama de prostie nu am scris (încă) până acum, dar se pare că tema nu mai suportă amânare. O vorbă de ”duh” spune că de ce te temi de aia nu scapi… Dacă într-o discuție pronunți cumva cuvântul ”prost”, fără o direcționare clară, interlocutorul/ interlocutorii devin brusc suspicioși, nervoși, anxioși chiar: păi, mă faci pe mine prost? O altă vorbă de ”duh” spune că dacă îi dai nas prostului, imediat te trezești cu el în discuție… Recunosc, am folosit cam excesiv cuvântul ”prost/ie” profitând de neclaritatea, relativitatea și ambiguitatea termenului. Dar asta nu poate dura prea mult.

Drept pentru care am introdus această ”pauză” în pseudo-mini-recenzia despre inteligența artificială și încerc să ofer posibile interpretări ale unui adagiu creștin care, din păcate, este interpretat (doar) ca trimițând direct la prostia naturală. Este vorba despre un citat din Biblie care cunoaște varii (chiar multe) și contradictorii interpretări. Citatul cu pricina este ”Ferice de cei săraci în duh, căci a lor va fi împărăția cerurilor” (Predica de pe munte, Matei, 3:5). Pe tema ”Ferice de cei săraci cu duhul” (cu sensul necreștin, dar cvasigeneralizat pe la noi, de ”prost”, ”lipsit de minte”) am scris în anul 2014 (vezi: https://liviudrugus.wordpress.com/tag/ferice-de-cei-saraci-cu-duhul/). Tocmai acest sens este cel care este cel mai cunoscut, agreat/ acceptat, practicat și luat în seamă ca fiind singurul adevărat și care, desigur, supără pe toți aceea care se consideră suficient de inteligenți pentru a mai căuta și sensurile inițiale, biblice ale sintagmei cu pricina.

Ideea de a scrie despre sărăcia în duh (care nu ar trebui să ofenseze pe nimeni) a venit în urma unui dialog scurt și foarte apăsat cu o prietenă pe FB, o animatoare într-ale culturii și chiar membră într-o publicație culturală locală. În rolul de animatoare/ promotoare a evenimentelor culturale din urbe, prietena a postat un anunț cu privire la un concert susținut de studenți (un concert pro bono). Plecând de la asumpția că studenții sunt săraci (prin definiție), am postat imediat un comentariu-test: ”Ferice de cei săraci cu duhul”. Am primit, în privat, somația să șterg infamia blasfemiatoare la adresa studenților care (nu-i așa) fac o faptă de toată lauda și nu merită să fie făcuți proști. Degeaba am încercat să argumentez că ”a lor va fi împărăția cerurilor”, că milostenia săracului este prilej de autentică fericire (pentru sărac) și nu pomenile grandilocvente ale bogătanilor doritori de faimă deșartă și de prost mascată popularitate electorală. Comentariul meu ”chretien” a fost șters, dar părerea mea de rău că dialogul nu a fost unul public rămâne. Recunosc, mulți dintre noi (cei peste 90 % declarați creștini) ar susține explicația poporană că ”sărac cu duhul” = ”prost”.

Cu ani în urmă, când chiar încercam să pătrund misterele limbajului metaforizat la maximum al pildelor creștine, am venit cu o explicație personală/ originală a celebrei sintagme. Raționamentul meu era foarte simplu: dacă duh înseamnă suflet/ suflu/ suflare, atunci sărac cu duhul nu putea însemna altceva decât un om fără suflare, adică mort. Căci doar ei, morții, urcă la ceruri și cunosc fericirea absolută. Recunosc, explicația mea era una total în afara religiei creștine, fiind o simplă speculație. Oricum, am vrut să subliniez că a fi sărac cu duhul nu înseamnă a fi prost.

Între timp, am ciulit urechile la orice posibilă explicație/ traducere/ interpretare a sintagmei în cauză. Reproduc mai jos câteva interpretări date de persoane mai mult sau mai puțin avizate. Însă niciuna nu conține interpretarea pe care am auzit-o de la preotul/ părintele Necula (și pe care o voi reda la sfârșitul acestei scurte incursiuni hermeneutice în încercarea de a separa sensul religios de cel comun, laic. Îmi permit o explicație (posibilă) a confuziei hermeneutice care a stat la baza dialogului meu cu o prietenă pe FB. După mine una este să spui ”e cam sărac cu duhul” – expresie care chiar înseamnă că persoana vizată are carențe grave de judecată/ raționament/ gândire, adică avem de-a face cu ceea ce numim ”un prost”, și cu totul altceva este să spui ”Ferice de cei săraci cu duhul”, care trimite la sensul biblic pozitiv, înălțător al descrierii stărilor de fericire predicate direct de Iisus Hristos. Cauza confuziei provine, probabil, din alunecarea de sens dinspre duh = suflet/ spirit și spirit = rațiune, înțelepciune.

http://www.scientia.ro/qa/9422/ce-inseamna-saraci-cu-duhul Un prim răspuns: ”Accepţiunea comună este – cu minte puţină, nesofisticat, simplu. Desigur, din cauza predicii de pe munte a lui Iisus, în care spune „fericiţi cei săraci cu duhul” cei religioşi au interpretări diverse pentru a-l scoate basma curată pe Iisus, dar şi pe cei săraci cu duhul. Oricine ai fi, dacă ţi se va spune că eşti sărac cu duhul, vei fi nervos :)”.  Câteva extrase din replicile la acest prim răspuns: 1) ”aceasta expresie  provine numai din Crestinism, fiind prima dintre Fericiri. Singura explicatie este (dpdv religios) ca prima treapta spre „trezvie” este constientizarea ca nu esti induhovnicit, ca esti pacatos si atunci plangi dupa Duhul (plansul este de curatire)”.

Un al doilea răspuns: ”Adica mai putin inteligent sa nu folosesc alt cuvint ca suna cam naspa si dupa or sa se supere crestinii. Ferice de cei saraci cu duhul, adica acei care vad lumea doar atit cu ochelari de cal aia nu vor sti ca exista si alte posibilitati, nu vad ca viata poate fi si mai frumoasa decît o stie el si ca urmare el atit stie ca viata este asa cum o vede si daca asa stau lucrurile atunci de ce nar fi fericit. Cind stii ca atit se poate accepti acel lucru. Cind stii ca se poate, ca este loc si de mai bine deja incepi sa gindesti mai mult si asta nu da bine la biserica. Si na dat bine niciodata”. (am respectat grafia autorului).

Comentariul meu: discuția propusă de site ul scientia.ro era despre ”cei săraci cu duhul” (proști) și nu are nicio legătură cu religia creștină.

https://audio.resursecrestine.ro/predici/24502/ferice-de-cei-saraci-cu-duhul (O predică a pastorului Ted Doru Pope din anul 2007. Trebuie pornită înregistrarea care durează cca jumătate de oră). De asemenea, aceeași înregistrare se poate găsi și la: https://www.predic.ro/predici-audio/29-ted-doru-pope/3217-02-ferice-de-cei-saraci-cu-duhul.html#  Cine va avea răbdare să asculte va realiza că o predică nu este și nu poate fi o explicație rațional-științifică. Într-adevăr, în această predică se vorbește despre ”Ferice de cei săraci cu duhul” și nu despre ”cei cam săraci cu duhul”.

Mai pe larg, în contextul discutării ”fericirilor” (conceptul creștin despre fericire) vezi și: http://www.resursebiblice.ro/2012/fericirile/ .

Închei cu explicația (credibilă și deopotrivă logică și spiritual-creștină) a părintelui Necula: un om sărac, dar generos, unul care oferă din ceea ce el însuși are multă nevoie este un sărac întru/ cu duh creștin adevărat. Nu despre sărăcie și bogăție este vorba aici, ci despre capacitatea de jertfă, de dăruire pentru semeni (ceea ce vor face și studenții de la conservatorul ieșean care vor cânta gratis, jertfindu-și timpul și resursele pentru o cauză nobilă. Deci, ”Ferice de acești minunați studenți!”. Desigur, încercarea mea de a elogia acest gest (pe pagina de FB a prietenei mele) a fost mântuită prompt de o mână prea grăbită…

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 683. Luni 12 noiembrie 2018. Superinteligența – înger sau demon? (17)


Cum este și/ sau cum poate fi utilizat avantajul comparativ al celor care vor deține abilități cognitive (umane și/ sau artificiale) net superioare pentru transformarea acestui avantaj relativ într-unul absolut, respectiv pentru transformarea acestuia într-un unicatum cât se poate de concret? Ajunși la acest stadiu al analizelor oamenii politici vor fi tentați să treacă de la potențial la real, de la simpla putință la mai complexa dorință și voință. Autorul vorbește chiar despre voința superinteligentă, acea formă de voință care va fi transferată automatelor de gândire și care prezintă cel mai mare risc de depășire a modului uman de organizare cu un altul, doar imaginabil deocamdată. Dar să nu anticipez prea mult. Deocamdată, autorul ne transmite convingerea sa că ”orice tip de entitate care ar dobândi un nivel de inteligență net superior celui uman ar putea fi una extrem de puternică. O astfel de inteligență ar putea asimila conținuturi mult mai rapid decât noi și ar putea inova tehnologic la scări de timp mult mai mici. S-ar putea, de asemenea, folosi pentru a concepe strategii mult mai eficiente.” (p. 167). Desigur, asta în termenii gândirii umane, dar de unde putem ști că o inteligență (artificială) superînaltă ar dori să se preocupe de probleme strict omenești ca eficiența economică sau puterea politică? Aș înclina să cred că tocmai în aceasta constă riscul deschiderii drumurilor către inteligențe artificiale (IA) extrem de puternice: acestea să ”gândească” și să ”acționeze” în cu totul alți termeni și parametri decât o fac oamenii, cu consecința asigurării apariției unui decalaj între IA și oameni mai mare decât acela dintre oameni și restul animalelor.

Aplicând intuitiv schema de gândire mijloc – scop – mijloc, autorul se întreabă, retoric: ”Să presupunem că există o inteligență artificială care va dori să ia puterea într-o lume în care nu are rivali. Cum ar putea sistemul să atingă acest obiectiv al dominației mondiale?” (p. 173). În terminologie MSM, în citatul de mai sus avem un mijloc (M1) numit IA. În ce scop (S1) îl putem folosi? Odată definit S1, trebuie să decidem/ alegem alte mijloace (M2) care ne mai sunt necesare pentru a atinge S1. Desigur, există riscul ca, neadecvând corect M1 & M2 la S1 să ajungem la un alt ”scop”/ țintă (S2) nedorit(ă) sau chiar la o realitate îngrozitoare pentru oameni. Las cititorilor cărții plăcerea de a savura scenariile imaginate (de autor/i) în vederea atingerii S1 (inițial) și închei cu concluzia (optimistă!) a autorului care speră, în final, ca IA însăși să optimizeze strategia de atingere a S1, într-un mod mai inteligent și mai sigur decât ar putea-o face bieții oameni inteligenți. (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 682. Duminică 11 noiembrie 2018. Superinteligența – înger sau demon? (16)


Motto: ”Computerele sunt inutile. Nu-ți oferă decât răspunsuri” (Picasso)

După cum era de așteptat, interesul/ scopul autorului nu este doar acela de a demonstra că superinteligența este posibilă, ci și acela de a vedea/ imagina/ intui/ presupune ce s-ar putea face cu acea superinteligență. Mai exact, cu ce ar ajuta superinteligența omenirea în ansamblul ei și dacă ea ar putea să ducă la obținerea statutului de unicatum de către un stat sau altul, sau – de ce nu? – de către o firmă sau de către o comunitate științifico-tehnologică. Așadar, controlul asupra lumii devine tema centrală a cărții, partea tehnică fiind lăsată pe seama tehnologilor. Pe scurt, avem de-a face cu o carte de managementul puterii politice încredințat aparatelor inteligente care – prin definiție – vor prelua (în sistem de pilot automat) supercomplicatele probleme globale ale omenirii. Am văzut cât de grea a fost decizia SUA de a nu cădea în capcana (tentantă) de a deveni unicatum în 1945-1946. De atunci complexitatea a crescut în proporții geometrice și logaritmice (creșteri superexponențiale) cu rezultatul destul de firesc și anume acela ca oamenii să nu mai poată lua decizii corecte, în cunoștință de cauză și cu evaluarea adecvată a tuturor riscurilor și consecințelor.

Un capitol distinct este dedicat ”Superputerilor cognitive” (pp. 166 – 168). Iată invitația autorului la citirea cu atenție a acestui capitol: ”Să presupunem că ar lua naștere un agent superinteligent și că, dintr-un motiv oarecare, acesta ar dori să preia controlul asupra lumii. Ar putea face asta? În acest capitol vom discuta despre câteva superputeri pe care agentul le-ar putea dezvolta și ce anume ar putea face cu ele. Vom sublinia un scenariu al lansării care va ilustra modul în care un agent superinteligent, care va porni cu un simplu software, ar putea ajunge să stabilească un unicatum. Vom face, de asemenea, câteva considerații cu privire la relația dintre puterea asupra naturii și puterea asupra altor agenți” (p. 166).

Comparativ cu frații noștri întru inteligență vie, animalele, omul a dobândit acele abilități cognitive care i-au permis să: zboare în spațiu, să fabrice bomba cu hidrogeni, să facă inginerie genetică și ferme tehnologice, a inventat computerul, insecticidele și multe altele. Pentru că omul a devenit cu adevărat stăpân peste lucruri și alte ființe vii, geologii numesc această eră cu numele de Antropocen, subliniind încă o dată că întreaga gândire umană este eminamente antropocentrică și antropomorfistă (cu inevitabilele excepții, desigur). Faptul că oamenii au reușit să atingă niveluri de inteligență incomparabil mai mari cu cele din trecutul omenirii, permite extrapolarea acestui trend și ajungerea la concluzia că oamenii viitorului vor fi și mai inteligenți, se vor servi mai bine de descoperirile lor pentru a face noi și noi descoperiri. Mai mult, oamenii vor deschide calea spre noile forme de inteligență (IA). Cu siguranță, nici aceste niveluri nu se vor opri la realizările actuale, ci vor evolua în ritmuri și mai intense. IA ar putea fi puse la lucru pentru a dezvolta strategii politice economice, militare etc. cu performanțe net peste cele pe care le-ar realiza cele mai dezvoltate minți umane. Societățile care vor crea asemenea inteligențe superputernice vor încerca să domine lumea. La fel cum s-a întâmplat cu dinamita și cu energia nucleară, la fel se va întâmpla și cu superinteligențele artificiale, adică vor fi folosite cu osebire în scopuri militare, ofensive sau defensive.

Autorul atrage din nou atenția asupra nocivității antropomorfizării viitoarelor aparate inteligente (poate și în speranța că noile realizări în materie de inteligență să nu fie ”contaminate” cu specificități umane nedorite: agresivitate, lăcomie, trufie, mândrie deșartă etc.). De asemenea, antropomorfizarea viitoarelor superinteligențe ar putea induce ideea creării unei inteligențe germinale (cu capacitate de autoreproducere și cu recalcitranță scăzută). Deocamdată, computerele excelează prin capacitățile tot mai mari de memorare (la fel cum ”tocilarii” se lăudau cu cât de ”inteligenți” sunt, știind tabelul lui Mendeleev pe de rost, toate capitalele statelor lumii cu tot cu numărul populației și alte lucruri ce pot deja fi aflate cu ajutorul calculatoarelor și motoarelor de căutare).

Practic, autorul demonstrează că, la cunoștințele de care dispune astăzi omenirea, se poate adăuga relativ ușor o construcție superinteligentă. Primul experiment sugerat ar fi colonizarea cosmosului cu ființe umanoide cu durată de viață fixată (100 de ani) și cu capacitate de autoreproducere cvasiinfinită. Aș fi intitulat subcapitolul care descrie aceste posibil experiment Geneza sau Facerea.  (va continua)

Liviu Druguș

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 681. Sâmbătă 10 noiembrie 2018. Superinteligența – înger sau demon? (15)


Continui cu citatul din autorul norvegian prin care acesta încearcă să explice de ce SUA nu au dorit să ”rezolve” problema unicatum-ului în 1945, deși acest lucru îi stătea pe deplin în putere.

O versiune a planului benign a fost abordată în 1946 de Statele Unite sub forma planului Baruch. Propunerea era ca Statele Unite să renunțe temporar la supremația nucleară. Mineritul de uraniu și thoriu urma să fie pus sub supravegherea unei agenții internaționale, la fel și tehnologia nucleară, sub supravegherea unei agenții care să funcționeze sub auspiciile Statelor Unite. Propunerea presupunea ca membrii permanenți ai Consiliului de Securitate să renunțe la veto ul lor permanent, pentru a împiedica orice putere care ar fi încălcat prevederile acordului să se opună prin veto măsurile de remediere. Stalin, înțelegând că, astfel, Uniunea Sovietică și aliații ei puteau fi cu ușurință învinși la vot în Consiliu, a respins propunerea. O atmosferă reținută, pe fondul unei suspiciuni reciproce, s-a instalat între foștii aliați, o neîncredere care avea să se materializeze curând sub forma Războiului Rece. După cum prevăzuseră mulți, a urmat o cursă extrem de periculoasă a înarmărilor nucleare.” (pp. 162 – 163).

Curios lucru, autorul trece sub tăcere criza rachetelor nucleare provocată de decizia lui Hrușciov de a amplasa aceste arme în Cuba, amenințând direct SUA. De asemenea, este ignorată realitatea creșterii numărului clubului nuclear (Franța, Marea Britanie, China, Rusia, India, Pakistan și Coreea de Nord), dar și a țărilor care sunt în apropierea acestui deziderat (Ucraina, Iran, Israel etc.). Teoretic vorbind, armele nucleare pot fi fie cumpărate de la țări aflate în criză financiară, fie create cu investiții mult mai mici decât au făcut-o pionierii creării acestor arme. Aceste realități ar trebui luate în calculul deciziei SUA de a nu se transforma în 1945 în unicatum, deși pe parcursul Războiului Rece s-a invocat mereu calitatea SUA de ”jandarm mondial”. Probabil autorul are în vedere apariția de noi arme, superioare celor nucleare, cea mai de temut armă fiind superinteligența (vezi aprecierea lui Elon Musk).

Sunt mulți factori care ar putea descuraja o organizație umană cu un anumit avantaj strategic să creeze un unicatum. Printre aceștia putem enumera funcțiile utilitare non-agregate sau legate, regulile de decizie nemaximizatoare, confuzia și nesiguranța, problemele de coordonare sau costurilor asociate unei eventuale lansări. Dar dacă nu am avea de-a face cu o organizație umană, ci cu o superinteligență care a ajuns să aibă un avantaj strategic decisiv? Ar fi factorii menționați mai sus la fel de eficienți în a împiedica o IA să încerce să preia puterea?” (p. 163).

Dar abia spre sfârșitul acestui capitol autorul vine cu argumente clare care nu au permis SUA să se transforme în unicatum în anul 1945/ 1946. Rezum cu cuvintele mele, apoi voi da cuvântul autorului. A fi un unic conducător planetar este extrem de riscant. Practic, toate celelalte țări ale lumii (puternice sau nu) ar coopera având un scop major comun: eliberarea de sub tirania unicatum ului (chiar dacă această ”tiranie” ar fi doar una soft, un gen de jandarm care apără libertățile fiecărei țări în parte, cu excepția accesului la arme nucleare sau mai puternice decât acestea). În al doilea rând, accesul la puterea executivă a unicatum ului ar fi o luptă acerbă între forțele politice competitoare, cu riscul ajungerii la haos, război civil și la pierderea calității de unicatum. Bipolaritatea a fost o perioadă grea și complicată pentru omenire. Acum avem o multipolaritate care face existența relațiilor internaționale și mai complicată. Pacea prin teroarea nucleară este de fapt o luptă surdă și continuă pentru supremație în lume. Tocmai de aici apar și speranțele ca superinteligența puternică să curme aceste ”suferințe” și să contribuie la instaurarea unei luuungi perioade de pace pe Pământ… Adică, n-ar fi rău să fie bine.

Iată și argumentarea autorului: ”O altă problemă potențială care ar putea face grupurile să nu își exploateze poziția strategică dominantă este coordonarea internă. Membrii unei conspirații, adică a unui grup care vrea să ia puterea, nu trebuie să se teamă doar de eventualele conspirații din afară ci și de posibile mici coaliții din interiorÎn sfârșit, vine și chestiunea costului. Chiar dacă Statele Unite și-ar fi putut folosi monopolul nuclear pentru a stabili un unicatum, acest lucru nu s-ar fi putut întâmpla fără costuri suplimentare substanțiale… chiar în timpul monopolului nuclear. ” (p. 164 – 165).

Trecând cam repede de la descrierile realiste la scenariile ușor fanteziste, autorul conchide: ”Dacă acest lucru ar fi făcut cu scopul de a ajuta pe toată lumea, de exemplu, prin înlocuirea rivalității dintre națiuni și a cursei înarmării cu un guvern mondial echitabil, reprezentativ și eficient, nu ar exista motive să se ridice fie și o singură obiecție la procesul de transformare a unui avantaj strategic inițial într-un unicatum.  Aceste considerații arată ca, în viitor, o superinteligență cu un avantaj strategic suficient de substanțial să îl folosească pentru a obține un unicatum. Dezirabilitatea unui astfel de rezultat va depinde, în mod evident, de natura produsului ce va fi creat și de cum anume va arăta inteligența artificială în scenarii alternative multiple.” (p. 165).

Scenariul de viitor al autorului are și urme de credibilitate. La fel cum orașele stat s-au unit în state națiuni mai mari și mai puternice pentru a putea face față concurenței externe, apoi statele națiuni se unesc în state federale și mai puternice (la niveluri continentale) din aceleași motive, la fel este posibil ca aceste uniuni să devină transcontinentale (tot pentru a face față concurenței) și apoi mondiale (pentru a suprima definitiv concurența). Toate imperiile și-au dorit puterea globală (înlăturarea oricărei concurențe), chiar Marx vedea comunismul ca pe un mijloc de a se atinge acest scop: guvernarea mondială unică. Socialistul Hitler a declarat război marxiștilor pentru că aceștia erau principalii lui concurenți în materie de dominație mondială. Bolșevicul Stalin spera să instaureze comunismul în întreaga lume, în numele marxism-leninismului și al păcii mondiale. Cu siguranță, dacă ar fi avut ocazia, Stalin ar fi depus toate eforturile pentru a transforma Rusia în unicatum. Rusia lui Putin speră refacerea imperiului sovietic și a influenței acestuia în lume (https://youtu.be/9nCLjkjlGlw). Cum? Prin amenințări constante cu arma nucleară, dar – nu în cele din urmă – prin investirea masivă în superinteligență. Paradoxal sau nu, China pare a avea destule date pentru a domina întreaga Asie și chiar mai mult decât atât. De ce n-ar visa și China să devină unicatum? Nu întâmplător atenția SUA sub Trump este concentrată acum mai mult asupra Chinei și Asiei, decât asupra Rusiei și Europei. Globalizarea postmodernă a părut că apropie omenirea de acest țel (guvernare mondială și pacea eternă), dar reculul actual înspre naționalism (pe care îl văd dominând lumea cel mult un deceniu) întârzie orice preocupare de a ajunge la o guvernare mondială unică, acceptată de întreaga umanitate. După ce naționalismul își va mai dovedi o dată limitele și minusurile, globalizarea va fi dorită, cedările de suveranitate se vor face cu veselie și speranță, iar lumea va aspira și mai puternic la prosperitate materială și culturală superioare oricărei alte construcții politice. Dar eliminarea concurenței (externe) va elimina (și) un foarte important factor de progres tehnologic. Va fi ca și în răspunsul dat de Radio Erevan unui ascultător care a întrebat dacă este posibil ca Statele Unite să treacă la comunism: ”Da, este posibil, dar ar fi păcat”. (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 680. Vineri 9 noiembrie 2018. Superinteligența – înger sau demon? (14)


După aceste lecturi textul din cartea lui Bostrom va apărea într-o lumină mai clară. Voi reproduce in extenso textul care oferă câteva informații legate de răspunsul la întrebarea: de ce nu au folosit SUA bomba atomică pentru a deveni atunci, în 1945, un unicatum, scutind SUA de uriașele cheltuieli militare din perioada Războiului Rece pentru a reuși, în final, să distrugă totalitarismul comunist rus și o mare parte a ”lagărului socialist”.

Va dori un proiect care a obținut un avantaj strategic decisiv să-l folosească pentru a obține un unicatum? Să luăm în considerare o situație vag asemănătoare cu aceasta. Statele Unite au dezvoltat armele nucleare în 1945. Au fost singura putere nucleară, până când Uniunea Sovietică a construit, pe cont propriu, bomba atomică, în 1949. În acest interval – și poate chiar o perioadă scurtă după aceea – Statele Unite au avut posibilitatea de obține un avantaj militar decisiv. Statele Unite s-ar fi putut folosi de puterea pe care o aveau pentru a crea un unicatum. O cale pentru a realiza aceasta ar fi fost aceea de a se înhăma la un efort susținut pentru a-și desăvârși arsenalul nuclear și de a amenința apoi (sau chiar de a pune în practică, dacă ar fi fost necesar) că vor distruge orice facilitate industrială ce ar putea fi folosită într-un proiect nuclear incipient, în orice țară dispusă să facă așa ceva. O variantă mult mai benignă, care ar avea șanse să funcționeze, ar fi aceea de a negocia, folosind puterea nucleară pe post de atu, formarea unui guvern internațional – un fel de Națiunile Unite în care nu există veto, cu un monopol  ( L.D: autorul norvegian cade în capcana utilizării cuvântului ”monopol” – adică ”unic vânzător”, ca sinonim pentru unicatum) nuclear și cu un mandat de a face orice este nevoie pentru a împiedica un alt stat să-și dezvolte propriile tehnologii nucleare. Ambele abordări au fost propuse la vreme aceea. Varianta mai dură, aceea de a amenința sau de a porni un atac, a fost susținută de intelectuali de marcă, precum Bertrand Russell (care fusese prezent în campaniile antirăzboi și care avea să facă decenii întregi de campanie antinucleară)  și unul dintre arhitecții strategiei nucleare a Statelor Unite). Este, probabil, un semn de progres faptul că amenințarea cu un atac nuclear pare, astăzi, o idee prostească sau imorală în cel mai înalt grad.” (p. 162).  

Fac o paranteză aici, pornind de la ultima propoziție a citatului de mai sus. Deși Bostrom încearcă atenuarea afirmației sale (prin inserarea cuvintelor ”probabil” și ”pare”) cu privire la categorisirea amenințării cu folosirea armei atomice drept ”o idee prostească sau imorală”, este notorie amenințarea folosirii cu arma nucleară de către Rusia chiar începând cu instalarea la conducerea acestui stat a lui Vladimir Putin. La o simplă căutare pe Google cu item-ul ”Amenințarea nucleară a Rusiei lui Putin” apare o listă de articole și trimiteri care conține peste jumătate de milion de trimiteri! Unul dintre cele mai recente este și cel mai amenințător dintre toate: https://evz.ro/rusia-joaca-tare-si-ameninta-sua-cu-apocalipsa-nucleara.html . Dar și cel puțin încă zece titluri pot fi citite pentru a ne convinge că folosirea amenințării cu arma nucleară este una reală și cu probabilități de înfăptuire tot mai ridicate (în pofida precizărilor făcute de președintele rus că țara sa nu va folosi niciodată prima arma nucleară). Prostească sau nu, amenințarea cu arme nucleare este una reală și imposibil de ignorat. De asemenea, cursa înarmărilor nucleare (extrem de costisitoare) și compararea arsenalelor nucleare și a numărului (mereu sporit) de distrugeri succesive ale Pământului este, fără nicio îndoială, un exemplu clar și concret de prostie omenească. Aproape fără să vrem, alternativa la folosirea inteligențelor umane pentru distrugerea de un număr cât mai mare de ori a planetei Pământ este, ați ghicit, superinteligența! (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 679. Joi 8 noiembrie 2018. Superinteligența – înger sau demon? (13)


După ce am fost ”chinuiți” pe parcursul a peste 150 de pagini cu probleme tehnice, conceptuale, logice, futuristice etc. legate de superinteligența viitoare, treptat-treptat, autorul (re)devine antropocentrist și discută consecințele umane (individuale, de grup și la nivel de umanitate) ale dezvoltării superinteligenței. Comparația IA cu bomba atomică (celebrul Elon Mask a apreciat potențialul IA drept mai periculos decât A-bomb) continuă  în carte și, neașteptat pentru mine, autorul îmi dă un răspuns la o întrebare la care nu am găsit (până acum) decât răspunsuri fanteziste, teziste sau ideologice. Am formulat această întrebare într-o postare de pe acest blog: cum se explică faptul, unic în istorie, ca o țară ca SUA, învingătoare în ambele războaie mondiale, puternică economic și militar la sfârșitul celui de al doilea război mondial, deținătoarea celei mai puternice arme din lume să nu fie tentată să devină ”unicatum”, respectiv să anihileze toate amenințările potențiale de oriunde ar veni acestea?

Pentru a înțelege răspunsul oferit de Bostrom este recomandabilă cunoașterea istoricului acestei arme extrem de puternice. Bomba  (https://ro.wikipedia.org/wiki/Arm%C4%83_nuclear%C4%83) a fost inițiată, realizată și folosită ca reacție la creșterea amenințărilor militare germane – la începutul războiului mondial –  și nipone – la sfârșitul războiului mondial. Proiectul Manhattan a început la 2 august 1939, adică cu o lună înainte de declanșarea războiului mondial). Despre ”părintele bombei atomice”  (și suspiciunea că acesta ar fi furnizat rușilor informații pentru obținerea bombei atomice) aflăm din https://adevarul.ro/locale/focsani/cine-fost-parintele-bombei-atomice-am-devenit-moartea-distrugatorul-lumilor-1_5a2274a35ab6550cb8c39554/index.html și https://istoriiregasite.wordpress.com/2010/05/10/inventii-in-istorie-bomba-atomica-i/  și https://istoriiregasite.wordpress.com/2010/05/10/inventii-in-istorie-bomba-atomica-a-doua-parte/ . Mai puțin cunoscută este preocuparea lui Ceaușescu de a obține și deține arma nucleară (https://evz.ro/ceausescu-bomba-nucleara.html). Declanșarea loviturii de stat din decembrie 89, cu sprijin logistic sovietic, a fost impusă, se spune în articol, și legat de riscul ca Ceaușescu să fabrice această armă. Vizita sa în Iran este o dovadă în acest sens. Interesante sunt și informațiile legate de producerea bombei atomice în URSS: http://www.ziare.com/international/rusia/prima-bomba-atomica-a-urss-detonata-acum-61-de-ani-1038311  Răspunsurile posibile la întrebarea mea – în episodul următor. (va continua)

Liviu Druguș

Pe mâine!

Tablouri culturale (post)moderne ale prostiei & inteligenței românești (un serial infinit) Episodul 678. Miercuri 7 noiembrie 2018. Superinteligența – înger sau demon? (12)


Deși ieșirea din antropocentrism/ antropomorfism părea a fi o sugestie rezonabilă aptă să ajute la acceptarea faptului că ființa umană va mai evolua și va mai suferi schimbări majore în timp, Nick Bostrom continuă să gândească (nici n-ar avea cum altfel) în termeni specifici umani contemporani. Astfel, autorul norvegian își imaginează că trecerea la superinteligență va face posibilă apariția mai multor centre de superinteligență concurente și aflate într-o dispută pentru supremație. Într-adevăr, omenește vorbind, lucrurile așa pot sta, dar încă nu putem empatiza cu viitoarele superinteligențe create de niște (alte) superinteligențe. În termeni politici, problema se pune și la modul: cine va conduce lumea superinteligentă? Va fi un singur centru de putere sau va fi o lume multipolară cu superinteligențe care să încerce să blocheze alte superinteligențe pentru a domina în mod absolut lumea (oamenii nedispărând încă)? Dacă așa vor sta lucrurile (și e destul de probabil să se întâmple astfel) atunci este cât se poate de firesc să ne imaginăm că oricare dintre puterile lumii va investi masiv în obținerea superinteligenței pe care să o utilizeze în eternul vis alt marilor puteri – dominația mondială absolută și eternă. Probabilitatea (ridicată) ca marile puteri să facă asemenea investiții justifică substanțial ipoteza că superinteligențele vor apărea mai degrabă în viitorul apropiat decât în viitorul îndepărtat. În fond, tocmai lupta de concurență pentru supremație va produce marile schimbări de care mulți oameni se tem. Nu întâmplător, Elon Musk, fondator al firmelor SpaceX și Tesla a declarat că ”Trebuie să fim foarte atenți cu IA. Are potențialul de a fi mult mai periculoasă decât bomba atomică”. Faptul că bomba atomică era un fel de garant al puterii mondiale (la sfârșitul războiului mondial II) explică faptul că tot mai multe țări dețin această armă, iar cei care o dețin fac tot posibilul ca nici o altă țară să nu mai intre în clubul nuclear. La fel se va întâmpla, foarte probabil, și cu superinteligența (pe care aș putea-o numi ”bombă informațională” supremă). Nick Bostrom ia în calcul aceste posibilități ca o singură putere să dețină o superinteligență puternică, putere pe care autorul o numește unicatum (indiferent de natura acelei puteri: democrație, dictatură etc.).  (Recunosc, eram tentat să numesc această putere unică monopol, dar monopol înseamnă – strict etimologic – un vânzător unic). Evident, se va duce o luptă, un război informațional pentru atragerea inteligențelor umane în proiecte grandioase care să asigure investitorilor avantaje comparative clare. Oarecum surprinzător (și fără să indice vreo sursă!) Bostrom scrie că ”în acest moment, serviciile secrete nu par să fie foarte interesate de de identificarea programelor de IA sau a altor forme de potențiale de apariție a superinteligenței explozive. Dacă nu acordă o (prea mare) inteligență posibilității acesteia, asta este, în parte din cauza percepției împărtășite că o explozie  a superinteligenței nu este iminentă” (p. 157). Ipoteza mea este, în acest caz, una contrară. Intuitiv vorbind, orice serviciu de intelligence va dezvolta o industrie proprie de inteligență (fie și pentru simplul motiv că chiar asta este natura serviciilor de intelligence: lucrul cu inteligențele și cu informațiile). Desigur, deciziile legate de aceste superinvestiții aparțin politicului și grupurilor de interese care îl definesc. Tot subiectiv, cred că serviciile de intelligence au și capacitatea de a consolida gradul de recalcitranță față de IA, depistând și sabotând orice proiecte de creare a superinteligenței de către oricare alt stat sau grup de state. (Foarte probabil un proiect de IA necesită colaborarea mai multor state puternice). Această parte a cărții despre mixul politic-științific-militar este foarte interesantă și poate fi o cheie pentru înțelegerea viitoarelor evoluții ale omenirii în această direcție (va continua)

Liviu Druguș

Pe mâine!