Am citit inainte de sarbatori o carte foarte interesanta despre cum schimba comportamentul societatii algoritmii care initial au ajutat si eficientizat diverse sectoare de activitate.
Cartea se numeste Arme matematice de distrugere – Big Data crește inegalitatile si ameninta democrația, este scrisa de Cathy O Neil, un matematician cu spiritul dreptatii care vrea sa avertizeze lumea despre impactul negative al big data.
Cartea nu e despre matematica, nu sunt linii de cod, nu va speriati. E despre situatii concrete din invatamant, de la interviurile de angajare, de la evaluarile politiei, din viata sociala, in care algoritmii (si nu neaparat doar cei generati via retelele sociale) ne incadreaza in niste categorii cu indici si ne plaseaza intr-un clasament in functie de care se iau decizii in ceea ce ne priveste.
Ce face doamna O Neil in aceasta carte e sa arate ca algoritmii matematici, oricat de tare ne-ar speria, sunt prezenti in viata noastra in fiecare moment. De la prepararea cinei pana la acceptarea la un loc de munca, de la ce citim pe site-urile preferate pana la cum suntem informati despre candidatii politici.
Cumva intuim aceste lucruri pentru ca facebook ne-a invatat pe pielea noastra ca vedem doar lucrurile care ne plac, ca algoritmul ne cauta confortul noua utilizatorilor. Dar doamna O Neil merge in partea cealalta, a celor care scriu liniile de cod si favorizeaza injustitia, arata cum cei saraci vor fi tot timpul cei mai defavorizati – vor aparea in statisticile cu crime, cu greaua recuperare a datoriilor pentru ca nu au bani, deci vor primi ofertele cele mai proaste, vor fi primii anchetati de politie. Din momentul in care lucrurile acestea au inceput sa fie judecate ca urmare a big data, a algoritmilor, injustitia e tot mai prezenta.
M-am gandit mult de ce a scris o asemenea carte doamna Cathy O Neil. Zice undeva algoritmii matematici ar trebui sa fie uneltele noastre, nu stapinii nostri. Si e o concluzie care te inspaimanta. Pentru ca datele au fost scrise de oameni, algoritmii si-au eficientizat rezultatele si am eliminate marginile facand injustitii mari- cei bogati vor fi mereu avantajati, cei saraci vor suferi mereu.
E un episod din Black Mirror in care se vorbeste despre indicele de favorabilitate pe care-l are fiecare persoana si efectele in viata sociala a cuiva cu un indice mic – nu mai e primit in restaurante, nu poate sa inchirieze o camera in hotel etc etc…
Oricat ar parea de SF acel episod, cartea aceasta arata ca avem deja indici in dreptul nostru ca o mica eticheta. Doar ca nu stim inca – bine, stim nota din Uber si ne-a jucat ego-ul o festa gandindu-ne de ce am nota aceea? Insa exista deja nota care ne incadreaza pe o scala pentru a fi eligibili la angajare, imprumuturi la banca si alte facilitati.
Si cred ca doamna cathy o neil a scris cartea aceasta cu doua scopuri. Unul, pentru cei care sunt analisti de date, care scriu coduri ale algoritmilor, ca sa-i ajute sa-si scuture ego-ul si sa nu se simta dumnezeii are detin adevarul absolut si sa nu mai imparta si mai direct si mai strict lumea in alb sau negru.
Iar pentru noi astialaltii, muritorii de rand, cred ca a scris cartea ca sa incepem sa constientizam lumea in care traim dincolo de tehnologia pe care o folosim.
E un capitol in carte in care se vorbeste despre utilizarea algoritmilor in alegerile electorale si cum sondajele de opinie sunt o arma matematica de distrugere.
Nimeni nu intelege exact cum au fost facute aceste sondaje, cum s-au obtinut acele rezultate, dar se distribuie rapid si influenteaza foarte multa lume. Oamenii incep sa creada ca cei din primele locuri sunt cei mai buni si din ce in ce repeti mai mult aceasta informatie, ea devine mai puternica si are efecte directe asupra alegerii, asupra votului.
Pentru ca algoritmii pot trimite informatiile personalizate in functie de nevoi si te pot ajuta sa te convingi ca un anume candidat e cel mai potrivit pentru tine. Si pot face sa nu vezi niciodata mesajele pe care le vede sotul sau mama ta pe acelasi subiect.
Ceea ce e eficient pentru campania electorala, nu e eficient si pentru democratie pe termen lung.
Ceea ce e eficient pentru marketingul pentru vanzarea unui produs, nu e neaparat si etic.
Si daca ne gandim ca noi, producatorii de continut in online – fie si in extrem de putina masura la nivelul global – nu putem face nimic ca sa ne indreptam catre o parte etica, corecta, mai ganditi-va putin.
Ca producator super mic de continut – 2-3 texte zilnice – stiu din instinct, dar de fapt e observatie pe termen lung – ce le place cititorlor mei sa citeasca. Stiu genul de emotie care “scoreaza” si daca as pune in spatiu public doar acele lucruri as putea trai linistita cu un trafic decent pe blog. De ce nu fac asta?
Pentru ca nu vreau o audienta captiva si indobitocita, pentru ca nu vreau sa-i pacalesc pe oameni, pentru ca prefer sa pun in spatiu public si informatie pe care cititorul nu o va recunoaste in primul moment drept utila sau cu grad mare de simpatie pentru el, dar care l-ar putea ajuta emotional si educational pe termen lung.
E o cale mai grea. Dar e optiunea mea de a-mi desfasura viata in online.
Cartea Arme matematice de distrugere te face sa te gandesti daca tu om obisnuit, care esti afectat de algoritmii care te incadreaza in categorii si iti dau calificative, rezisti in momentul in care ai ocazia sa pui informatie, continut in fata audientei, rezisti sa nu urmezi calea care manipuleaza si stoarce la sigur reactii de la public?
Rezisti la a posta doar articole care critica si vorbesc cu ura (stiind ca negativul va interesa mai mult mereu)? Rezisti la a posta fotografii cu “multa piele” si sexualitate, stiind ca ele vor scora bine in like-uri? Rezisti sa-ti pui fotografia cu copilul tau frumos stiind ca vei oferi informatii incredibil de detaliate, dintr-o singura poza, pentru cei care urmeaza sa-ti vanda masini, tricouri, asigurari sociale, vacante… si in general orice ai nevoie in viata…
E o tema pe care o lanseaza Arme matematice de distrugere, in micro, pentru fiecare cetatean.
***
Personal, m-a deprimat cartea aceasta, m-am gandit ca sunt bucuroasa ca am ajuns la jumatatea vietii mele – statistic, dupa media de viata – pentru ca in 10 ani ma pot retrage intr-un varf de munte departe de orice oroare ar face tehnologia.
Am doua filme la care ma gandesc mereu in situatii ca aceasta, dincolo de Black Mirror, Minority report si Children of men.
Tot ce parea SF in Minority Report in 2002 exista deja, inclusiv predictabilitatea celui care va face o infractiune – teoria pe care se bazeaza firul narativ.
Dar e o secventa in Children of men – un film facut in 2007 despre viata din 2027 cand specia e pe cale de disparitie ca urmare a razboaielor si efectelor tehnologiei– in care ma regasesc in momentele in care ma gandesc ca tehnologia e foarte intruziva cu noi. Eroul principal Clive Owen se duce acasa la tatal lui cu femeia care ar putea salva specia ca sa-l ajute si sa gazduiasca o vreme.
Tatal e interpretat de Michael Caine, care locuieste intr-o padure, aparent flower power, dar in realitate aparandu-se de orice invazie tehnologica. Are totul autonom, gradina, lumina, apa si-si duce viata linistit.
Ceea ce imi doresc si mie. Si, daca vreti, si dvs.
