reading

1. Màquines + ètica

La robòtica, la intel·ligència artificial, el machine learning, el big data, la blockchain o la realitat virtual i augmentada tindran un paper molt destacat en àrees com l’educació, la salut, la seguretat, els transports, la logística, la comunicació, l’entreteniment, l’atenció als clients de les empreses i la cura de la llar en els propers anys, segons es desprèn d’un informe del centre d’investigació Pew, que conté les reflexions de gairebé dos mil experts. Els tècnics i científics que formen part d’aquest grup reconeixen que els progressos poden destruir alguns llocs de treball, especialment els més bàsics o els que requereixen menys formació, però aclareixen que històricament aquest factor ha generat l’efecte contrari, és a dir, ha ajudat a crear llocs de feina.

Aquestes transformacions portaran canvis més profunds en les relacions socials i laborals, entre d’altres. De manera que si els sistemes educatius dels diferents països no s’adapten a les futures innovacions, arribaran les dificultats. Passarà el mateix amb les institucions polítiques i econòmiques en cas que no sàpiguen com integrar els robots i la resta d’agents digitals. Hem de ser optimistes: en el passat, després de la revolució industrial, ja es van superar reptes de gran abast.

La cultura derivada d’aquest fenomen, participativa i exigent alhora, queda reflectida en el conjunt d’entorns organitzats al voltant de la tecnologia, en què qualsevol usuari pot convertir-se en emissor i receptor de tota mena de missatges —amb text, àudio, gràfics, fotografia, vídeo i múltiples combinacions d’aquests recursos— i en els quals pot interactuar amb audiències disperses i llunyanes, utensilis permanentment connectats, dispositius artificials amb la capacitat d’aprendre, edificis i ciutats intel·ligents…

Aquesta cultura requereix habilitats inèdites que permetin als individus vincular-se amb els mitjans —convencionals, 2.0, etcètera— com a creadors i distribuïdors de continguts i també que es belluguin en àmbits on el que és real i virtual s’entrellaça. Sobre aquestes eines i plataformes —dispositius mòbils, wearables, xarxes socials…— es conformen grups humans i comunitats de pràctica que creixen al voltant de la curiositat, l’interès, la passió o la militància per assumptes diversos: la política, l’esport, l’art i qualsevol camp o activitat que se’ns pugui acudir.

Institucions, empreses i actors privats competeixen simultàniament en diferents terrenys, canals i suports per atreure consumidors, clients i, fins i tot, robots. El canvi de paradigma està sent tan radical i ampli que encara no ha estat definit amb la precisió que voldríem. La perspectiva no és gaire favorable per als teòrics de la transformació digital; les novetats com la internet de les coses, la intel·ligència artificial, el machine learning, el big data o la informàtica al núvol compliquen cada dia la seva feina.

Els sistemes ciberfísics que combinen infraestructures amb software, sensors o nanotecnologia estan conformant una superesfera que ens rodeja totalment. És allò que es podria denominar l’«absolut digital»: l’estructura que ens envolta de forma constant i, sovint, invisible, des que ens llevem fins que anem a dormir, a casa, al carrer, a l’escola, a la feina, quan estem comprant, mentre viatgem.

La finalitat d’aquest llibre és explicar les claus d’aquest canvi en què estem immersos de manera que tots els conceptes d’arrel tecnològica que han aparegut fins aquí, les seves ramificacions i les seves conseqüències s’entenguin sense tenir grans coneixements d’informàtica, enginyeria, economia o filosofia.

Maquinètica s’allunya intencionadament de l’estil i del to dels llibres tradicionals de divulgació, amb definicions de conceptes, evolucions històriques, exemples del present i tendències de futur. Amb l’objectiu d’incrementar al màxim la comoditat de la lectura i per la relació que hi ha entre els temes tractats, s’ha optat per encadenar consideracions documentades a partir de conceptes significatius, ordenats per la seva afinitat temàtica. No es busca esgotar cap àmbit ni apartar del focus els individus i el conjunt de la societat.

El material, que es pot llegir seqüencialment o començant per qualsevol capítol i seguint pels que més interessin al lector, és el resultat d’una estada a la St. John’s University de Nova York a finals del curs 2017-18, i també de l’actualització de les meves assignatures a la Facultat de Comunicació i Relacions Internacionals Blanquerna (Universitat Ramon Llull), de la investigació ‘Influencers’ en la comunicació política a Espanya (CSO2017-88620-P), finançada pel Ministeri d’Economia, Indústria i Competitivitat, i d’entrevistes i anàlisis portades a terme els últims mesos als Estats Units, el Canadà, la Xina, Alemanya o la Gran Bretanya per als mitjans de comunicació amb què col·laboro: La Vanguardia, Diari de Girona, Nació Digital i Ràdio 4.

La tecnologia digital és el principi d’aquest volum, però el seu perímetre és molt més ampli: de la internet de les coses i els wearables al big data i l’analítica, de la intel·ligència artificial i el machine learning als dispositius mòbils i les xarxes socials, de la realitat virtual i augmentada als videojocs i els robots, etcètera. I al centre, sens dubte, nosaltres, les persones.

Així havia de ser, i voldria pensar que així ha estat, perquè ens calen llibres que generin debat basant-se en experiències viscudes per qualsevol. Proliferen les obres de consulta, els manuals d’ús i les investigacions essencialment quantitatives sobre les diferents peces de l’anomenada «quarta revolució industrial» o «indústria 4.0» —robòtica, sensors, smart cities, data science, deep learning, blockchain, etcètera—. No obstant això, acostumen a dirigir-se a uns públics tan avançats com aïllats i escassos en nombre. En canvi, el que s’explica aquí ens afecta a tots.

El títol del llibre és un neologisme que neix de la fusió de dues paraules ja existents —màquina i ètica— i que enllaça els seus respectius significats. Així, una màquina és un artifici que aprofita o dirigeix l’acció d’una força, però també un conjunt d’aparells combinats que reben una forma d’energia i la transformen en una altra o bé en un efecte determinat. I l’ètica és el conjunt de normes morals que regeixen la conducta d’una persona en qualsevol àmbit de la vida. Com es combinen aquests mots en plena quarta revolució industrial? Doncs estenent aquesta part de la filosofia que tracta del bé i del fonament dels seus valors a l’agregat de les diverses parts de naturalesa tecnològica, però amb capacitat per pensar, aprendre i jutjar, que s’ordenen entre si per formar un tot: la indústria 4.0.

La internet de les coses, la robòtica o els sistemes d’aprenentatge automàtic i d’intel·ligència artificial han d’afrontar desafiaments que, prèviament, han incumbit els humans. La majoria d’aquests problemes són de naturalesa pràctica o instrumental, però també n’hi ha de caràcter moral. Per això, Maquinètica sona com el que és: l’ètica de les màquines.

2. Valors fonamentals

El significat més antic d’ètica —del grec ethos, això és, comportament, costum— remet al caràcter, a allò que s’aconsegueix mitjançant un hàbit i no de forma natural. Aquests hàbits neixen a partir de la repetició. Durant tota la vida, un individu realitza accions, la reiteració de les quals genera hàbits i, alhora, aquests determinen actituds. D’aquesta manera, vivint, el subjecte es fa a si mateix.

L’ètica s’ha acabat configurant com la branca de la filosofia que investiga les normes de la conducta per formular les regles que convenen al màxim grau d’evolució psicològica i social. L’objectiu que li correspon, com a disciplina, és aclarir l’experiència humana que és la moral, a més de reflexionar-hi i fonamentar-la. Perquè la moral té un abast més gran que l’ètica, està per sobre d’allò físic, és allò a què se sotmeten els valors.

El filòsof alemany Georg Hegel va advertir que l’acompliment del deure —subjectiu— és abstracte. Perquè arribi a ser concret, cal que s’integri en l’obediència de la llei moral, que es manifesta —objectiva— a través de les normes i els costums de la societat. Per a la convivència normal, cal que predominin tendències més adequades al desenvolupament de la vida individual i col·lectiva. Aquestes orientacions s’imposen a la persona amb caràcter habitual i permanent, i perquè cadascú aprengui a qualificar els seus actes aquestes aptituds es construeixen en allò que es pot denominar «sentit moral».

L’ètica pretén la realització de la persona per mitjà dels valors. L’axiologia —del grec axios, allò valuós o estimable, i logos, ciència— és la teoria dels valors, dels positius i dels negatius. Aquesta disciplina analitza els principis mitjançant els quals s’arriba a la conclusió que alguna cosa és o no és valuosa.

Un valor implica una preferència normativa o vital arrelada, organitzada i jerarquitzada a la psique dels subjectes d’acord amb altres valors i creences. Cada individu té una escala de valors. El nombre de valors que posseeix una persona és relativament petit. Els valors veritables, els que indiquen íntimament com comportar-se, per on anar, etcètera, són pocs. Una gran quantitat de valors equivaldria a la dispersió i a la despersonalització.

Els valors s’arrelen a la condició de l’existència, motiu pel qual operen com a punt de mira i són el darrer objectiu en la formació de la personalitat. Els valors són pautes i guies de la conducta. Ens interroguem constantment sobre el significat d’allò que som i d’allò que fem, i també del món que ens envolta. Els individus necessitem obrar amb un propòsit clar, i l’escala de valors ens ajuda a escollir entre camins. Aquesta referència permet resoldre conflictes i prendre decisions.

L’escala de valors serà responsable en cada cas dels principis i regles que es posin en funcionament. La manca d’un sistema de creences ben definit deixa el subjecte en el dubte, alhora que el lliura a mans —o ments— alienes. A més, els valors són la base de l’autoestima. Com assenyalava el psicòleg William McDougall, aquest «sentiment base», de respecte a un mateix, necessita un sistema de valors coherent per veure’s reforçat.

Una dona o un home saben realment qui són si són conscients del que prefereixen i si són capaços d’aclarir els objectius de la seva vida amb un cert rigor. Això es descobreix havent assimilat alguns valors que els ajudin a comprendre el món i a donar sentit a la seva relació amb allò que els envolta.

Des que el filòsof i pedagog Edward Spranger va escriure que hi havia valors teòrics, econòmics, socials, polítics, estètics i religiosos, s’han anat succeint les classificacions per ordenar un món tan complex com el nostre. Però la discussió conceptual es pot reduir a la dicotomia següent: quan algú pensa que un conciutadà té un valor, està imaginant que li agrada seguir una determinada forma de comportament i no pas una altra.

Per al professor Milton Rokeach, l’ideal seria preguntar-se per la seva situació interior en el camp finalista i en l’instrumental. Els valors finalistes són els més abstractes. Malgrat que n’hi ha de personals i d’interpersonals, tenen una clara aspiració a la universalitat: amor, amistat, realització, prosperitat, saviesa, harmonia, estabilitat, pau, igualtat, llibertat, bellesa, plaer, família, felicitat, plenitud… Els instrumentals són els valors referits a l’estima que es té per determinades conductes. Hi ha persones honrades, educades, responsables, lògiques, eficients, independents, amb autocontrol, ambicioses, valentes, obertes, animoses, afectives, creatives, netes, magnànimes, obedients, servicials…

Aquesta escala sempre és relativa; en funció de la consideració social de cadascú, o del context o la situació viscuts, es dona preferència a uns valors o a d’altres. Ètica i valors són inseparables. L’objectiu de l’educació moral és que, a més de conèixer determinats valors, els subjectes els incorporin a les seves vides.

Els individus tenen un coneixement operatiu sobre la diferència entre el bé i el mal, i sobre la possibilitat de dur a terme accions bones o dolentes. La bondat o la maldat dels actes no només depèn de la seva realització física, sinó també de la relació amb la seva finalitat i la seva percepció.

L’expressió de l’ordre que regula les accions humanes és la llei, que està estretament vinculada a l’ètica i la moral. La consciència, que inclou el coneixement de la llei, acaba sent la jutgessa de la moralitat. Des d’aquesta perspectiva, la llei justa no s’ha de considerar una coacció a la llibertat, perquè expressa l’ordre que regula la bondat dels actes. No és estranya als humans, neix de la seva naturalesa.

El bé, la veritat, la felicitat, la virtut o la bellesa són nocions que, des del principi, han guiat el comportament i les aspiracions de les persones i les societats. Tot i que hagi estat de forma intuïtiva, dones i homes han definit els seus valors al llarg de la història i, posteriorment, els han reflectit en lleis, costums, religió i cultura.

Els valors són criteris per regir el comportament. La seva pràctica identifica un subjecte amb la manera d’estar al grup al qual pertany. És així com s’afirma, també avui, una determinada concepció de la humanitat. Les creences, els hàbits, les actituds i les respostes individuals i col·lectives davant dels reptes de la vida quotidiana i la història formen part d’uns processos dinàmics que s’entrellacen de generació en generació, influïts per la tradició, els somnis, els desitjos, la confiança, les pors i les frustracions de cada subjecte i de la comunitat en la qual s’integra.

Aquest seguit de factors dona lloc a la mentalitat. Totes les activitats de les persones, també el llenguatge verbal i el gestual, corresponen a un entorn mental conjunt i condicionen les motivacions, les eleccions i les maneres d’afrontar les conseqüències dels actes humans. Per entendre millor les mentalitats col·lectives, cal fixar-se en la història. Tot i que novetats com la revolució digital semblin una invitació a l’oblit, el llegat de les generacions passades és tan important com les accions presents i les promeses futures.

La investigació aplicada al coneixement científic i com s’estén a la tecnologia són dues de les tasques més rellevants a l’època actual, però no són oasis morals. Ciència i tecnologia són sistemes intencionals d’acció. Es desenvolupen segons valoracions, per la qual cosa són susceptibles d’avaluació moral. El progrés, per exemple, és el principal valor defensat quan es parla de ciència i tecnologia. Però totes dues disciplines no es troben mai desvinculades d’interessos i passions.

En entorns oberts com les xarxes socials, regeixen les mateixes lleis sobre el profit individual i col·lectiu que en àmbits més reduïts. És a dir, per obtenir un rèdit, el millor que poden fer els internautes és comportar-se tal com voldrien que els altres els tractessin a ells mateixos. Un equip d’investigació de l’institut alemany Max Plank hi afegeix que no hi ha unes normes noves i específiques que regulin els mitjans 2.0. La conclusió d’aquest treball és clara: els usuaris no haurien de «desestimar les seves possibilitats» al web, ja que els grans problemes es comencen afrontant de la mateixa manera que els petits.

Qüestions d’abast mundial com l’emergència climàtica poden entendre’s «com a dilemes socials que involucren diversos jugadors» i s’han d’escometre seguint aquesta fórmula de cooperació: la generositat en línia d’un mateix té com a límit l’egoisme dels altres. Com apuntava el matemàtic Robert Axelrod, l’ideal seria que el principi que imperés en l’univers digital fos el de la confiança en l’altre fins que el seu comportament convidi a pensar el contrari.

No hi ha ciència per la ciència ni tecnologia per la tecnologia. Totes dues constitueixen un organisme dinàmic en el qual conflueixen pràctiques, accions i institucions que busquen assolir certs objectius, que són determinats per necessitats, desitjos i valors. En conseqüència, com que l’ús que se’n deriva no és neutral, la tecnologia pot ser aplaudida o condemnada en funció de la seva finalitat, els resultats i les conseqüències que produeixi, especialment sobre les persones com a agents morals.

La tecnologia és més que un conglomerat d’artefactes i tècniques. Si els sistemes mitjançant els quals es produeix el coneixement i els sistemes tècnics a través dels quals s’aplica són intencionals, per força apareixen problemes ètics sobre les motivacions dels actors, els propòsits fixats per la investigació i els resultats obtinguts, siguin o no els perseguits.

Cap acció vinculada a la tecnologia és inofensiva. S’obre així una parcel·la molt interessant per a l’anàlisi. Els telèfons mòbils, per exemple, no es van crear per fer fotografies o escoltar música. I Facebook pràcticament va néixer per venjança i per negoci, no per crear comunitats socials sense límits ni fronteres.

3. Naturalment artificial

La primera revolució industrial va tenir lloc a finals del segle xviii. La va propiciar la màquina de vapor i va portar la mecanització de les fàbriques. La segona es va desenvolupar cent anys més tard; l’electricitat va afavorir la divisió de les tasques i la producció massiva. Un segle després, amb la tercera revolució i les tecnologies de la informació, es va completar l’automatització d’aquestes accions. La quarta ha popularitzat els drons, els vehicles sense conductor, les cases i les ciutats intel·ligents, tota mena de robots… Quin lloc ocupen les persones en aquest paisatge?

Tim O’Reilly va encunyar el 2004 el terme web 2.0 per fer referència a un univers dominat per aplicacions que faciliten la col·laboració i la informació compartida. Dues temporades més tard, entrava en escena Twitter, el servei de microblogging més popular. Mitjans i xarxes com aquesta, Facebook, YouTube o Instagram, és a dir, allà on —també— habitem, han crescut des d’aleshores de forma exponencial.

La ràdio va necessitar gairebé quatre dècades per reunir cinquanta milions d’oients als Estats Units. Aquesta fita va costar tretze anys a la televisió. La popular pàgina de Mark Zuckerberg va arribar als cent milions d’usuaris en només nou mesos. L’espai virtual ha trencat el monopoli de les empreses de la comunicació i dels actors polítics a l’hora de produir i distribuir continguts. Ja no són vàlids els càlculs clàssics sobre qui —i com i quan— genera dades d’aquest tipus i sobre qui —i com i quan— les consumeix.

En general, tota comunitat té una cultura. Però hi ha una diferència notable entre cultura i comunitat. La primera opera com una sèrie de percepcions, normes, història i conceptes similars. Està recollida en la memòria col·lectiva, els llibres, les cançons… i les pàgines web. La cultura es pot aprendre, encara que determinats col·lectius pensin que és necessari haver-hi nascut per ser-ne considerat membre. Una comunitat, en canvi, és un conjunt de relacions. Res no impedeix adoptar una cultura: és possible ensenyar els costums i les tradicions d’un grup a la gent, i viure-hi d’acord. No s’aconseguirà mai reproduir una comunitat en concret, perquè aquesta depèn dels individus que la componen.

Quan parlem d’internet, les xarxes socials o els dispositius mòbils, ens encanta referir-nos a les comunitats. Ho fan les empreses i les administracions, els directors de màrqueting i els polítics, els periodistes i els creatius publicitaris, els grans influencers i els usuaris més modestos.

Però, què és exactament una comunitat? Per començar, cada participant hauria de deixar clar què hi aportarà i què n’espera rebre a canvi. Aquestes expectatives haurien d’encaixar, si més no, fins a cert punt. També caldria determinar qui forma part del grup i qui no. Altrament, res no tindria sentit. Els membres del col·lectiu haurien de sentir que hi han invertit, per la qual cosa marxar-ne els hauria de resultar psicològicament difícil. El pitjor càstig en un grup fort és l’expulsió, l’exili, la marginació, paraules que evoquen la por de ser apartat. Les regles haurien de ser inequívoques. Una d’aquestes normes hauria de consistir en la possibilitat de recórrer si alguna de les altres es trenca.

Les discoteques en què els porters decideixen qui hi entra i qui en queda fora poden ser un exemple vàlid de comunitat si els professionals que regulen l’accés al local saben com és la clientela del negoci i si els habituals es coneixen entre si. Els integrants d’aquestes agrupacions poden oferir el mateix que els navegants al web: temps i diners. I, per sobre d’això, uns principis que són alhora guia i límit.

Moltes d’aquestes regles són invisibles fins que són violades o infringides. Llavors, tornen a ser explicitades —en algun altre moment ho van ser, com a mínim, al principi, quan es va constituir la col·lectivitat—, es discuteixen i es pren una resolució, per part d’un moderador, a través d’una votació o d’una altra manera.

Les administracions hi poden exercir un paper decisiu, i això no ho plantegem precisament en positiu, ja que l’experiència demostra que la seva intervenció tendeix a desunir les comunitats. Si els governs en regulen excessivament el funcionament o si els proporcionen massa finançament i facilitats, els seus components poden caure en la temptació de la passivitat. En el moment en què les autoritats públiques més hàbils volen anul·lar un grup actiu a internet, li donen un cop de mà.

El professor de l’Institut Tecnològic de Massachusetts (MIT) David R. Karger recomana mantenir un recel «sa» respecte a l’aplicació de les eines digitals contemporànies a tots els àmbits i facetes de la vida. Per aquesta raó, l’investigador aconsella que els ciutadans no renunciïn a exigir que aquells que ens vigilen a través d’aquests instruments també siguin controlats. Ara bé, des de l’Institut per al Futur, Richard Adler observa «forces fosques» que impedeixen que aquestes innovacions puguin ser sotmeses a una supervisió que en limiti l’abast.

El filòsof Stephen Downes, del Consell Nacional d’Investigació del Canadà, diu que la xarxa difumina fronteres i anul·la precaucions que porten els usuaris a confiar en altres navegants de qui no saben pràcticament res: ni el nom, ni el lloc de residència, ni l’ocupació… Veus crítiques com la de l’actor nord-americà Jim Carrey protesten periòdicament contra el poder creixent dels algorismes. I els mateixos algorismes acaben vampiritzant les denúncies en propiciar que les empreses de sempre —Google, Facebook o Apple, per exemple— s’aprofitin del seu potencial comercial per captar més visites, per posar més anuncis i per continuar alimentant aquesta maquinària.

Les dades massives, l’analítica web, la informàtica al núvol, la internet de les coses, l’aprenentatge automàtic, la intel·ligència artificial, la robòtica, els drons o la geolocalització generen en els ciutadans el desig de tenir una experiència digital fluida i, encara que soni paradoxal, natural. Amb una única contrasenya en línia es pot accedir a Instagram per comentar una fotografia o establir una comunicació remota amb la nevera de casa per confirmar que cal encarregar llet semidesnatada al supermercat.

En canvi, l’usuari comú també vol ser una entitat discreta —gairebé invisible— quan visita determinats llocs virtuals: bancs, centres mèdics, serveis de dating… De vegades ens convé tenir una identitat única perquè, d’aquesta manera, les operacions són més àgils; en altres ocasions, preferim dispersar-nos pel ciberespai en forma de petits fragments sense connexió, com assenyala l’empresària Esther Dyson.

Tant els governs com els agents privats són conscients de la dicotomia que es produeix a les regions on s’estan introduint aquestes tecnologies. Per aquest motiu, s’han desenvolupat múltiples sistemes de protecció de la intimitat. Lluny de pretendre un grau uniforme de privacitat, el més freqüent és propiciar situacions i dissenyar instruments que permetin que cadascú triï els límits —o l’exposició— que vulgui. Per trobar l’equilibri, els internautes haurien de saber com tractar els dos tipus d’informació que disseminen per la xarxa: quan efectuen intercanvis o quan actuen en obert.

La intimitat del consumidor és un assumpte moral bastant senzill: hauríem de tenir dret a escollir quines dades volem revelar i què se’n farà, d’elles, tot i que calgui renunciar a una porció dels nostres privilegis. Però un bon nombre de sol·licituds d’informació no són transaccions entre iguals, ja que, com afirma el comunicòleg Yong Jin Park, impliquen alguna amenaça. Per exemple, és freqüent que hàgim de proporcionar certs detalls per obtenir una cobertura amb l’assegurança. Els nens, per assistir a espectacles infantils, es veuen impel·lits a donar informació que els seus pares no haurien estat disposats a facilitar.

La societat, com a actor col·lectiu, sovint manifesta curiositat per les dades dels seus integrants: a qui voten, quants diners deuen o si tenen o no antecedents penals. Aquest interès es dispara quan estem davant d’individus públics: polítics, esportistes, intel·lectuals… Suposa un avanç notable la construcció d’eines per al control d’aquest material tan sensible, que discorre sobre el web, els dispositius mòbils, les plataformes 2.0, la roba i els aparells connectats, els vehicles autònoms, els assistents personals o els robots industrials. Però, en la preservació de la intimitat, hi ha en joc molt més que simples dades.

Governs d’arreu del món i empreses de sectors ben diferents acumulen dades sobre la situació personal, econòmica o mèdica, per exemple, de milions d’internautes. És impossible moure’s per la xarxa sense que ningú reclami als usuaris alguna mena d’informació. De fet, s’ha assumit que les dades són la moneda més valorada en l’entorn virtual. Allò que aparentment és de franc en realitat no ho és.