Que la democràcia com la coneixem en l’últim segle a Occident (o els últims 50 anys, aquí) està molt amenaçada és ja coneixement comú, i sense ser alarmista ni exagerar: és un fet.

Amenaces externes (dictadures i règims autoritaris hostils) i amenaces i febleses internes (extremismes polítics i religiosos, o interessos econòmics, per exemple) desdibuixen la política i els temes d’interès comú, polaritzant el discurs i desdibuixant o amagant realitats (culpabilització de grups minoritaris, greenwashing, instrumentalització de problemes socials…).

Ja fa anys, a més, que les xarxes socials i els grups de missatgeria instantània serveixen per augmentar exponencialment l’impacte de tots aquests missatges, fraccionant la societat, creant bombolles i realitats paral·leles, aprofitant les pròpies garanties de llibertat d’expressió i del sistema i la possibilitat d’accés a un públic immens, impossible amb mitjans antics (o d’un impacte social i temporal molt més limitat).

Això ens porta a la construcció de realitats paral·leles, que porten a l’extremisme i la desafecció de la resta de la societat, a una mena de tribalisme político-virtual, moviments que proposen solucions fàcils a problemes complexos, moviments efímers en termes de durabilitat política, però que, encadenats, o reencarnant-se (Alvise, Nigel Farrage en les seves reedicions, la Lega Norte) i combinant-se, acabant essent un atac al cor de la democràcia: la convivència, el respecte pels altres i el diàleg.

En Verdad y política, Hannah Arendt advirtió que la mentira en política no es solo una herramienta útil para el engaño sino una máquina capaz de alterar la realidad misma.

— Marta Peirano a Robollamadas y otros bulos: el impacto de la inteligencia artificial en las campañas electorales , El País (2/7/2024)

Tot es transforma en arma llancivola, cosa que aquells qui tenen interessos específics, aprofiten ampla i desacomplexadament: l’ús de robots basats en xarxes d’ordinadors zombies que permeten crear campanyes de correu desinformatiu, atacs DDoS a actors enemics (governs, ONG, comprovadors de veritat, etc.), els trolls automàtics a les xarxes socials, els comptes falsos de desinformació a les xarxes de missatgeria instantània està a l’ordre del dia, i és possible pel relatiu baix cost econòmic que els suposa als seus patrocinadors (siguin elements estatals o polítics): eines automatitzades i milions de persones treballant-hi, ho permeten (no pensem només en norcoreans, xinesos o hackers russos, seguint el tòpic: segurament també hi ha molta gent a Àsia i Àfrica amb accés a ordinador i sense altra manera de guanyar-se la vida).

Però si amb unes eines d’“economia tradicional”, automatitzades, ja és possible desestabilitzar les democràcies (el cost per contrarrestar totes aquestes campanyes, sigui atacant l’origen o intentant contrarrestar la informació és elevadíssim, social i econòmicament)… que passarà quan tot això s’automatitzi encara més amb IA? O, potser més que automatitzar hem de parlar d’autonomitzar? Què passarà quan el cost econòmic sigui zero i els sistemes s’interconnectin del tot, aprofitant tots els forats que tenen els nostres sistemes legals i econòmics (paradisos fiscals, errors en sentències, temps fins fer judicis, enginyeria fiscal…)

En Bruce Schneier fa unes reflexions molt interessants al respecte, i proposa que potser ens hem de repensar el sistema com està concebut:

The political and economic systems of governance that were created in the mid-18th century are poorly suited for the 21st century. They don’t align incentives well. And they are being hacked too effectively.

At the same time, the cost of these hacked systems has never been greater, across all human history. We have become too powerful as a species. And our systems cannot keep up with fast-changing disruptive technologies.

We need to create new systems of governance that align incentives and are resilient against hacking … at every scale. From the individual all the way up to the whole of society.

For this, I need you to drop your 20th century either/or thinking. This is not about capitalism versus communism. It’s not about democracy versus autocracy. It’s not even about humans versus AI. It’s something new, something we don’t have a name for yet. And it’s “blue sky” thinking, not even remotely considering what’s feasible today.

Throughout this talk, I want you to think of both democracy and capitalism as information systems. Socio-technical information systems. Protocols for making group decisions. Ones where different players have different incentives. These systems are vulnerable to hacking and need to be secured against those hacks.

[…]

The problem ultimately stems from the way democracies use information to make policy decisions. Democracy is an information system that leverages collective intelligence to solve political problems. And then to collect feedback as to how well those solutions are working. This is different from autocracies that don’t leverage collective intelligence for political decision making. Or have reliable mechanisms for collecting feedback from their populations.

Those systems of democracy work well, but have no guardrails when fringe ideas become weaponized. That’s what misinformation targets.

[…]

And AI will supercharge hacking. We have created a series of non-interoperable systems that actually interact and AI will be able to figure out how to take advantage of more of those interactions: finding new tax loopholes or finding new ways to evade financial regulations. Creating “micro-legislation” that surreptitiously benefits a particular person or group. And catastrophic risk means this is no longer tenable.

So these are our core problems: misaligned incentives leading to too effective hacking of systems where the costs of getting it wrong can be catastrophic.

[…]

Modern democracy uses elections to determine who represents citizens in the decision-making process. And all sorts of other ways to collect information about what people think and want, and how well policies are working. These are opinion polls, public comments to rule-making, advocating, lobbying, protesting and so on. And, in reality, it’s been hacked so badly that it does a terrible job of executing on the will of the people, creating further incentives to hack these systems.

[…]

the systems of governance we designed at the start of the Industrial Age are ill-suited to the Information Age. Their incentive structures are all wrong. They’re insecure and they’re wasteful. They don’t generate optimal outcomes. At the same time we’re facing catastrophic risks to society due to powerful technologies. And a vastly constrained resource environment. We need to rethink our systems of governance; more cooperation and less competition and at scales that are suited to today’s problems and today’s technologies. With security and precautions built in. What comes after democracy might very well be more democracy, but it will look very different.

— Bruce Schneier, Rethinking Democracy for the Age of AI

(els destacats son meus)

Potser es tracta d’això, de repensar el sistema, d’alinear els objectius amb els mitjans que tenim. De no pensar en uns sobre els altres, sinó en el bé comú, no des d’una perspectiva comunista o centralizada, sinó des d’una idea de conversió d’interessos, de cooperació vs confrontació.

Per a tot això, caldria repensar el sistema des de la base, perquè els mitjans que podem tenir ara no son els de fa 200 anys: permeten una comunicació continua, permeten automatitzar decisions i consultes, permetrien de manera col·laborava evitar els riscos de desinformació (o minimitzar-los).

Però repensar el sistema així no és només canviar les lleis, i els medis i com es fan les consultes i com s’equilibren els poders. Implica també un canvi social, una corresponsabilització de la societat, de tots i cadascun de nosaltres. I implica també que els mitjans, les IA que ens acompanyessin, no poden estar controlades per empreses gegants que ens permeten el seu ús, han de ser del comú, perquè ajuden a governar el comú.

Tot plegat, potser només es queda en un somni ambiciós per la complexitat i els interessos econòmics i polítics (no cal entrar en totes les resistències que ja es veurien a venir)… però quina és la opció si no ens hi posem? Una mena de feudalisme tecno-econòmic? Un extractivisme de recursos, vivint en una bombolla, fins que tot peti?

Com a espècie, ja som massa grans i influents al planeta per ser egoistes i curts de mira, ens cal fer un salt més en la nostra evolució. Com diu l’Eudald Carbonell:

El procés d’humanització culminarà quan la socialització de la tecnologia sigui integradora i hi hagi una consciència crítica d’espècie.

— Eudald Carbonell, entrevista a Crític (30/11/2022)