Els propis constructors de la intel·ligència artificial han anunciat, fa dies, un AI-pocalipsis que acabarà amb tots nosaltres. Comença un dels profetes, i la resta el segueixen, en una bonica coreografia, sabent que tots els mitjans ho explicaran arreu. No n’ha faltat ni un, dels interessats, ni dels proveïdors de la tecnologia necessària (Nvidia, per exemple), tampoc.
Però el sol fet que ho anunciïn qui l’està construint i hi està comprometent tots els diners que no tenen, ja ho fa una mica sospitós.
Unes quantes opinions ben informades
Els models no son perfectes, tenen errors i diuen mentides. Però estan integrats arreu, perquè la necessitat rendibilitzar-los és alta, i el mercat no dóna més de si: pagar per usar-los, sigui amb llicències o tokens, per generar vídeos de gatets, programes de consum propi que no sabíem que necessitàvem o software professional que ningú sabra com mantenir no és prou.
Para no arder en su propia pira, los modelos necesitan convertirse en la infraestructura crítica de gobiernos, ejércitos y empresas. O, como dijo Ursula von der Layen en su discurso sobre el estado de la nación europea, “la capa fundacional de nuestra economía y seguridad” — Marta Peirano a Porqué dicen que quieren parar, El País
No és casual que ara surti tot. Diferents eixos i situacions (econòmics, tecnològics, estratègics), expliquen el perquè ara del missatge. I no expliquen perquè no han volgut fer cas a totes les crides, normativa i agències ja existents:
El relato que se ha instalado es el de una industria que, tras años de avanzar sin mirar atrás, descubre de golpe sus propios riesgos y decide, generosamente, pedir que alguien la regule. Es un relato atractivo. Conviene matizarlo bastante, porque llevamos años advirtiendo de estos riesgos desde entornos muy concretos —agencias, leyes, informes científicos internacionales— y España, de hecho, estuvo en primera línea de ese esfuerzo. Que ahora se presente como una revelación de última hora resulta, cuando menos, llamativo. — Carme Artigas a La IA se ha caído de un guindo, elDiario.es
Perquè ens centrem en hipotètics riscos futurs, que podrien passar, i no en els actuals danys que ja estan passant?
Meanwhile, what’s really existential is AI powering autonomous weapons, killing machines, that are actually being used in warfare. The climate catastrophe is a real thing that could be exacerbated by what these tech companies are building. Bosses are using AI as an excuse to get rid of their pesky workers. — One of AI’s Fiercest Critics Says All the Doom Talk Is ‘Meant to Distract Us’, Wired
Advertir d’un risc que tu estàs creant és una estratègia de marketing… molt preocupant, per la irresponsabilitat que destil·la.
[…]Cal Newport ha puesto nombre recientemente a un fenómeno que muchos intuían, pero que nadie había definido con precisión: el _doom trolling_doom trolling[…].
No es un ejercicio de transparencia, sino una estrategia comunicativa que combina dos mensajes aparentemente incompatibles: “lo que estamos construyendo podría tener consecuencias catastróficas” y, al mismo tiempo, “seguiremos construyéndolo porque no tenemos alternativa”. El resultado es un discurso que desplaza la responsabilidad desde quienes desarrollan la tecnología hacia una supuesta fatalidad histórica. — Ramón López de Mantaras a ‘Doom trolling’: el gran negocio del miedo a la IA, El País
Ara bé, quins riscos té la IA realment? Quins factors hi intervenen? És una tempesta perfecta, un peix que es mossega la cua de la necessitat d’inversió per créixer i superar el rival, multifactorial: les necessitats de càlcul i consum d’aigua i energia dels centres de dades, el preu de l’energia, la carrera entre tecnològiques oferint productes molt similars, la dependència i alhora influència en el govern americà, i la carrera amb la Xina. Tot ben salpebrat, mirat des d’una torre d’ivori, mentre la resta de la humanitat pateix les conseqüències físiques d’un (suposat) núvol digital. Josep Maria Ganyet i Román Orús parlen de tots aquest punts a La gran crisi de la intel·ligència artificial: risc real o relat interessat?.
En resum, no semblen pas crides basades en realitats, sinó relats interessats pels motius esmentats més adalt:
Claims of incipient, dangerous superintelligence are not based in good scientific or engineering practice. Rather, they are narratives based in ideologies of transhumanism, eugenics, and wishful thinking about imagined future digital humans. — Timnit Gebru a Don’t be fooled by this summer of AI hype, Technology Review
D’on ve i cap on va, tot això?
El nivell d’interconnexió i autonomia dels sistemes IA, la interdependència de tots els serveis online en un punts centrals (on està la famosa internet descentralitzada?) i la pobresa dels sistemes de defensa de les xarxes no ajuden i poden fer que en passi una de grossa a nivell econòmic i financer i que l’impacte social sigui una gran crisi, ja pot ser. Que la IA acabi amb la humanitat, físicament, potser exagerem una mica, no sé.
Ara bé, si en un futur més o menys proper o llunya passa alguna cosa, la culpa no serà (només) de la IA, sinó del que volem fer amb ella, del que li ensenyem i del que li permetem fer, de com la construïm nosaltres. Per més avançada que sigui, la IA s’aprofita de les debilitats que troba en el seu camí, sigui de sistemes mal securitzats i amb forats d’entrada (i no tenen perquè ser zero days: ports no tancats, webs mal configurades) o sigui perquè els hem ensenyat (han llegit) com prendre-li el pèl a la baula més dèbil de la cadena, les persones: si poden donar consells psicològics i els hi expliquem les nostres penes, no ho poden prendre també con un altre forat de seguretat, en un altre entorn? (per ells, tot son sistemes, amb regles diferents)
N’ha après molt, la IA, llegint tot allò produït per la humanitat… per bé i per mal.
Ara bé, no ens cal anar a un futur catastròfic on un o diversos Skynets o HAL9000s prenguin consciència de si mateixos i s’entenguin com éssers vius i ens vulguin eliminar abans no els desendollem.
En un present ben actual, no ens cal l’espantall de la IA auto-conscient o rebel per acabar amb nosaltres (o fent un sinònim maldestre, amb la nostra societat actual). En tenim prou amb el capitalisme extractiu rampant, el benefici econòmic per davant de tot, ignorar la pobresa i l’educació (van de la mà), el canvi climàtic, els fenomens extrems o els recursos esgotats, i els líders il·luminats que aconsegueixen fer-se amb el poder i no troben qui els pari els peus.
El desplegament de la IA per part de les empreses que ara ens alarmen i es presenten com salvadores i sobretot, els recursos físics que demana la IA a un planeta que s’esgota per moments son els perills reals. L’´ús de la IA en guerres i règims dictatorials o de polítiques extremistes son el vertader perill, el desplegament (sempre per seguretat) de sistemes d’armes autònoms, capaços de disparar sense intervenció humana (Ucraïna és el gran laboratori) o les massacres a Palestina amb col·laboració de la capacitat de processament de les grans tecnològiques, tot això és JA un perill.
De veritat deixarem que qui genera tot això i ho fa servir per aquestes finalitats sigui realment qui faci les regles? Europeus, xinesos, la ONU i molts d’altres llocs ja tenen organismes i lleis per gestionar la IA. Només cal fer-les complir, tot i que no siguin sistemes perfectes.
No és apocalipsis. És alarmisme, interessat. Geopolítica i finances, de la mà, la guilla guardant el galliner.