Ia

L’ús de la IA s’ha generalitzat i adoptat (voluntària o forçadament) de manera massiva, però jo segueixo tenint molts dubtes sobre algunes de les seves aplicacions, dels seus efectes, i de les conseqüències que això pot tenir. Per serendípia, m’he trobat amb el número 221 (gener de 2024) de la revista Valors, amb el monogràfic “Necessitem una ètica per a la intel·ligència artificial?”. Ja fa any i mig llarg dels articles… però amb el desenvolupament actual de la tecnologia, l’impacte social que té, i l’aplicació que hi estem veient en política, comunicació, defensa (diguem-li guerra) i ordre públic (diguem-li ús policial) no ha perdut pas vigència; al contrari, fa de bon revisar, perquè queda més clar que la legislació (o legislacions vigents a diferents parts del món) res tenen a fer si no s’hi aplica una ètica en el mateix origen del sistema. ...

Que la IA és una eina espectacular en determinats camps i usos (científics, tecnològics, mèdics) és indubtable. Que s’ha avançat moltíssim a base d’inversions gegantines en els últims anys, també. I que aquestes inversions s’han de rendibilitzar, i que la manera no és en sectors específics, de nínxol (per més útils social i científicament siguin), sinó posant-ho a l’abast de tothom, també és indubtable. I, per acabar, que aquesta rendibilització va per via comercial, perfilant la gent, fidelitzant usuaris, escrapejant dades i documentació per poder vendre productes (a nosaltres o als revenedors de dades: ull! que seguim essent el producte), també hauria de ser indubtable. ...

La retórica acerca de la guerra de IA entre Estados Unidos y China impula los intereses de las compañías de tecnología más grandes por operar con mayor apoyo estatal y menores restricciones. Mientras tanto, el arsenal de vigilancia utilizado por agencias como la National Security Agency (NSA) y la Central Intelligence Agency (CIA) ahora se despliega en el ámbito doméstico, a nivel municipal, en el espacio intermedio de contratación comercial-militar por parte de compañías como Palantir. Se persigue a los inmigrantes indocumentados con sistemas logísticos de información y captura que antes eran exclusivos del espionaje extralegal.[…] El resultado es la expansión rápida y profunda de la vigilancia y una confusión entre contratistas privados, cuerpos policiales y el sector tecnológico […]. La vida cívica se ha rediseñado y los centros de poder se han fortalecido gracias a herramientas que ven con la lógica del capital, la vigilancia y la militarización1. ...

L’augment de les cerques a Internet via eines d’Intel·ligència Artificial (penseu en qualsevol xat que s’usi) en comptes de amb els cercadors tradicionals (Google, Bing, etc.) estan fent augmentar (molt) les peticions d’informació als servidors de pàgines web. Degut a l’estructura de la xarxa, les pàgines no només estan en un únic servidor sinó que, si son suficientment populars, es van repartint còpies (actualitzades gairebé instantàniament) a diferents punts de la xarxa (arreu del món), per facilitar la rapidesa de visualització. Aquestes còpies es serveixen mitjançant uns serveis (empreses) mitjancers que faciliten el control, actualització i servei. ...

La descoberta 1 aquests últims dies del nou motor xinès de IA, DeepSeek, ha posat potes enlaire tota la comunitat tecnològica i tots els mitjans de comunicació: arreu s’ha començat a parlar del nou model distribuït, de les implicacions d’arquitectura respecte els grans LLM americans, de si ens han venut una moto amb tanta necessitat de GPU’s, centres de dades i consums d’energia, les accions de Nvidia han caigut, han començat a sortir veus que alerten de l’ús de les dades que puguin fer els xinesos i les implicacions geopolítiques que té… ...

Son els agents de la IA generativa el camí a seguir en la comercialització generalitzada de la IA avui en dia? Els agents tenen el seu paper i seran un gran pas endavant per automatitzar tasques i potenciar l’ús de sistemes IA que interactuïn amb altres sistemes, però poden substituir la individualitat de cada un de nosaltres o, millor dit, actuar com si fóssim nosaltres, amb la nostra personalitat i característiques en tasques que no siguin rutinàries, que depenguin del nostre pensament i personalitat? ...

Alguns enllaços interessants sobre IA, una mica més enllà del hype i la tècnica. Thinking Like an AI Ethan Mollick explica com funcionen les IAG actuals (els LLM en concret) sense tecnicismes, de manera molt precisa i apuntant, de passada, algunes sorpreses inesperades en el funcionament (no, no son les al·lucinacions). Big tech transitions are slow (With implications for AI) Segons alguns experts, l’adopció de la AI serà massiva i rapidíssima, amb impactes econòmics i culturals quasi sísmics. Jason Crawford no ho veu així, ho veu més lent, basant-se en anteriors transicions tecnològiques. I el seu argument està ben construït 1. Llegiu-lo. A la inteligencia artificial se le da mal desmentir bulos, pero esta profesora sabe cómo arreglarlo Al·lucinacions, biaixos, mals jocs d’entrenament, llenguatge persuasiu… realment, en el seu afany de donar una resposta, les IAG poden ser molt convincents donades les seves respostes categòriques. I això mateix pot fer que una IA entrenada amb males intencions propagui enganys, generi confusió, serveixi per campanyes malicioses… quina millor manera de combatre una eina que amb la mateixa eina? Si les IA responen a patrons, produiran patrons. I si generen patrons, aquests també seran detectables per altres IA, que d’això en saben molt. Podem pensar que el ritme d’adopció de les tecnologies de la informació és cada vegada més ràpid (pensem en ordinadors, mòbils, la web 2.0, xarxes socials, ara la IA)… però això només és vàlid si ho mirem com tecnologies diferents. Si ho mirem des del punt de vista de l’adopció de la xarxa ( pensant en els dispositius o les aplicacions com versions millorades de la mateixa tecnologia, la xarxa) ja fa temps que estem en això, no? El mateix podria aplicar-se a la IA, en quant a ritme d’adopció, doncs? Veurem. ↩︎ ...

Internet, la xarxa de xarxes, s’ha caracteritzat, entre d’altres coses, per l’economia de l’abundància, per tenir (teòricament) una disponibilitat no finita de recursos, a un cost d’extracció (generació) ínfim, gairebé zero, econòmicament parlant (els costos ecològics, ara ho sabem, van per una altra banda). Es disposava d’informació, es generava informació, s’hi bolcava informació, es digitalitza allò analògic o ja neix digital a base de sensoritzar tot el nostre entorn, de deixar un rastre digital de tot allò que fem, de dibuixar-hi la nostra vida i la nostra personalitat, de manera conscient o implícita, rastrejats arreu. ...

Si definim la IA com “intel·ligència” i com “artificial” li donem, per la simple força de les dues paraules combinades i el seu significat, unes característiques gairebé d’autoconsciència i de generació que en realitat no té, i li afegim un misticisme i una personalitat que facilita fer volar coloms. Sens dubte els models LLM i la capacitat de computació i de gestió d’immensos conjunts de dades per entrenar-les fan que surtin resultats impressionants, i la capacitat (com a programes que, de moment, no deixen de ser) de trobar patrons i proposar connexions i respostes pot ajudar en moltíssims camps de la investigació i la ciència. Altra cosa son els usos més comercials i més de dia a dia que tinguin que no deixen de facilitar-nos la vida… però pensem en gran i mirem-la com eina de ciència. ...

El llenguatge (o protollenguatge) i les eines sembla que van aparèixer al mateix moment 1, entre tres i dos milions i mig d’anys enrere. Des de sempre, tècnica i comunicació han anat parelles per la nostra espècie: sense una no hi ha l’altra: sense una manera de comunicar-se, no es poden escampar les idees, i sense escampar les idees, no es pot millorar la tècnica, adquirir coneixement extern, i millorar-lo: ens passaríem la vida refent el mateix, sense saber què han fet els altres. ...