Més enllà de titulars pescaclics d’alguna premsa, no existeixen IAs rebels, sinó una falta de responsabilitat en molts punts de la cadena, males o pobres praxis ocultes sota secrets industrials o interessos de seguretat, i massa interessos econòmics que depenen de tot això. Una barreja de mala combinació amb transparència i control d’eines poderosísimes. Oli i aigua, com qui diu.
Sabent que el funcionament de les IAs és diferent de la programació habitual, perquè la IA generativa no interpreta literalment les instruccions, com la programació algorítmica tradicional, si no que el que fa és interpretar les ordres (prompts) que l’usuari li dóna, que no té coneixement propi de saltar-se o no uns límits establerts per la ètica o la norma jurídica o que no sap la intenció darrere del que li demana alguna cosa, no es pot calibrar, interpretar o mesurar el que fan les IA de la mateixa manera de sempre, amb les mateixes eines.
Calen nous mecanismes i criteris (sobretot) per poder mesurar el criteri d’interpretació d’una instrucció, i la seva execució, definir un nivell que diferenciï entre llibertat de criteri i execució creativa d’una solució a una execució fora de paràmetres acceptables o establerts, que puguin tenir conseqüències o danys per tercers.
Aquests criteris i mecanismes no poden ser només llei, però. Han d’estar codificats de manera intrínseca en els prompts o en els guarda-rails d’execució, però com es fa això? Encara no ho sabem, però semblaria la versió AI/prompt de la frase aquella que diu que el codi serà llei: segons com codifiquem l’execució o els mecanismes de control, així seran els resultats.
Però si deixem tot això només en mans d’uns quants, qui ens garanteix el compliment? En aquest sentit, el mateix model centralitzat en unes quantes mans de corporacions1 és un perill per a la societat, donada la capacitat d’influència en mecanismes bàsics i centrals (bancs, préstecs, assegurances, algorismes policials, ajudes socials per posar els més greus).
En canvi, mecanismes de pes obert, federats i distribuïts, poden millorar la distribució d’aquest control i d’aquest pes d’execució, alhora que proporcionin una diversitat de criteris més gran. Potser el benefici econòmic no serà tan gran per alguns, en aquest cas, però si, potser, més distribuït socialment, cosa que sembla més justa.
De tota manera, el temps acabarà posant les coses a lloc, en funció dels usos, recursos disponibles i beneficis que se n’obtinguin. Estem a l’inici de la carrera, i tothom s’està situant.
Que no deixen de ser grups de persones amb interessos particulars, certament endogàmics a determinats nivells. ↩︎