Són temps interessants per a la IA i la confiança. Un nombre creixent d’empreses d’inversió utilitzen agents d’IA per revisar notes d’investigació i documents d’empresa. Es demana als humans que entreguin dades biomètriques cada cop més invasives, com ara exploracions facials, mostres de veu i patrons de comportament, només per demostrar que no són robots. Un cop a la natura, aquestes dades poden ser armades per robots impulsats per IA per falsificar de manera convincent les persones reals, derrotant els mateixos sistemes dissenyats per mantenir-los fora. Això ens deixa en una estranya nova carrera armamentística: com més invasiva sigui la verificació, més gran serà el risc quan inevitablement es filtra. Aleshores, com verifiquem amb qui (o amb què) estem tractant realment?
És inconcebible exigir transparència als humans mentre s’accepta l’opacitat de les màquines. Tant els robots com els humans en línia necessiten millors maneres de verificar la seva identitat. No podem resoldre aquest problema simplement recollint més dades biomètriques, ni construint registres centralitzats que representin grans honeypots per als ciberdelinqüents. Les proves de coneixement zero ofereixen un camí a seguir on tant els humans com la IA poden demostrar les seves credencials sense exposar-se a l’explotació.
El progrés del bloqueig del dèficit de confiança
L’absència d’una identitat d’IA verificable crea riscos de mercat immediats. Quan els agents d’IA poden suplantar la identitat dels humans, manipular mercats o executar transaccions no autoritzades, les empreses dubten amb raó a desplegar sistemes autònoms a escala. Com passa, els LLM que s’han “ajustat” en un conjunt de dades més petit per millorar el rendiment tenen 22 vegades més probabilitats de produir resultats nocius que els models bàsics, amb les taxes d’èxit de saltar les baranes de seguretat i ètiques del sistema, un procés conegut com a “jailbreaking”, que es triplica contra els sistemes preparats per a la producció. Sense una verificació d’identitat fiable, cada interacció d’IA fa un pas més a prop d’una possible violació de seguretat.
El problema no és tan obvi com impedir que els actors maliciosos despleguin agents delinqüents, perquè no és com si estiguéssim davant d’una única interfície d’IA. El futur veurà cada cop més agents d’IA autònoms amb majors capacitats. En aquest mar d’agents, com sabem amb què estem tractant? Fins i tot els sistemes d’IA legítims necessiten credencials verificables per participar en l’economia emergent d’agent a agent. Quan un bot de comerç d’IA executa una transacció amb un altre bot, ambdues parts necessiten garantia sobre la identitat, l’autorització i l’estructura de responsabilitat de l’altra.
El costat humà d’aquesta equació està igualment trencat. Els sistemes tradicionals de verificació d’identitat exposen els usuaris a violacions massives de dades, permeten amb massa facilitat la vigilància autoritària i generen milers de milions d’ingressos per a grans corporacions per vendre informació personal sense compensar els individus que la generen. La gent és legítimament reticent a compartir més dades personals, però els requisits normatius exigeixen procediments de verificació cada cop més invasius.
Coneixement zero: el pont entre la privadesa i la responsabilitat
Les proves de coneixement zero (ZKP) ofereixen una solució a aquest problema aparentment insoluble. En lloc de revelar informació sensible, els ZKP permeten que les entitats, siguin humanes o artificials, demostrin afirmacions específiques sense exposar dades subjacents. Un usuari pot demostrar que té més de 21 anys sense revelar la seva data de naixement. Un agent d’IA pot demostrar que va ser entrenat en conjunts de dades ètiques sense exposar algorismes propietaris. Una institució financera pot verificar que un client compleix els requisits reglamentaris sense emmagatzemar informació personal que es pugui infringir.
Per als agents d’IA, els ZKP poden permetre els nivells profunds de confiança necessaris, ja que hem de verificar no només l’arquitectura tècnica, sinó també els patrons de comportament, la responsabilitat legal i la reputació social. Amb els ZKP, aquestes afirmacions es poden emmagatzemar en un gràfic de confiança verificable a la cadena.
Penseu-hi com una capa d’identitat composable que funciona a través de plataformes i jurisdiccions. D’aquesta manera, quan un agent d’IA presenta les seves credencials, pot demostrar que les seves dades de formació compleixen els estàndards ètics, els seus resultats s’han auditat i les seves accions estan vinculades a entitats humanes responsables, tot això sense exposar informació de propietat.
Els ZKP podrien canviar completament el joc, permetent-nos demostrar qui som sense lliurar dades sensibles, però l’adopció segueix sent lenta. Els ZKP segueixen sent un nínxol tècnic, desconegut per als usuaris i enredats en zones grises normatives. Per acabar, les empreses que es beneficien de la recollida de dades tenen pocs incentius per adoptar la tecnologia. Tanmateix, això no impedeix que les empreses d’identitat més àgils les aprofitin i, a mesura que sorgeixen els estàndards reguladors i millora la consciència, els ZKP podrien esdevenir la columna vertebral d’una nova era d’IA i identitat digital de confiança, donant a les persones i organitzacions una manera d’interaccionar de manera segura i transparent a través de plataformes i fronteres.
Implicacions del mercat: desbloqueig de l’economia dels agents
La intel·ligència artificial generativa podria afegir bilions anuals a l’economia global, però gran part d’aquest valor roman tancat darrere de les barreres de verificació d’identitat. Hi ha diverses raons per a això. Un és que els inversors institucionals necessiten un sòlid compliment KYC/AML abans de desplegar capital en estratègies impulsades per IA. Una altra és que les empreses requereixen identitats d’agent verificables abans de permetre que els sistemes autònoms accedeixin a la infraestructura crítica. I els reguladors exigeixen mecanismes de responsabilitat abans d’aprovar el desplegament de l’IA en dominis sensibles.
Els sistemes d’identitat basats en ZKP aborden tots aquests requisits alhora que es conserven la privadesa i l’autonomia que fan que els sistemes descentralitzats siguin valuosos. En permetre la divulgació selectiva, compleixen els requisits reglamentaris sense crear un conjunt de dades personals. En proporcionar verificació criptogràfica, permeten interaccions sense confiança entre agents autònoms. I mantenint el control dels usuaris, s’alineen amb les normatives emergents de protecció de dades com el GDPR i les lleis de privadesa de Califòrnia.
La tecnologia també podria ajudar a abordar la creixent crisi deepfake. Quan cada peça de contingut es pot enllaçar criptogràficament a un creador verificat sense revelar la seva identitat, podem combatre la desinformació i protegir la privadesa. Això és especialment crucial, ja que el contingut generat per IA esdevé indistingible del material creat per humans.
El camí ZK
Alguns argumentaran que qualsevol sistema d’identitat representa un pas cap a l’autoritarisme, però cap societat pot funcionar sense una manera d’identificar la seva ciutadania. La verificació d’identitat ja s’està produint a escala, només deficient. Cada vegada que pengem documents per a KYC, els enviem a reconeixement facial o compartim dades personals per a la verificació de l’edat, participem en sistemes d’identitat que són invasius, insegurs i ineficients.
Les proves de coneixement zero ofereixen un camí a seguir que respecta la privadesa individual alhora que permet la confiança necessària per a interaccions econòmiques complexes. Ens permeten crear sistemes on els usuaris controlen les seves dades, la verificació no requereix vigilància i tant els humans com els agents d’IA poden interactuar de manera segura sense sacrificar l’autonomia.
