El desenvolupament amb IA pot provocar problemes de seguretat a les criptomonedes

L’avenç de la intel·ligència artificial (IA) està transformant el desenvolupament de programari. Un informe de l’empresa argentina Lambda Class assenyala que aquest canvi genera oportunitats i riscos en l’ecosistema de la criptomoneda, sobretot quan els sistemes automatitzats interactuen directament amb diners reals sense intervenció humana constant.

En el document publicat el 23 de gener, la companyia centrada en el desenvolupament d’eines per a Ethereum proposa que l’ús d’agents d’IA per operar amb criptomonedes introdueix nous vectors de fallades de seguretat. Són elements que no estaven contemplats en el disseny original de la infraestructura.

Segons l’informe, la introducció d’agents d’IA (programes capaços de prendre decisions i executar accions de manera autònoma) altera una premissa important que forma part del disseny d’Ethereum. Això es deu al fet que es basa la seva infraestructura financera de propòsit general les operacions són iniciades i enteses per persones humanes.

Per tant, quan els sistemes d’IA interactuen directament amb la xarxa i signen transaccions sense una revisió humana prèvia, els errors ja no són conceptuals, sinó més aviat es tradueixen en pèrdues econòmiques immediates i irreversibles.

L’anàlisi de l’equip de la Classe Lambda adquireix una especial rellevància donat que el 29 de gener L’estàndard ERC-8004 es va implementar a la xarxa principal d’Ethereum. Tal com va informar CriptoNoticias, aquest estàndard proporcionaria precisament a Ethereum un sistema en què els agents d’IA poden connectar, verificar i reconèixer-se automàticament mitjançant contractes intel·ligents.

Què passa si la IA substitueix l’operador humà?

Segons l’informe Lambda Class, les biblioteques (equips d’eines de programari que els desenvolupadors utilitzen per interactuar amb Ethereum i enviar transaccions) eren dissenyat per a persones, no per a sistemes autònoms.

Eines com ethers.js o web3.js suposen que algú entén el que està signant abans d’autoritzar una transacció. Aquest model, com s’ha dit anteriorment, podria fallar quan l’operador és una IA:

• un agent pot al·lucinar una adreçaés a dir, generar una adreça vàlida però incorrecta.

• Can confondre les unitats. Per exemple, interpretar “envia 100, com 100 èters en lloc de 100 dòlars”

• També pots ser manipulat mitjançant la injecció d’instruccions, una tècnica que introdueix ordres malicioses a les dades que processa.

Cadascun d’aquests errors és poc probable de manera aïllada. Tanmateix, l’informe adverteix que quan s’executen milions d’operacions automatitzades, aquests errors esdevenen inevitables.

A Ethereum no hi ha cap banc que reverteixi les operacions. Un cop confirmada una transacció, els fons es perden definitivament (excepte en el famós hack de The DAO).

Lambda Class subratlla que no es tracta d’un problema de “millorar la IA”. El risc sorgeix de permetre sistemes imperfectes operar directament sobre infraestructures financeres irreversibles. Quan alguna cosa falla, el sistema retorna missatges tècnics que una IA no pot interpretar amb seguretat.

L’informe compara aquest escenari amb l’arrendament a robot condueix un camió sense frens automàtics: El problema no és la intenció de l’agent, sinó l’absència de barreres que l’aturin quan alguna cosa va malament.

Restriccions com a capa de defensa

Per solucionar aquest problema, l’equip de Lambda Class creu que la manera de reduir els riscos no és fent que la IA sigui “més intel·ligent”, sinó posar límits estructurals.

Per això, va desenvolupar eth-agent, un kit de desenvolupament que introdueix restriccions obligatòries en l’execució de transaccions a cada cartera. Per exemple, límits de despesa per transacció, per hora i per dia. D’aquesta manera, si un agent intenta superar aquests límits, l’operació falla automàticamentsense possibilitat d’evasió.

El sistema també retorna errors clars i estructurats. En lloc de missatges tècnics difícils d’interpretar, us informa quina regla s’ha infringit i quan és segur tornar-ho a intentar.

A més, per a transaccions sensibles (com grans quantitats o nous destinataris) requereix l’aprovació humana abans d’executar l’enviament.

Hi ha maneres d’evitar els riscos de la IA

Com a part de les previsions, l’estudi aconsella que els autònoms operen principalment amb monedes establesper tal d’evitar errors causats per la volatilitat dels preus.

També recomana incorporar comptes intel·ligents sota l’estàndard ERC-4337, que permeten delegar permisos de manera limitada i controlada.

La idea central d’aquestes propostes és similar a la d’un sistema operatiu. Les aplicacions poden fallar, però el nucli imposa regles que eviten més danys. En les finances descentralitzades, aquest “nucli” ha de protegir fins i tot quan la IA cometi errors.

L’informe conclou que els agents d’IA seguiran millorant, però mai seran perfectes. En un sistema financer sense reversió d’errors, confiar en la seva correcció és insuficient.