-
La tecnologia aconsegueix velocitats de processament fins a 11 vegades més ràpides usant la GPU del mòbil.
-
El framework és de codi obert i compatible amb estàndards gràfics com Vulkan i Apple Metall.
Tether, l’empresa emissora de l’stablecoin USDT, va anunciar el llançament d’una nova versió de la seva marc QVAC Fabric aquest 17 de març. Aquesta eina tècnica permet l’entrenament i l’execució de models d’intel·ligència artificial (IA) amb milers de milions de paràmetres directament a telèfons intel·ligents iPhone i Android, a més d’ordinadors amb targetes gràfiques de consum.
Segons van explicar a l’anunci del llançament, el desenvolupament utilitza l’arquitectura BitNet de Microsoft, la qual simplifica els models d’IA en reduir els valors numèrics a només tres opcions: -1, 0 i 1. Aquest procés, conegut com a quantització d’un bit, disminueix el pes dels arxius i la potència necessària per processar-los. Gràcies a això, un dispositiu mòbil pot realitzar tasques de personalització de models que anteriorment requerien servidors industrials costosos.
QVAC Fabric actua com el motor que gestiona aquests models. Aquest antecedent tècnic permet que el sistema funcioni mitjançant Vulkan i Metall, tecnologies que habiliten l’ús de la unitat de processament gràfic (GPU) dels telèfons. En proves realitzades per l’equip de Tether, es va aconseguir ajustar models de fins a 13.000 milions de paràmetres en un iPhone 16aprofitant la potència del maquinari local sense dependre del núvol.
La implementació busca garantir la privadesa de l’usuari, ja que les dades sensibles utilitzades per entrenar o ajustar la IA no abandonen el dispositiu. Com que és un programari de codi obert disponible a GitHub ,qualsevol desenvolupador pot accedir als binaris i al codi per integrar aquestes capacitats a les seves pròpies aplicacions de forma independent.
La visió de Tether sobre la IA descentralitzada
Pel que fa al llançament, el CEO de Tether, Paolo Ardoino, va assenyalar: «Quan l´entrenament de grans models de llenguatge depèn d´una infraestructura centralitzada, la innovació s´estanca, l´ecosistema es torna fràgil il´equilibri social es posa en risc. En permetre un entrenament significatiu de models grans en maquinari de consum, inclòs el de telèfons intel·ligents, QVAC de Tether està demostrant que la IA avançada es pot descentralitzar».
Aquesta tecnologia redueix lús de memòria RAM fins a en un 90% en comparació amb els models de precisió completa. Segons les dades tècniques publicades, l’ajust fi d’un model es pot completar en menys de deu minuts en dispositius de gamma alta com el Samsung S25, marcant un precedent a la disponibilitat d’eines d’IA local.
