Les notícies d’IA d’OpenAI aquesta setmana tenen un avantatge: la companyia va llançar una beca de seguretat pagada que ofereix 3.850 dòlars setmanals a investigadors externs que estudien què podria anar malament amb la IA avançada, anunciat poques hores després d’una investigació novaiorquesa que informava que OpenAI havia dissolt els seus equips de seguretat interns i va eliminar silenciosament la paraula “missió de seguretat de l’ISRS”.
OpenAI va anunciar la beca el 6 d’abril com “un programa pilot per donar suport a la investigació independent de seguretat i alineació i desenvolupar la propera generació de talent”. El programa paga 3.850 dòlars setmanals, més de 200.000 dòlars anuals, a més d’aproximadament 15.000 dòlars mensuals en càlcul i tutorització d’investigadors d’OpenAI. Els becaris treballen des de l’espai de treball de Berkeley de Constellation o de forma remota, i les aplicacions es tanquen el 3 de maig. La beca no es limita als especialistes en IA: OpenAI està contractant de ciberseguretat, ciències socials i interacció humà-ordinador juntament amb la informàtica.
El moment és la història. La investigació de Ronan Farrow a The New Yorker, publicada el mateix dia, va documentar que OpenAI havia dissolt tres organitzacions de seguretat internes consecutives durant 22 mesos. L’equip de superalineació es va tancar el maig de 2024 després que els co-dirigents Ilya Sutskever i Jan Leike se’n van anar. Leike va escriure a la seva sortida que “la cultura i els processos de seguretat han passat a un segon pla als productes brillants”. L’equip de Preparació AGI va seguir l’octubre de 2024. L’equip d’alineació de la missió es va dissoldre el febrer de 2026 després de només 16 mesos. The New Yorker també va informar que quan un periodista va demanar parlar amb els investigadors de seguretat existencial d’OpenAI, un representant de l’empresa va respondre: “Què vols dir amb seguretat existencial? Això no és, com si, una cosa”.
La beca no substitueix explícitament la infraestructura interna. Els becaris reben crèdits de l’API i recursos informàtics, però no tenen accés al sistema, posicionant el programa com un finançament de recerca independent en lloc d’una reconstrucció dels equips dissolts.
El que la beca requereix que els becaris produeixin
L’agenda de recerca abasta set àrees prioritàries: avaluació de la seguretat, ètica, robustesa, mitigacions escalables, mètodes de seguretat per preservar la privadesa, supervisió agent i dominis d’ús indegut d’alta gravetat. Al final del programa el febrer de 2027, cada becari ha de produir un resultat substantiu: un document, una referència o un conjunt de dades. No es requereixen credencials acadèmiques específiques; OpenAI va declarar que prioritza la capacitat de recerca, el judici tècnic i la capacitat d’execució.
Per què això és important més enllà de la indústria de la IA
Tal com ha informat crypto.news, la confiança en els compromisos de seguretat declarats de les empreses d’IA de frontera és un senyal de mercat que afecta l’assignació de capital a la infraestructura d’IA, els fitxes d’IA i els protocols de DePIN i d’agent d’IA situats a la intersecció de la criptografia i la intel·ligència artificial. Com ha assenyalat crypto.news, la trajectòria de despesa d’OpenAI i la credibilitat de les seves prioritats operatives són seguides de prop pels inversors que avaluen el sector de la infraestructura d’IA, un sector amb una superposició creixent amb els sistemes basats en blockchain. Si els becaris externs que treballen sense accés intern poden influir significativament en el desenvolupament del model és una pregunta que la investigació de la primera cohort començarà a respondre a principis del 2027.
