La realidad de la inteligencia artificial está a años luz de lo que tenemos ahora mismo en nuestro ordenador o móvil. Existen modelos con capacidades tan sorprendentes que no han visto la luz por el momento o que únicamente se ofrecen a unos pocos usuarios verificados en el mundo. Da igual que pagues por ChatGPT, Claude o utilices las versiones más avanzadas que aparecen en sus aplicaciones, tú vas a seguir sin tener acceso a algunos de los modelos más interesantes que existen detrás de ellas.
Tanto OpenAI como Anthropic tienen modelos muy avanzados que no están disponibles para el gran público. Sin ir más lejos, ayer se lanzaba Astra por parte de OpenAI, siendo el primero en alcanzar su nivel “Crítico” de capacidad en ciberseguridad. Por su parte, Claude Mythos 5.1, solo se ofrece a un pequeño grupo de organizaciones previamente verificadas.
No estamos exactamente ante dos modelos secretos. Sabemos sus nombres, hemos visto de lo que son capaces y sus creadores nos han explicado lo que son capaces de hacer. La parte misteriosa está em que sus desarrolladores consideran que determinadas capacidades ya son demasiado sensibles para entregarlas sin restricciones a cualquiera.
Astra es la primera IA de OpenAI que cruza una línea que nunca había cruzado
Astra todavía no aparece como una opción que puedas seleccionar dentro de ChatGPT. Fue anunciado ayer 1 de septiembre, alcanzando el nivel “Critical” de ciberseguridad de su Preparedness Framework. Es la primera vez que OpenAI clasifica así uno de sus modelos.
Para alcanzar ese límite, un modelo debe ser capaz de encontrar vulnerabilidades desconocidas y desarrollar exploits funcionales contra numerosos sistemas protegidos sin necesitar que una persona le indique cada paso, además de saber diseñar y ejecutar estrategias novedosas de ataque de extremo a extremo a partir de un objetivo general.
Descubrió dos vulnerabilidades desconocidas mientras lo estaban evaluando
Astra obtuvo una puntuación perfecta en ExploitBench, una prueba destinada a evaluar la capacidad para desarrollar exploits a partir de vulnerabilidades conocidas. El problema es que, utilizar este banco de pruebas, exponía su modelo al público.
Por ello, creo una prueba interna con 20 vulnerabilidades graves publicadas recientemente. Durante esa prueba ocurrió algo que no estaba previsto y es que Astra encontró y utilizó dos vulnerabilidades zero-day como parte de una cadena de explotación. OpenAI ha confirmado que ya las ha notificado a las empresas afectadas.
El problema ahora es cómo poner una herramienta tan potente en manos del gran público. La realidad es que no podremos usarla sin salvaguardas. OpenAI ya ha confirmado que Astra estará disponible “pronto”, pero sus capacidades de ciberseguridad más avanzadas tendrán un acceso mucho más restringido.
Claude Mythos 5.1 sí está lanzado, pero probablemente tampoco puedas utilizarlo
Anthropic está siguiendo un camino parecido, aunque con matices diferentes. Claude Mythos 5.1 fue anunciado el 1 de septiembre. Sus creadores lo definen como “su modelo más capaz para investigación en ciberseguridad y biología”.
Por el momento, sigue reservado a un grupo concreto de organizaciones, principalmente especialistas en ciberdefensa y ciencias de la vida mediante programas de acceso de confianza. Además, solo se proporciona acceso a Mythos 5.1 a determinadas organizaciones estadounidenses.
