Muchos de nosotros estamos habituados a relacionarnos con las diferentes herramientas de Inteligencia Artificial en la nube. Sin embargo, la realidad es que muchos modelos de lenguaje también nos permiten ejecutar sus herramientas directamente en nuestro ordenador en local. Pero, ¿cómo podemos conocer cuáles son compatibles?
Las herramientas de Inteligencia Artificial son cada vez más populares y actualmente tenemos una gran cantidad de posibilidades a nuestra disposición. En función de la actividad que queramos realizar, tenemos distintas opciones que pueden ayudarnos a ser más eficientes. Pese a que en un primer momento muchos de nosotros usábamos estas herramientas en la nube, la realidad es que muchos modelos de lenguaje también se pueden ejecutar en local en nuestro ordenador, con independencia de que usemos Windows, macOS o Linux.
Pero, ¿cuáles son los modelos que están disponibles teniendo en cuenta las características de nuestro equipo? Esta es una de las dudas más habituales que pueden surgir, especialmente si todavía no estamos muy familiarizados con estos modelos. Ahora, descubrirlo es tan sencillo como introducir un solo comando en la máquina de tu ordenador.
Así funciona llmfit
llmfit es el nombre del proyecto que nos permite acceder a esta información. Se trata de una herramienta de código abierto que ha sido publicada recientemente en GitHub y que, cuando la ejecutamos, analiza los recursos con los que cuenta nuestro ordenador y ofrece una selección de todos los modelos de IA que se pueden utilizar en local.
Para ello, tiene en cuenta la CPU, la RAM y la GPU y los cruza con los requisitos mínimos que necesita cada herramienta de IA. Sin embargo, sus beneficios no terminan ahí. Y es que muestra un listado de recomendaciones clasificados por rendimiento y por calidad. Además, para acceder a toda esta información lo único que necesitamos es acceder a la consola de nuestro equipo e introducir un código, como te vamos a detallar a continuación.
Cómo puedes acceder a esta información
Lo primero que tienes que hacer es instalar llmfit, cuyo proceso depende del sistema operativo que estemos utilizando. A continuación te vamos a explicar cómo puedes realizar la instalación en función del sistema operativo que estés utilizando, puesto que varía mínimamente entre ellos.
En el caso de que uses Windows, debes hacer lo siguiente:
- Lo primero es descargar Rust desde la página oficial.
- Acto seguido, abre PowerShell.
- Ejecuta el siguiente comando: “cargo install llmfit”
En MacOS, el proceso es todavía más sencillo:
