Uno de los principales problemas de ChatGPT es que tenemos que conectarnos a un servidor externo para que funcione. En algunos casos, esto implica que nuestros datos viajen a miles de kilómetros, lo que compromete la privacidad de los mismos. La nube desde la que prestan el servicio las compañías de IA, al fin y al cabo, es un ordenador que procesa los datos y envía de vuelta el resultado. Además, si los servidores fallan, el servicio puede quedar interrumpido.

En esta línea, cada vez más usuarios deciden descargar los modelos de lenguaje en local, lo que permite procesar documentos y datos con la seguridad de que no van a salir del mismo ordenador. Para ello, es necesario cumplir con unos requisitos de CPU y GPU para garantizar que se va a poder ejecutar en local. Como contrapunto, los ordenadores personales suelen ser menos potentes que los servidores, así que solo podrás ejecutar modelos pequeños o medianos, lo que puede afectar a la precisión de la respuesta.

Cabe destacar que los modelos disponibles para descargar suelen ser open source, es decir, de compañías que apuestan por una IA de código abierto. A diferencia de los cerrados, que funcionan como una caja negra en la que es difícil entender de dónde han salido los datos, los abiertos permiten a los desarrolladores y empresas adaptarlos para funciones específicas.

Por ejemplo, hace poco que Meta (creadora de Instagram), ha sacado el modelo Llama 3.1, que por primera vez puede equipararse a GPT-4o o Claude 3, sus principales competidores cerrados.

El proceso es mucho más sencillo de lo que parece, ya que existen diferentes programas de ordenador que permiten descargarla y ejecutarla sin esfuerzo y de manera gratuita.

Uno de los softwares más usados es GPT4All, que se descarga en el ordenador tanto si usas Windows, como Mac o Linux. La aplicación tiene una interfaz que permite bucear entre los diferentes modelos de lenguaje disponibles y descargarlos directamente. Además, incluye información sobre la memoria RAM necesaria para que funcionen correctamente.

Otra alternativa para usar la IA en el ordenador es Jan.ai. Este otro software, también disponible en Windows, Mac y Linux, añade una etiqueta al lado de cada modelo de lenguaje para avisar de si se va a ejecutar correctamente o funcionará lento, siempre en función de las características del ordenador.

Cómo usar la IA en dispositivos Apple

Aunque los dos softwares anteriores están disponibles en Mac, existe una aplicación para usar la IA en iPhone y iPad. Local Chat permite descargar la IA en teléfonos a partir del iPhone 12 en adelante y en Mac M1 y posterior. Como al final Apple hará esperar a los usuarios hasta 2025 para usar su IA, es una forma de lograr usarla un poco antes. Eso sí, a diferencia de Apple Intelligence, la IA solo puede usarse desde la aplicación y no se integra en Siri.