Definición:
Ollama es una plataforma de código abierto para utilizar modelos de inteligencia artificial generativa desde aplicaciones, agentes y herramientas de desarrollo. Permite descargar, ejecutar y gestionar modelos en un equipo propio, y también acceder a modelos alojados en la nube mediante el mismo entorno.
Ollama no es un modelo ni un chatbot concreto. Es una capa de ejecución e integración que proporciona una aplicación de escritorio, una interfaz de línea de comandos, una API y una biblioteca de modelos. La privacidad, el coste y los requisitos técnicos dependen de si el modelo se ejecuta localmente o en un servicio remoto.
Índice de contenidos
Historia de Ollama
Ollama apareció en 2023 con un enfoque centrado en simplificar la ejecución local de modelos abiertos. Su repositorio reconoce la aportación de proyectos como llama.cpp, que permiten realizar inferencia con modelos optimizados en distintos tipos de hardware.
La plataforma ha evolucionado desde la ejecución local hacia un entorno que también conecta aplicaciones, agentes de programación y modelos en la nube. Por ello, las funciones disponibles y el recorrido de los datos deben comprobarse en cada configuración, en lugar de asumir que todo uso de Ollama es necesariamente local.
Características principales de Ollama
Las funciones concretas cambian con las versiones y con el modelo elegido. Entre las principales se encuentran:
- Gestión de modelos: Permite descargar, ejecutar, actualizar y eliminar modelos mediante la aplicación o comandos de terminal.
- Ejecución local: Los modelos compatibles pueden procesarse en el propio equipo, sujetos a la memoria, el almacenamiento, la CPU y la GPU disponibles.
- Modelos en la nube: La plataforma también puede proporcionar acceso a modelos alojados que no se ejecutan en el dispositivo.
- Biblioteca de modelos: Reúne opciones para conversación, programación, razonamiento, visión y generación de embeddings.
- Modelfile: Permite definir un modelo derivado, parámetros, mensajes de sistema, plantillas y adaptadores compatibles.
- API: Ofrece una API propia y compatibilidad con determinados clientes que utilizan interfaces de OpenAI o Anthropic.
- Bibliotecas e integraciones: Dispone de bibliotecas para Python y JavaScript y puede conectarse con aplicaciones, editores y agentes compatibles.
- Importación de modelos: Admite determinados formatos y variantes cuantizadas, de acuerdo con la documentación y las capacidades del motor.
La compatibilidad de una función no implica que todos los modelos la admitan. El contexto, las herramientas, la visión, los embeddings y otros comportamientos dependen del modelo y de la integración utilizada.
Evaluación de Ollama
Ollama puede facilitar el control local, el prototipado y la comparación de modelos sin construir desde cero una infraestructura de inferencia. Un modelo ya descargado puede utilizarse sin conexión, aunque la instalación, las descargas, los modelos cloud y algunos servicios requieren red. La posibilidad de cambiar de modelo dentro de un flujo semejante también ayuda a contrastar capacidades y requisitos.
Estas ventajas tienen límites. Los modelos grandes pueden necesitar mucha memoria, almacenamiento y capacidad de cálculo, y la velocidad varía según el hardware y la cuantización. Ejecutar un modelo mediante Ollama no elimina errores, alucinaciones, sesgos ni riesgos derivados de instrucciones o datos no fiables. Exponer la API a una red o conectar herramientas capaces de actuar sobre archivos y sistemas requiere autenticación, aislamiento y controles adicionales. La ejecución local utiliza recursos propios, mientras que los servicios alojados pueden estar sujetos a precios, cuotas y límites vigentes.
Local no significa automáticamente privado o seguro. La ejecución en el dispositivo puede mantener las entradas y salidas dentro del equipo cuando no intervienen servicios o integraciones externas, pero deben revisarse los registros, la telemetría, los permisos y cualquier servicio externo que forme parte del flujo.
Casos de uso comunes de Ollama
La plataforma puede actuar como componente técnico en aplicaciones de generación, clasificación, extracción o conversación mediante API. También puede conectarse con agentes de programación que explican, generan o revisan código, y con asistentes internos que consultan información o ejecutan flujos bajo controles definidos.
Otros usos incluyen la generación de embeddings y respuestas apoyadas en fuentes recuperadas mediante RAG, la comparación de modelos, parámetros y prompts, y la ejecución local en entornos con conectividad reducida o requisitos sobre dónde se procesa la información.
En todos los casos, Ollama proporciona el acceso al modelo, pero no sustituye la evaluación, la observabilidad, la seguridad ni la gestión de los datos que necesita una aplicación en producción.
Buenas prácticas para usar Ollama
Antes de incorporar Ollama a un proyecto conviene revisar los siguientes aspectos:
- Elegir el modelo adecuado: Comparar licencia, tamaño, idioma, contexto, capacidades y recursos requeridos.
- Distinguir local y cloud: Documentar qué modelo se utiliza, dónde se ejecuta y qué datos abandonan el dispositivo.
- Proteger la API: Evitar exponer el servicio directamente a Internet y aplicar autenticación, segmentación y límites cuando sea accesible desde una red.
- Gestionar recursos: Controlar memoria, disco, concurrencia, tiempos de carga y modelos que permanecen activos.
- Evaluar resultados: Probar el sistema con casos representativos y revisar precisión, seguridad y comportamiento antes de automatizar decisiones.
- Mantener versiones: Registrar las versiones de Ollama, los modelos, los parámetros y los Modelfile utilizados para poder reproducir cambios.
- Revisar licencias: Comprobar las condiciones del modelo y de los datos, especialmente antes de un uso comercial o una redistribución.
La documentación oficial de Ollama contiene las instrucciones vigentes de instalación, modelos, API e integraciones.