Escalar Ollama y Optimizar la Infraestructura
Ollama es una plataforma para ejecutar modelos de lenguaje grande y multimodales de forma local y a escala.
Esta formación impartida por un instructor en vivo (en línea o presencial) está dirigida a ingenieros de nivel intermedio a avanzado que deseen escalar los despliegues de Ollama para entornos multiusuario, de alto rendimiento y eficientes en costos.
Al finalizar esta formación, los participantes podrán:
- Configurar Ollama para cargas de trabajo multiusuario y distribuidas.
- Optimizar la asignación de recursos de GPU y CPU.
- Implementar estrategias de autoescalado, agrupamiento (batching) y reducción de latencia.
- Monitorear y optimizar la infraestructura para mejorar el rendimiento y la eficiencia de costos.
Formato del curso
- Lección interactiva y discusión.
- Laboratorios prácticos de despliegue y escalado.
- Ejercicios de optimización en entornos reales.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, comunícate con nosotros para coordinarla.
Temario del curso
Introducción al escalado de Ollama
- Arquitectura de Ollama y consideraciones de escalado
- Cuellos de botella comunes en despliegues multiusuario
- Mejores prácticas para la preparación de la infraestructura
Asignación de recursos y optimización de GPU
- Estrategias eficientes de utilización de CPU/GPU
- Consideraciones de memoria y ancho de banda
- Restricciones de recursos a nivel de contenedor
Despliegue con contenedores y Kubernetes
- Contenerización de Ollama con Docker
- Ejecución de Ollama en clústeres de Kubernetes
- Balanceo de carga y descubrimiento de servicios
Autoescalado y agrupamiento (Batching)
- Diseño de políticas de autoescalado para Ollama
- Técnicas de inferencia en lotes para optimizar el rendimiento
- Compensaciones entre latencia y rendimiento
Optimización de la latencia
- Perfilamiento del rendimiento de la inferencia
- Estrategias de caché y activación en frío de modelos (model warm-up)
- Reducción de la sobrecarga de E/S y comunicación
Monitoreo y observabilidad
- Integración de Prometheus para métricas
- Construcción de paneles con Grafana
- Detección de alertas y respuesta a incidentes en la infraestructura de Ollama
Gestión de costos y estrategias de escalado
- Asignación de GPU consciente del costo
- Consideraciones sobre despliegue en la nube frente a instalaciones locales (on-prem)
- Estrategias para un escalado sostenible
Resumen y próximos pasos
Requerimientos
- Experiencia en administración de sistemas Linux
- Conocimientos sobre contenedores y orquestación
- Familiaridad con el despliegue de modelos de aprendizaje automático
Público objetivo
- Ingenieros de DevOps
- Equipos de infraestructura de ML
- Ingenieros de confiabilidad del sitio (SRE)
Los cursos públicos requieren más de 5 participantes.
Escalar Ollama y Optimizar la Infraestructura - Reserva
Escalar Ollama y Optimizar la Infraestructura - Consulta
Escalar Ollama y Optimizar la Infraestructura - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y Evaluación Avanzada de Modelos Ollama
35 HorasLa depuración y evaluación avanzada de modelos Ollama es un curso profundo centrado en diagnosticar, probar y medir el comportamiento del modelo al ejecutar despliegues locales o privados de Ollama.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a ingenieros de IA de nivel avanzado, profesionales de MLOps y expertos en QA que deseen garantizar la fiabilidad, fidelidad y preparación operativa de los modelos basados en Ollama en entornos de producción.
Al finalizar esta formación, los participantes podrán:
- Realizar una depuración sistemática de los modelos alojados en Ollama y reproducir modos de fallo de manera fiable.
- Diseñar y ejecutar pipelines de evaluación robustos con métricas cuantitativas y cualitativas.
- Implementar capacidades de observabilidad (registros, trazas, métricas) para monitorizar la salud del modelo y sus desviaciones.
- Automatizar pruebas, validación y verificaciones de regresión integradas en pipelines CI/CD.
Formato del curso
- Conferencia interactiva y discusión.
- Laboratorios prácticos y ejercicios de depuración utilizando despliegues de Ollama.
- Estudios de caso, sesiones grupales de resolución de problemas y talleres de automatización.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para organizarla.
Creación de flujos de trabajo de IA privada con Ollama
14 HorasEsta capacitación en vivo impartida por un instructor en México (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar flujos de trabajo impulsados por IA seguros y eficientes utilizando Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Desplegar y configurar Ollama para el procesamiento de IA privada.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA manteniendo la privacidad de los datos.
- Automatizar procesos empresariales con capacidades de IA local (on-premise).
- Asegurar el cumplimiento de las políticas de seguridad y gobernanza empresarial.
Implementación y optimización de modelos de lenguaje grande (LLM) con Ollama
14 HorasEsta capacitación en vivo dirigida por un instructor en México (en línea o presencial) está dirigida a profesionales de nivel intermedio que desean implementar, optimizar e integrar LLM utilizando Ollama.
Al finalizar esta capacitación, los participantes serán capaces de:
- Configurar e implementar LLM mediante Ollama.
- Optimizar modelos de IA para mejorar el rendimiento y la eficiencia.
- Aprovechar la aceleración con GPU para obtener velocidades de inferencia superiores.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Supervisar y mantener el rendimiento de los modelos de IA a lo largo del tiempo.
Ajuste fino y personalización de modelos de IA en Ollama
14 HorasEsta formación en vivo impartida por un instructor en México (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean realizar ajuste fino y personalizar modelos de IA en Ollama para mejorar el rendimiento y aplicarlos a dominios específicos.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar un entorno eficiente para realizar ajuste fino de modelos de IA en Ollama.
- Preparar conjuntos de datos para el ajuste fino supervisado y el aprendizaje por refuerzo.
- Optimizar los modelos de IA para mejorar su rendimiento, precisión y eficiencia.
- Desplegar modelos personalizados en entornos de producción.
- Evaluar las mejoras de los modelos y garantizar su robustez.
Aplicaciones multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y afinar modelos de lenguaje grande y multimodales en entornos locales.
Esta capacitación en vivo, impartida por un instructor (en línea o presencial), está dirigida a ingenieros de nivel avanzado en aprendizaje automático, investigadores de IA y desarrolladores de productos que desean crear e implementar aplicaciones multimodales con Ollama.
Al finalizar esta capacitación, los participantes podrán:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imágenes y audio para aplicaciones del mundo real.
- Construir sistemas de comprensión de documentos y respuestas a preguntas visuales (VQA).
- Desarrollar agentes multimodales capaces de razonar a través de distintas modalidades.
Formato del curso
- Conferencia interactiva y discusión.
- Práctica con conjuntos de datos multimodales reales.
- Implementación en laboratorio en vivo de flujos de trabajo multimodales utilizando Ollama.
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinarla.
Inicio con Ollama: Ejecución de modelos de inteligencia artificial locales
7 HorasEsta capacitación en vivo con instructores en México (en línea o presencial) está dirigida a profesionales principiantes que deseen instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus computadoras locales.
Al finalizar esta capacitación, los participantes podrán:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Implementar e interactuar con LLM mediante Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso para la implementación de IA local en diversas industrias.
Ollama y Privacidad de los Datos: Patrones de Despliegue Seguro
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grandes y multimodales de manera local, al tiempo que admite estrategias de despliegue seguras.
Este entrenamiento en vivo con instrucción presencial (en línea o in situ) está dirigido a profesionales de nivel intermedio que deseen desplegar Ollama implementando medidas robustas de privacidad de datos y cumplimiento normativo.
Al finalizar este entrenamiento, los participantes serán capaces de:
- Desplegar Ollama de forma segura en entornos virtualizados con contenedores e infraestructura propia (on-premise).
- Aplicar técnicas de privacidad diferencial para proteger datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Hacer cumplir el control de acceso a los datos alineado con los requisitos normativos.
Formato del Curso
- Clase interactiva y discusión.
- Laboratorios prácticos con patrones de despliegue seguro.
- Estudios de caso centrados en el cumplimiento normativo y ejercicios prácticos.
Opciones de Personalización del Curso
- Para solicitar un entrenamiento personalizado para este curso, por favor contáctenos para coordinarlo.
Aplicaciones de Ollama en las Finanzas
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes (LLM) de forma local.
Esta formación práctica impartida por un instructor (en línea o presencial) está dirigida a profesionales de finanzas y personal de TI con nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama dentro de entornos financieros.
Al completar esta capacitación, los participantes adquirirán las habilidades necesarias para:
- Desplegar y configurar Ollama para su uso seguro en operaciones financieras.
- Integrar LLM locales en flujos de trabajo de análisis e informes.
- Adaptar los modelos a la terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas en materia de seguridad, privacidad y cumplimiento normativo.
Formato del curso
- Conferencia interactiva y discusión grupal.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio de escenarios enfocados en finanzas.
Opciones de personalización del curso
- Si desea solicitar una formación personalizada para este curso, contáctenos para coordinarla.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes de forma local.
Esta capacitación en vivo, impartida por un instructor (en línea o presencial), está dirigida a profesionales del sector salud y equipos de TI de nivel intermedio que deseen implementar, personalizar y poner en operación soluciones de IA basadas en Ollama dentro de entornos clínicos y administrativos.
Al completar esta capacitación, los participantes podrán:
- Instalar y configurar Ollama para un uso seguro en entornos de salud.
- Integrar modelos de lenguaje grandes (LLM) locales en flujos de trabajo clínicos y procesos administrativos.
- Personalizar modelos para la terminología y tareas específicas del sector salud.
- Aplicar las mejores prácticas en privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Clase interactiva con debate.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno de simulación de salud aislado (sandbox).
Opciones de personalización del curso
- Para solicitar una capacitación personalizada para este curso, comuníquese con nosotros para coordinarla.
Ollama: Modelos de Lenguaje Grande (LLM) Autoalojados que Reemplazan las APIs de OpenAI y Claude
14 HorasOllama es una herramienta de código abierto para ejecutar modelos de lenguaje grande localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, permitiendo a las organizaciones autoalojar LLMs como Llama, Mistral y Qwen sin enviar solicitudes o datos a OpenAI, Anthropic o Google.
Ollama para una IA responsable y gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grande y multimodales localmente, con soporte para prácticas de gobernanza e IA responsable.
Esta formación presencial impartida por un instructor (en línea o en las instalaciones) está dirigida a profesionales de nivel intermedio a avanzado que desean implementar equidad, transparencia y rendición de cuentas en aplicaciones potenciadas por Ollama.
Al finalizar esta formación, los participantes podrán:
- Aplicar principios de IA responsable en los despliegues de Ollama.
- Implementar estrategias de filtrado de contenido y mitigación de sesgos.
- Diseñar flujos de trabajo de gobernanza para la alineación de la IA y su auditabilidad.
- Establecer marcos de monitoreo e informes para el cumplimiento normativo.
Formato del curso
- Conferencia interactiva y debate.
- Talleres prácticos de diseño de flujos de trabajo de gobernanza.
- Estudios de caso y ejercicios centrados en el cumplimiento normativo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarlo.
Dominio de la Ingeniería de Prompts con Ollama
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grandes y multimodales localmente.
Esta formación en vivo, dirigida por instructores (en línea o presencial), está dirigida a profesionales con nivel intermedio que desean dominar las técnicas de ingeniería de prompts para optimizar los resultados de Ollama.
Al finalizar esta capacitación, los participantes podrán:
- Diseñar prompts efectivos para diversos casos de uso.
- Aplicar técnicas como el priming y la estructuración del pensamiento encadenado (chain-of-thought).
- Implementar plantillas de prompts y estrategias de gestión del contexto.
- Construir pipelines de prompting multietapa para flujos de trabajo complejos.
Formato del Curso
- Conferencia interactiva y discusión grupal.
- Ejercicios prácticos de diseño de prompts.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de Personalización del Curso
- Para solicitar una capacitación personalizada para este curso, contáctenos para coordinar los detalles.