Cómo entrené SAL, un modelo de IA inspirado en JEV para selección de herramientas
De un dataset bilingüe a un modelo de 164 millones de parámetros que puede decidir localmente cuándo utilizar una herramienta

Álvaro García Pizarro
AI Engineer
Escribo sobre lo que voy aprendiendo trabajando con inteligencia artificial, desarrollo de software y tecnología.
Puedes leer los artículos aquí o recibirlos en tu correo a través de Substack ↗.

De un dataset bilingüe a un modelo de 164 millones de parámetros que puede decidir localmente cuándo utilizar una herramienta

GPT‑Live de OpenAI trae una arquitectura donde el sistema puede escuchar, hablar y pensar en paralelo sin romper la conversación.

Te explico cómo funciona la caché de prompts en agentes de IA, por qué se rompe con tanta facilidad, y por qué tiene que ver lo que pagas a tu proveedor de IA

Batching, prefix caching, cuantización, speculative decoding y paralelismo

Entiende el ciclo de vida del mensaje, la ejecución de las tools, la ventana de contexto

Te explico cómo la optimización artificial para benchmarks está ocultando la verdadera distancia en con los modelos frontera

Aprende a crear arquitecturas robustas con subagentes que validan todo el trabajo de forma autónoma.

Análisis técnico y aprendizajes prácticos sobre IA aplicada y sistemas de software.

Te cuento cómo optimizar tu web con dos trucos para mejorar tu posicionamiento entre los agentes de IA

Te explico el Harness Engineering, la disciplina para diseñar entornos deterministas que transforman chatbots genéricos en agentes de desarrollo fiables y seguros.

La semana pasada te explicaba cómo correr LLMs en local y a raíz de esa publicación han surgido varias dudas sobre los formatos de los modelos.

Te enseño a elegir el modelo de IA, cuantización y varios trucos para correr modelos acorde a tu hardware desde cero

Te explico cómo OpenAI Privacy Filter utiliza una arquitectura bidireccional y mezcla de expertos para enmascarar datos sensibles con un modelo local excelente

Tradicionalmente, si tienes un front hecho en Node y desplegado en un Nginx puedes escalarlo con un Load balancer sencillo estilo round-robin pero, ¿podemos hacer lo mismo con modelos de lenguaje?

Descubre la arquitectura de tres capas para organizar tus fuentes, notas y esquemas de forma que la inteligencia artificial trabaje por ti

Amazon anuncia S3 Files, haciendo los buckets S3 sean accesibles como sistemas de archivos

Te explico cómo ahorrar un 90% en tokens de entrada reutilizando el prefill y evitando que la IA procese todo desde cero.

Te explico cómo el algoritmo TurboQuant reduce seis veces el consumo de memoria de los modelos de IA sin perder precisión

Te explico cómo funciona el proyecto de Karpathy de Autoresearch y 4 lecciones para aplicar a tus agentes de IA

Te cuento qué es Docker scratch y cómo crear imágenes base desde cero. Aprende a reducir el tamaño de tus contenedores y mejorar la seguridad en producción.