Perplexity ha dado un paso estratégico en el ecosistema de inteligencia artificial al liberar Lily, su motor de inferencia propietario que hasta ahora funcionaba como el núcleo del sistema Hybrid Compute en Perplexity Computer. Desarrollado completamente en Rust y optimizado con kernels personalizados en Metal, Lily representa el esfuerzo más serio de la compañía por demostrar que Apple Silicon puede competir de verdad en tareas de inferencia de modelos de lenguaje grandes.

El lanzamiento no es casual. En los últimos meses, la comunidad de código abierto ha visto cómo múltiples actores compiten por dominar el segmento de inferencia local, especialmente en hardware de Apple. MLX, el framework de Apple para aprendizaje automático en sus propios chips, se había convertido en el estándar de facto para ejecutar modelos de lenguaje en Mac. La irrupción de Lily con mejoras de rendimiento del 23% en prefill y 35% en decodificación sobre MLX-LM cambia ese panorama.

Detalles técnicos que importan

Las cifras que presenta Perplexity provienen de pruebas rigurosas en un MacBook Pro con chip M5 Max de 40 núcleos y 128 GB de memoria unificada. El modelo protagonista es Qwen3.6-35B-A3B, una variante cuantizada del popular modelo de Alibaba que equilibra tamaño y rendimiento. La elección de Rust como lenguaje base no es trivial: ofrece garantías de seguridad de memoria que traducen en menos fallos y mayor estabilidad en producción, algo crítico para workloads de inferencia que pueden correr durante horas.

Los kernels personalizados en Metal permiten aprovechar la arquitectura única del hardware de Apple, particularmente su memoria unificada que elimina los cuellos de botella tradicionales entre CPU y GPU. A diferencia de soluciones genéricas que dependen de CUDA (el estándar de NVIDIA), Lily está diseñado desde cero para extractor cada gota de rendimiento del ecosistema Apple.

Por qué esto importa al mercado hispanohablante

El lanzamiento de Lily llega en un momento donde la demanda de soluciones de IA local crece exponencialmente en América Latina y España. Preocupaciones sobre privacidad de datos, costos de API y latencia han impulsado el interés por ejecutar modelos directamente en dispositivos. Un motor que rind 35% mejor que MLX en decodificación significa que profesionales pueden procesar documentos, resumir textos o generar código de manera más eficiente en sus propias máquinas, sin depender de servicios en la nube.

Para startups y equipos de desarrollo en la región, Lily representa una alternativa real a las soluciones propietarias. Perplexity ha demostrado con este movimiento que su estrategia no es solo competir como buscador de IA, sino posicionarse como actor clave en la infraestructura del ecosistema.

El movimiento también envía un mensaje claro a Apple. La compañía de Cupertino ha invertido considerablemente en capacidades de IA para sus chips, pero ha dependido de terceros para demostrar el valor real. Con Lily optimizado específicamente para Metal, Perplexity valida indirectamente que el hardware de Apple puede manejar modelos de decenas de miles de millones de parámetros de manera competitiva.

Implicaciones para la competencia

El código abierto de Lily establece un nuevo punto de referencia para el desarrollo de motores de inferencia. Vedant, el equipo detrás de MLX-LM, ahora enfrenta presión directa para optimizar su framework o arriesgarse a perder adopción. Esta competencia saludable beneficia ultimately a los desarrolladores que tendrán más opciones y mejores herramientas.

Además, la combinación Rust + Metal demuestra que no es necesario sacrificar rendimiento por seguridad y mantenibilidad. El ecosistema Rust ha ganado tracción enorme en sistemas de alto rendimiento, y su aplicación en inferencia de IA podría marcar tendencia para futuros desarrollos.

El lanzamiento ocurre mientras el mercado espera novedades significativas de Apple en inteligencia artificial. Se rumorea que la compañía prepara integraciones profundas de IA generativa para sus sistemas operativos en la WWDC de junio. Un motor optimizado como Lily valida que el ecosistema está madurando para recibir estas actualizaciones.

Para los profesionales tecnológicos hispanohablantes, Lily representa tanto una herramienta práctica como una señal de hacia dónde va la industria. La tendencia hacia la inferencia local, lejos de ser una moda pasajera, se consolida como respuesta legítima a las limitaciones de los servicios en la nube. Perplexity ha dejado claro que su visión va más allá de un simple buscador: está construyendo infraestructura fundamental para la próxima generación de aplicaciones de inteligencia artificial.