Tiiny AI presenta el mini PC AI Pocket Lab con CPU Arm de 12 núcleos

Tiiny AI Inc. (www.tiiny.ai), una startup de inteligencia artificial de tecnología profunda de los Estados Unidos, presentó hoy la supercomputadora de inteligencia artificial personal más pequeña del mundo, el Tiiny AI Pocket Lab, verificado oficialmente por Guinness World Records en la categoría "The Smallest MiniPC (100B LLM Locally)". El evento marcó la primera presentación pública global del Tiiny AI Pocket Lab. Por primera vez en la supercomputación de IA, un dispositivo de bolsillo es capaz de ejecutar hasta un modelo completo de lenguaje grande (LLM) de 120 mil millones de parámetros completamente en el dispositivo, sin conectividad en la nube, servidores o GPU de gama alta.

Diseñado para una inteligencia personal energéticamente eficiente, Tiiny AI Pocket Lab funciona dentro de una envolvente de potencia de 65 W. Puede permitir el rendimiento de gran modelo a una fracción de la energía y la huella de carbono de los sistemas tradicionales basados en GPU.

  

El dispositivo representa un cambio importante en la trayectoria de la industria de la IA. A medida que la IA basada en la nube lucha cada vez más con las preocupaciones de sostenibilidad, el aumento de los costos de energía, los cortes globales, los costos prohibitivos del procesamiento de contexto largo y los crecientes riesgos de privacidad, Tiiny AI introduce un modelo alternativo centrado en la inteligencia personal, portátil y totalmente privada. Según Tiiny AI, el verdadero cuello de botella en el ecosistema actual de IA "no es la potencia informática, es la dependencia de la nube".

"La IA en la nube ha traído un progreso notable, pero también creó desafíos de dependencia, vulnerabilidad y sostenibilidad", dijo Samar Bhoj, Director de TIiny AI de GTM. "Con Tiiny AI Pocket Lab, creemos que la inteligencia no debería pertenecer a los centros de datos, sino a las personas. Este es el primer paso para hacer que la IA avanzada sea verdaderamente accesible, privada y personal, al llevar el poder de los grandes modelos desde la nube a cada dispositivo individual".

Tiiny AI Pocket Lab está diseñado para apoyar casi todos los principales casos de uso de IA personal, sirviendo a desarrolladores, investigadores, creadores, profesionales y estudiantes. Permite el razonamiento de múltiples pasos, la comprensión profunda del contexto, los flujos de trabajo de los agentes, la generación de contenido y el procesamiento seguro de información confidencial, incluso sin acceso a Internet. El dispositivo también proporciona una verdadera memoria personal a largo plazo al almacenar datos, preferencias y documentos de los usuarios localmente con cifrado a nivel bancario, ofreciendo un nivel de privacidad y persistencia que los sistemas de inteligencia artificial basados en la nube no pueden proporcionar.

De manera crucial, Tiiny AI Pocket Lab opera en la "zona de oro" de los parámetros personales de IA (10B-100B), que satisface más del 80% de las necesidades del mundo real. Para ir más allá, admite modelos que escalan hasta 120B LLM, ofreciendo niveles de inteligencia comparables a GPT-4o. Esto permite el razonamiento a nivel de doctorado, el análisis de múltiples pasos y la comprensión contextual profunda, pero con la seguridad del procesamiento completamente fuera de línea y en el dispositivo.

El anuncio se produce cuando el mercado global de LLM está entrando en un período de rápida expansión. Según Grand View Research, el tamaño del mercado global de LLM se estimó en USD 7.4 mil millones en 2025 y se proyecta que alcance USD 35.4 mil millones para 2030, creciendo a una CAGR del 36.9% de 2025 a 2030. Está impulsado por los avances en el aprendizaje autosupervisado, el desarrollo de modelos específicos de dominio y la creciente adopción empresarial en sectores que incluyen comercio minorista, comercio electrónico, atención médica y medios de comunicación.

Tiiny AI Pocket Lab está impulsado por dos avances tecnológicos centrales que hacen que los modelos de gran parámetro sean viables en un dispositivo compacto. TurboSparse, una técnica de activación escasa a nivel de neuronas, mejora significativamente la eficiencia de la inferencia mientras mantiene la inteligencia completa del modelo. PowerInfer, un motor de inferencia heterogéneo de código abierto con más de 8.000 estrellas GitHub, acelera las pesadas cargas de trabajo de LLM distribuyendo dinámicamente el cálculo a través de la CPU y la NPU, lo que permite un rendimiento de grado severo a una fracción del consumo de energía tradicional. En conjunto, estas tecnologías permiten a Tiiny AI Pocket Lab ofrecer capacidades que anteriormente requerían GPU profesionales que cuestan miles de dólares.

Especificaciones dominantes:

• Procesador: ARMv9.2 CPU de 12 núcleos

• AI Compute Power: módulo heterogéneo personalizado (SoC + dNPU), que ofrece ~ 190 TOPS

• Memoria y almacenamiento: 80 GB LPDDR5X + 1 TB SSD

• Capacidad del modelo: Ejecuta hasta LLM de 120B-parametro completamente en el dispositivo

• Eficiencia de potencia: 30 W TDP, 65 W potencia típica del sistema

• Dimensiones y peso: 14.2 × 8 × 2.53 cm, aprox. 300 g, tamaño de bolsillo

• Ecosistema: Implementación con un solo clic de docenas de LLM y marcos de agentes de código abierto

• Conectividad: Funciona completamente fuera de línea; no se requiere Internet o nube

La compañía también ofrece un ecosistema de código abierto listo para usar. Tiiny AI Pocket Lab admite la instalación con un solo clic de los principales modelos de código abierto, incluidos OpenAI GPT-OSS, Llama, Qwen, DeepSeek, Mistral y Phi, y permite la implementación perfecta de agentes de inteligencia artificial populares de código abierto como OpenManus, ComfyUI, Flowise, Presenton, Libra, Bella y SillyTavern. Los usuarios reciben actualizaciones continuas, incluidas las actualizaciones oficiales de hardware de OTA. Las características anteriores se lanzarán en el CES en enero de 2026.

Fuente:Tiiny AI