El nuevo chip acelera el procesamiento de IA generativa en el borde para ejecutar LLM más rápido

HSINCHU, Taiwán – 7 de mayo de 2024 – MediaTek presentó hoy el Dimensity 9300+, el más reciente chip móvil insignia de la cartera Dimensity de MediaTek. El Dimensity 9300+ ofrece mayores velocidades de reloj y está diseñado para acelerar el procesamiento de IA generativa en el dispositivo, ofreciendo un soporte más amplio para LLMs y otras mejoras de rendimiento con respecto al Dimensity 9300.

“El Dimensity 9300+ nos ayudará a seguir construyendo un abundante ecosistema de aplicaciones de IA generativa gracias al amplio soporte LLM del chip y LoRA Fusion en el dispositivo”, dijo JC Hsu, Vicepresidente Senior Corporativo de MediaTek. “Para mejorar estas experiencias de IA, el Dimensity 9300+ ofrece un rendimiento impresionante y mejoras para acelerar la inferencia de LLM, ejecutando tokens mucho más rápido para una mejor experiencia de usuario”.

Aprovechando un diseño All-Big-Core con proceso TSMC de 4 nm de 3ª generación, el Dimensity 9300+ tiene un núcleo Arm Cortex-X4 que funciona a una velocidad de hasta 3.4 GHz, además de tres núcleos Cortex-X4 y cuatro núcleos Cortex-A720. El Dimensity 9300+ también ofrece un mejor procesamiento de IA sobre la generación anterior gracias a la nueva tecnología de aceleración de decodificación especulativa NeuroPilot de MediaTek con el motor más actual de IA generativa de la compañía. El potente motor de IA APU 790 permite que Dimensity 9300+ no solo admita LLMs con 1B, 7B y 13B de parámetros, con escalabilidad de hasta 33B, sino que también ejecuta LLMs de manera rápida y eficiente. Con la aceleración de decodificación especulativa de NeuroPilot, el Dimensity 9300+ puede ejecutar LLMs con siete mil millones de parámetros a 22 tokens por segundo, más de 2 veces la tasa de las soluciones competidoras en el mercado masivo.

El Dimensity 9300+ integra un motor de trazado de rayos de hardware de 2ª generación con una GPU Arm Immortalis-G720, lo que brinda a los jugadores experiencias rápidas de trazado de rayos a 60 FPS suaves, junto con efectos de iluminación globales de nivel de consola. El chip también aprovecha las últimas tecnologías HyperEngine de MediaTek para llevar los juegos al siguiente nivel. La tecnología de juego adaptativo de MediaTek (MAGT) ofrece un aumento en la eficiencia energética cuando se habilita en títulos de juegos populares, lo que ayuda a prolongar la duración de la batería y a mantener frescos los dispositivos. Además, el chip integra el nuevo Sistema de Observación de Red (NOS) de HyperEngine para mejorar la concurrencia de doble red WiFi/Celular y así aprovechar la tecnología de predicción precisa de red. Cuando está habilitado, MediaTek NOS ofrece hasta un 10% de ahorro de energía y hasta un 25% de ahorro en datos móviles.

Con el ISP Imagiq 990 de MediaTek, que ofrece procesamiento RAW de 18 bits, el Dimensity 9300+ permite a los usuarios tomar fotos y videos increíbles, incluso en entornos con poca luz. Imagiq 990 tiene incorporado un motor de video de análisis semántico de IA para admitir funciones avanzadas de videografía de IA, incluida la segmentación de 16 escenas con captura de video en tiempo real para reducir el ruido, aumentar el brillo y mejorar los colores. Además, el Dimensity 9300+ integra MiraVision 990 de MediaTek, que cuenta con tecnologías avanzadas de motor de IA de profundidad para mejorar el contenido de los teléfonos inteligentes.

Dimensity 9300+ es ideal para una amplia gama de aplicaciones de IA, ya que ofrece:

• Compatibilidad con LoRA Fusion y NeuroPilot LoRA Fusion 2.0 en el dispositivo para que los desarrolladores puedan comercializar rápidamente nuevas aplicaciones de IA generativa con texto, imágenes, música y mucho más.
• Compatibilidad con los últimos LLMs, incluidos 01.AI Yi-Nano, Alibaba Cloud Qwen, Baichuan AI, ERNIE-3.5-SE, Google Gemini Nano, Meta Llama 2 y Llama 3.
• Delegación de ExecuTorch para la inferencia en el dispositivo implementada en el ecosistema.

Para proporcionar a los usuarios una conectividad rápida y confiable en diferentes escenarios, el Dimensity 9300+ incluye un módem 5G R16 diseñado con conocimiento de la situación de la IA. El módem es compatible con 4CC-CA Sub-6GHz con un enlace descendente de hasta 7 Gbps.

Para obtener más información sobre el portafolio Dimensity de MediaTek, visite: https://i.mediatek.com/mediatek-5g.

Acerca de MediaTek Inc.

MediaTek Incorporated (TWSE: 2454) es una empresa global de semiconductores con manufactura tercerizada que permite conectar casi 2 mil millones de dispositivos al año. Somos líderes de mercado en el desarrollo de innovadores sistemas en chip (SoC) para productos móviles, de entretenimiento en el hogar, de conectividad y de IoT. Nuestra dedicación a la innovación nos ha posicionado como una fuerza impulsora del mercado en varias áreas tecnológicas clave, incluidas las tecnologías móviles de alta eficiencia energética, soluciones automotrices y una amplia gama de productos multimedia avanzados como teléfonos inteligentes, tabletas, televisores digitales, 5G, dispositivos de asistente de voz (VAD) y dispositivos portátiles. MediaTek empodera e inspira a las personas a expandir sus horizontes y alcanzar sus objetivos a través de tecnología inteligente, de manera más fácil y eficiente que nunca. Trabajamos con las marcas que preferidas de todos para hacer tecnología excelente que sea accesible para todos, y eso impulsa todo lo que hacemos. Visite www.mediatek.com para obtener más información.