Volver arriba
viernes, 24 de mayo de 2024
casaInternetEmpresaMeta: Inteligencia artificial mejorada con el acelerador MTIA de segunda generación

Meta: Inteligencia artificial mejorada con el acelerador MTIA de segunda generación

Η , en su afán por convertirse en una fuerza líder en inteligencia artificial, el dijo el lanzamiento de la segunda generación del Meta Training & Inference Accelerator (MTIA).

El nuevo acelerador MTIA es un paso clave hacia el desarrollo de sistemas de inteligencia artificial más potentes y eficientes, con el objetivo de impulsar las aplicaciones innovadoras de Meta en varias plataformas, como e Instagram.

Rendimiento mejorado para el entrenamiento y la inferencia de IA:

Diseñado en base a Son 5 nm , el nuevo acelerador MTIA ofrece un rendimiento significativamente mayor en comparación con la generación anterior. En el procesamiento de matrices GEMM, MTIA alcanza 708 TeraFLOPS en INT8 (probablemente FP8) con sparse, 354 TeraFLOPS sin sparse, 354 TeraFLOPS en FP16/BF16 con sparse y 177 TeraFLOPS sin sparse.

Arquitectura especializada para PyTorch AI:

MTIA está diseñado específicamente para realizar tareas de inferencia y entrenamiento de IA en el marco de IA PyTorch de Meta. Se combina con el backend Triton de código abierto para un rendimiento y flexibilidad óptimos.

Solución escalable para implementaciones a escala de rack:

Meta adopta un enfoque escalonado, colocando dos aceleradores MTIA en una placa junto con 128 GB de memoria LPDDR5. Cada placa se conecta a través de PCIe Gen 5 en un sistema que puede albergar hasta 12 placas. Se pueden instalar 72 placas en un rack, ofreciendo un rendimiento total de 101,95 PetaFLOPS.

Fortaleciendo el liderazgo tecnológico:

El desarrollo de MTIA subraya el compromiso de Meta con la innovación en el campo de la inteligencia artificial. Se espera que el nuevo acelerador desempeñe un papel clave en el impulso de la próxima generación de aplicaciones de IA de Meta, brindando una experiencia de usuario mejorada y haciendo avanzar la y el desarrollo en áreas críticas.

Resumen:

  • Η meta presenta la segunda generación del acelerador MTIA para impulsar el entrenamiento y la inferencia de IA.
  • MTIA ofrece un rendimiento significativamente mayor y está diseñado para PyTorch AI.
  • La arquitectura escalable permite instalar hasta 144 aceleradores MTIA en un rack, para un rendimiento total de 101,95 PetaFLOPS.
  • MTIA refuerza la posición de Meta como líder en inteligencia artificial.
Marizas Dimitris
Marizas Dimitrishttps://www.techwar.gr
Dimitris, fanático de los teléfonos móviles Samsung, ha desarrollado una relación especial con los productos de la empresa, apreciando el diseño, el rendimiento y la innovación que ofrecen. Escribir y leer noticias tecnológicas de todo el mundo.
ARTÍCULOS RELACIONADOS

DEJA UNA RESPUESTA

ingresa tu comentario!
por favor ingresa tu nombre aquí

Más popular

Ultimos articulos