Manager, Software Engineering, MTIA Software | Responsable, Ingénierie logicielle, MTIA Software

The MTIA (Meta Training & Inference Accelerator) Software team is part of AI and Compute Foundation organization. The team's mission is to explore, develop and help productize high-performance software and hardware technologies for AI at datacenter scale. The team co-optimizes both SW (e.g., algorithms and models) and HW (e.g., platform and network) to come up with balanced system design. To develop new systems, requires understanding performance bottlenecks on existing systems. As a result, the team invests significantly into optimizing AI production models on existing systems. This has resulted in TCO wins for all key AI services.Team has been developing AI compilers to accelerate Meta's DL/ML workloads on the specialized MTIA AI accelerator hardware in a highly performant and flexible way. As part of the AI acceleration software stack, we develop compiler optimizations exploiting various hardware architectural features, achieving high performance for our inference and training workloads.-------L'équipe logicielle MTIA (Meta Training et Inférence Accelerator) fait partie de l'organisation IA and Compute Foundation. La mission de l'équipe est d'explorer, de développer et d'aider à commercialiser des technologies logicielles et matérielles hautes performances pour l'IA à l'échelle du centre de données. L'équipe co-optimise à la fois le logiciel (par exemple, les algorithmes et modèles) et le matériel (par exemple, la plateforme et le réseau) pour parvenir à une conception de système équilibrée. Développer de nouveaux systèmes nécessite de comprendre les goulots d'étranglement des performances des systèmes existants. En conséquence, l'équipe investit considérablement dans l'optimisation des modèles de production d'IA sur les systèmes existants. Cela a permis de réaliser des gains en termes de coût total de possession pour tous les services clés d'IA.L'équipe a développé des compilateurs d'IA pour accélérer les charges de travail DL/ML de Meta sur le matériel d'ac