MTIA आर्किटेक्चर (Meta की आधिकारिक मार्च 2026 सामग्री के अनुसार — जब तक अलग से पुष्टि न हो, विनिर्देश COMPANY CLAIM हैं)। MTIA परिवार एक मॉड्यूलर, बहु-चिपलेट (multi-chiplet), RISC-V आधारित डिज़ाइन है, जो Broadcom के साथ सह-विकसित है और TSMC द्वारा फैब्रिकेटेड है। MTIA 300 (उत्पादन में) ने ब्लॉक पैटर्न तय किया: एक कंप्यूट चिपलेट (प्रोसेसिंग एलिमेंट्स का ग्रिड, हर PE में RISC-V वेक्टर कोर की जोड़ी, यील्ड के लिए रिडंडेंट PEs), दो नेटवर्क चिपलेट (हर एक में छह 800 Gbps RDMA NICs → 1.2 TB/s ऑन-चिप I/O), और HBM स्टैक; संचार को सह-डिज़ाइन की गई HCCL लाइब्रेरी के ज़रिए प्राथमिक नागरिक का दर्जा दिया गया है (Meta की 24 अगस्त की इंजीनियरिंग पोस्ट और ISCA '26 पेपर के अनुसार)। MTIA 400 दो कंप्यूट चिपलेट पर चला गया (~5× FP8 FLOPS, 300 के मुकाबले; 9.2 TB/s HBM3e; हार्डवेयर MXFP4/MX4/MX8 माइक्रोस्केलिंग), साथ में 1.2 TB/s स्विच्ड ईथरनेट बैकप्लेन पर 72-डिवाइस स्केल-अप डोमेन। MTIA 400, 450 और 500 एक ही चेसिस, रैक और नेटवर्क इन्फ्रास्ट्रक्चर साझा करते हैं — हर पीढ़ी मौजूदा फ़ुटप्रिंट में ही लग जाती है, और Meta इसे ही अपनी ~छह महीने की चिप कैडेंस का श्रेय देता है। सॉफ़्टवेयर PyTorch, vLLM और Triton पर मूल रूप से चलता है, torch.compile/torch.export का समर्थन है, इसलिए उत्पादन मॉडल बिना MTIA-विशिष्ट रीराइट के GPUs और MTIA दोनों पर एक साथ तैनात हो जाते हैं (Meta का दावा)।
MTIA 450 ("Arke") — GenAI इन्फरेंस के लिए चार क्षेत्रों में अनुकूलन: (1) HBM बैंडविड्थ दोगुनी होकर 18.4 TB/s (9.2 से) डिकोड को तेज़ करने के लिए; (2) MX4 FLOPS +75% (~21 PFLOPS MX4) MoE फ़ीड-फ़ॉरवर्ड नेटवर्क तेज़ करने के लिए; (3) अटेंशन और FFN के लिए हार्डवेयर त्वरण — समर्पित FlashAttention/Softmax-शैली इकाइयां जो इन्फरेंस की पारंपरिक अड़चनों को हटाती हैं; (4) कस्टम लो-प्रिसिज़न डेटा टाइप (MX4/MX8 से आगे), जिनमें डेटा-टाइप-कन्वर्ज़न के सॉफ़्टवेयर ओवरहेड के बिना मिश्रित लो-प्रिसिज़न गणना शामिल है; MTIA 450 FP16/BF16 के मुकाबले ~6× MX4 FLOPS देता है (21 बनाम 3.5 PFLOPS — गणितीय रूप से सुसंगत)। अन्य बताए गए आंकड़े: 7 PFLOPS FP8, 288 GB HBM, 1,400 W TDP (Meta की स्पेक तालिका, जैसा Tom's Hardware/the-decoder/DCD ने उतारा)। तैनाती: H1 2027।
MTIA 500 ("Astrid") — मॉड्यूलर दर्शन को आगे बढ़ाता है: HBM स्टैक से घिरा छोटे कंप्यूट चिपलेटों का 2×2 विन्यास, साथ में दो नेटवर्क चिपलेट और एक SoC चिपलेट (होस्ट PCIe + स्केल-आउट NICs)। 450 के मुकाबले: +50% HBM बैंडविड्थ (27.6 TB/s), HBM क्षमता में +80% तक (384–512 GB), +43% MX4 FLOPS (~30 PFLOPS); वही इन्फरेंस-केंद्रित हार्डवेयर त्वरण और डेटा-टाइप नवाचार। बताए गए आंकड़े: 10 PFLOPS FP8, 1,700 W TDP। रोडमैप का शुरू-से-अंत गणित (Meta का दावा, क्रॉस-चेक किया गया): MTIA 300→500 HBM बैंडविड्थ ×4.5 (6.1→27.6 TB/s) और कंप्यूट ×25 (1.2 PFLOPS FP8/MX8 → 30 PFLOPS MX4 — यह क्रॉस-फ़ॉर्मेट आंकड़ा है, गुणवत्ता-समायोजित स्पीडअप नहीं)। तैनाती: 2027 का अंत, Arke से व्यापक। Hot Chips की स्वतंत्र टिप्पणी कहती है कि MTIA 500 स्केल-अप डोमेन को 72 एक्सेलेरेटरों से आगे बढ़ा सकता है (पूरी तरह खुलासा नहीं)।
इन्फरेंस-फ़र्स्ट क्यों: Meta का बताया गया तर्क (Bloomberg और CNBC को Song) यह है कि मुख्यधारा के हिस्से सबसे कठिन वर्कलोड (फ्रंटियर प्री-ट्रेनिंग) के लिए बनाए जाते हैं और फिर इन्फरेंस पर कम लागत-कुशलता से लगाए जाते हैं; Meta पहले उसी वर्कलोड के लिए अनुकूलन करता है जिसका वह प्रभुत्व रखने की उम्मीद करता है — GenAI इन्फरेंस — और फिर R&R ट्रेनिंग/इन्फरेंस तथा बाद में GenAI ट्रेनिंग तक विस्तार करता है।