Meta mit Details zum neuen KI-Chip: Schnelleres Training der Ranking-Modelle

Meta verspricht, dass die nächste Generation seiner maßgeschneiderten KI-Chips leistungsfähiger sein werde und die Ranking-Modelle deutlich schneller trainieren könne. Zu Beginn des Jahres hatte Reuters berichtet, dass Meta eine neue Version eines speziellen Rechenzentrumschips plane, um den steigenden Bedarf an Rechenleistung für KI-Produkte in Facebook, Instagram und WhatsApp zu bewältigen. Der Chip sollte dazu beitragen, die Abhängigkeit von NVIDIAs KI-Chips zu reduzieren und gleichzeitig die Energiekosten zu senken.

Der neue Meta Training and Inference Accelerator (MTIA) Chip sei Teil eines umfassenden Unternehmensprojekts, das auch andere Hardwaresysteme in Betracht ziehe, wie CNBC berichtete.

MTIA-Chips befinden sich in der Produktion

Meta hatte den MTIA v1 im Mai 2023 angekündigt und sich zunächst auf die Bereitstellung der Chips für Rechenzentren konzentriert. Die nächste Generation des Chips dürfte ebenfalls auf Rechenzentren ausgerichtet sein, schrieb das amerikanische Technikportal "The Verge". Die Markteinführung des MTIA v1 sei nicht vor 2025 erwartet worden, aber beide MTIA-Chips würden sich nun in der Produktion befinden, hieß es weiter. Derzeit trainiere der MTIA hauptsächlich Ranking- und Empfehlungsalgorithmen, aber das Ziel könnte sein, die Fähigkeiten des Chips zu erweitern, um auch generative KI-Modelle wie die Llama-Sprachmodelle zu trainieren.

Nächste Version des Chips übertrifft den Vorgänger um das Dreifache

Seit einiger Zeit wird bereits an dem MTIA v2-Projekt gearbeitet, das intern als Artemis bezeichnet wird. Der neue MTIA-Chip konzentriere sich grundlegend darauf, das richtige Gleichgewicht zwischen Rechenleistung, Speicherbandbreite und Speicherkapazität zu bieten, zitierte "The Verge" den Konzern. Der Chip verfüge über 256 MB integrierten Speicher und 1,3 GHz, im Vergleich zu den 128 MB und 800 GHz des v1-Chips. Erste Testergebnisse von Meta würde zeigen, dass der neue Chip bei vier von dem Unternehmen untersuchten Modellen dreimal besser abschneide als die Version der ersten Generation.

Dieses Jahr sollen 350.000 H100-Chips von NVIDIA erworben werden

Neben der Entwicklung der Chips und der Hardware hat Meta auch erhebliche Investitionen in die Entwicklung der Software getätigt, die erforderlich ist, um die Leistungsfähigkeit seiner Infrastruktur möglichst effizient zu nutzen. Der Konzern investiert zudem Milliarden in den Kauf von KI-Chips, darunter von NVIDIA. CNBC zitiert den Meta-CEO Mark Zuckerberg, der angibt, dass das Unternehmen in diesem Jahr etwa 350.000 H100-Chips von NVIDIA erwerben möchte. Zusammen mit anderen Anbietern plant Meta, im laufenden Jahr das Äquivalent von 600.000 H100-Chips zu erwerben.