Цел – един милион GPU: Meta показва отвътре ИИ суперклъстера си Prometheus
Meta описва подробно гигаватовия си суперклъстер Prometheus в Охайо. Първият етап е готов и е обучил моделите Muse – накрая около един милион GPU трябва да работят заедно.
Снимка: Gary Halvorson, Oregon State Archives / Wikimedia Commons, CC BY 4.0 (изрязана и мащабирана)
Видео: YouTube · Open Compute Project · youtube.com
Meta описа подробно в понеделник в инженерния си блог как е изграден ИИ суперклъстерът Prometheus в Ню Олбани, щата Охайо. По данни на компанията първият етап е завършен и вече е използван за обучението на моделите Muse, сред които водещият модел Muse Wonder. При пълно изграждане около един милион разпределени GPU трябва да изчисляват синхронно.
Още сега там работят стотици хиляди GPU в класически, оптимизирани за ИИ и бързо издигнати сгради. Meta използва системи на Nvidia от типа GB200 NVL72 и GB300 NVL72, а в бъдеще и Vera Rubin NVL72 с над 170 киловата на шкаф. Ethernet мрежа свързва до 20 736 GPU във всяка сграда, а връзките между обектите са на разстояние от 2 до над 100 километра.
Едно от основните предизвикателства е надеждността: в средата на 2025 г. Meta е отчитала на моменти близо 1000 прекъсвания на 8000 GPU на ден, а оттогава честотата им е намаляла с 99 процента. При предварителното обучение на Muse Wonder реално използваемото изчислително време е било над 85 процента, според Meta. Следващият голям обект е Hyperion в Луизиана. Видео в канала на Open Compute Project, към което Meta препраща в публикацията, разглежда изграждането на ИИ инфраструктура в такъв мащаб.