Облачная платформа Oracle Cloud Infrastructure (OCI) внедрила ускорители AMD Instinct MI300X и программный стек AMD ROCm в новых инстансах BM.GPU.MI300X.8, которые предназначены для интенсивных ИИ-задач, таких как обработка больших языковых моделей (LLM) с сотнями миллиардов параметров. Эти инстансы объединяют восемь ускорителей MI300X с 192 Гбайт HBM3 памяти каждый и пропускной способностью 5,3 Тбайт/с. Для вычислений используются два процессора Intel Xeon Sapphire Rapids с 56 ядрами, 2 Тбайт оперативной памяти DDR5 и восемь NVMe SSD на 3,84 Тбайт. Стоимость — $6/час за ускоритель. OCI Supercluster может объединять до 16 384 ускорителей MI300X, обеспечивая масштабируемость под любые задачи.
В облачной платформе Oracle возможно объединение до 16 тысяч ускорителей AMD Instinct MI300X.
27 сентября 2024