Инженер Habr впервые в мире включил P2P-обмен данными на видеокартах NVIDIA CMP90HX
Один из инженеров Habr смог активировать функцию прямого обмена данными (P2P) между видеокартами NVIDIA CMP90HX, что ранее считалось невозможным из-за программных ограничений производителя.
Эта задача была актуальной для инженера, так как он собирал сервер для одновременного запуска больших языковых моделей (LLM) на нескольких недорогих видеокартах. Отсутствие прямого P2P-обмена значительно замедляло работу, требуя обмена через центральный процессор, что создавало "бутылочное горлышко".
После детального анализа и экспериментов, специалист успешно обошёл эти ограничения. Он добился того, чтобы одна видеокарта CMP90HX могла напрямую обращаться к памяти другой, значительно увеличив скорость передачи данных между ними. В процессе ему помогли инженерные наработки самой NVIDIA.


Комментарии (0)
Без регистрации. Комментарии проверяются автоматически перед публикацией.
Пока нет комментариев. Будьте первым!