Емлютин Евгений Семенович

Компания Nvidia представила чудовищный A100 чип AI с 54 миллиардами транзисторов и 5 петафлопс производительности

Nvidia сегодня распахнула свой чип искусственного интеллекта Nvidia A100, и генеральный директор Jensen Huang назвал его конечным инструментом для продвижения ИИ. По словам Хуанга, это может сделать суперкомпьютерные задачи - которые жизненно важны в борьбе с COVID-19 - гораздо более экономичными и мощными, чем современные более дорогие системы. Чип имеет чудовищный 54 млрд транзисторов (выключатели, которые являются составными блоками всех вещей электронных), и он может выполнять 5 петафлопс производительности, или примерно в 20 раз больше, чем чип предыдущего поколения Volta. Это заявление Хуан сделал во время своего выступления на мероприятии Nvidia GTC, которое было оцифровано в этом году. Изначально запуск был запланирован на 24 марта, но был отложен из-за пандемии. Nvidia перенесла выпуск на сегодня, так как чипы и системы A100 DGX, которые использовали чипы, теперь доступны и отгрузка. В чипе Nvidia A100 используется та же архитектура Ампере (названная в честь французского математика и физика Андре-Мари Ампера), которая может быть использована в потребительских приложениях, таких как графические чипы Nvidia GeForce. В отличие от Advanced Micro Devices (AMD), Nvidia сосредоточена на создании единой микроархитектуры для своих GPU как для коммерческого ИИ, так и для потребительской графики. Но Хун сказал, что смешение и соответствие различных элементов на чипе будет определять, используется ли он для ИИ или графики.

DGX A100 является третьим поколением платформы Nvidia AI DGX, и по словам Хуанга, она по сути ставит возможности целого центра обработки данных в одну стойку. То есть гипербола, но директор по управлению продуктами ЦОД и облачных платформ Пареш Харья в ходе пресс-брифинга заявил, что 7-нанометровый чип под кодовым названием Ampere может занять место множества ИИ-систем, используемых сегодня. "Вы получаете все издержки дополнительной памяти, ЦП и источников питания 56 серверов... Рухнул в один ", - сказал Хун. "Экономическое ценностное предложение действительно выходит за рамки графика, и это действительно захватывающая вещь". Например, для выполнения задач обучения ИИ сегодня одному заказчику необходимо 600 систем центрального процессора для обработки миллионов запросов для приложений центра обработки данных. Это стоит 11 миллионов долларов и потребует 25 стоек серверов и 630 киловатт электроэнергии. С помощью Ampere Nvidia может выполнять такую же обработку за $1 млн, одну серверную стойку и 28 киловатт мощности.

"Поэтому ты слышишь, как Дженсен говорит:" чем больше покупаешь, тем больше экономишь ", - сказал Харья

Хун добавил: "Это заменит целую кучу серверов выводов. Пропускная способность обучения и вывода выходит за рамки графиков - 20 раз выходит за рамки графиков ". Первый заказ Первый заказ на чипы отправляется в национальную лабораторию Министерства энергетики США (DOE) Argonne, которая будет использовать ИИ кластера и вычислительные мощности для лучшего понимания и борьбы с COVID-19. В системах DGX A100 используются восемь новых GPU Nvidia A100 Tensor Core, что обеспечивает 320 гигабайт памяти для обучения крупнейших наборов данных AI, а также новейшие высокоскоростные разъемы Nvidia Mellanox HDR 200Gbps. Несколько небольших рабочих нагрузок можно ускорить, разделив A100 DGX на 56 экземпляров на систему с помощью A100 графического процессора с несколькими экземплярами. Сочетание этих возможностей позволяет предприятиям оптимизировать вычислительную мощность и ресурсы по требованию для ускорения различных рабочих нагрузок, включая аналитику данных, обучение и вывод, на единой полностью интегрированной программно-определяемой платформе. Немедленное внедрение и поддержка A100 DGX По словам представителей Nvidia, ряд крупнейших мировых компаний, поставщиков услуг и госорганов разместили первоначальные заказы на A100 DGX, причем первые системы были поставлены Argonne в начале этого месяца. Рик Стивенс (Rick Stevens), младший директор лаборатории по вычислениям, окружающей среде и наукам о жизни Национальной лаборатории Аргонна (Argonne National Lab), заявил, что суперкомпьютеры центра используются для борьбы с коронавирусом, при этом модели ИИ и симуляции работают на машинах в надежде найти методы лечения и вакцину. Мощность A100 систем DGX позволит ученым выполнять годичную работу за месяцы или дни.

Университет Флориды станет первым в США высшим учебным заведением, получившим системы A100 DGX, которые он развернет, чтобы внедрять ИИ по всей своей учебной программе, чтобы сформировать рабочую силу с поддержкой ИИ. Среди других ранних приемников - Центр биомедицинского ИИ при Университетском медицинском центре Гамбург-Эппендорф, Германия, который будет использовать A100 DGX для продвижения поддержки клинических решений и оптимизации процессов. Тысячи систем DGX предыдущего поколения в настоящее время используются по всему миру широким кругом государственных и частных организаций. Среди этих пользователей - некоторые ведущие мировые предприятия, в том числе автопроизводители, поставщики услуг здравоохранения, ритейлеры, финансовые учреждения и логистические компании, которые внедряют ИИ в своих отраслях. SuperPods Nvidia также раскрыла свой DGX SuperPod следующего поколения, кластер из 140 A100 систем DGX, способных достичь 700 петафлопсов AI вычислительной мощности. Объединив 140 систем A100 DGX с Nvidia Mellanox HDR 200Gbps interconnections, компания создала собственный суперкомпьютер нового поколения DGX SuperPod AI для внутренних исследований в таких областях, как разговорное ИИ, геномика и автономное вождение. По словам Харьи, на создание этого SuperPod ушло всего три недели, а кластер - один из самых быстрых в мире суперкомпьютеров AI - достиг уровня производительности, который ранее требовал тысячи серверов. Чтобы помочь клиентам в создании собственных центров обработки данных A100-powered, Nvidia выпустила новую эталонную архитектуру DGX SuperPod. Это дает заказчикам проект, который соответствует тем же принципам проектирования и передовым практикам, которые использует Nvidia.

Программа DGXpert, программное обеспечение, готовое к использованию DGX Nvidia также запустила программу Nvidia DGXpert, которая объединяет клиентов DGX с экспертами компании по ИИ, и готовую к использованию программу Nvidia DGX, которая помогает клиентам использовать преимущества сертифицированного ПО корпоративного класса для потоков операций ИИ. В компании рассказали, что каждая A100 система DGX имеет восемь графических процессоров Nvidia A100 Tensor Core (GPU), поставляющих 5 петафлопс мощности AI, с 320GB в общем объеме памяти GPU и 12.4TB в секунду в полосе пропускания. У систем также есть шесть Nvidia соединительные ткани NVSwitch с Nvidia третьего поколения технология NVLink для 4,8 терабайт в секунду двунаправленной пропускной способности. Кроме того, они имеют девять сетевых интерфейсов Nvidia Mellanox ConnectX-6 HDR 200Gb в секунду, предлагая в общей сложности 3,6 терабайта в секунду двунаправленной полосы пропускания. Чипы изготавливаются компанией TSMC в 7-нанометровом процессе. A100 системы Nvidia DGX начинаются с $199 000 и сейчас поставляются через реселлеров Nvidia Partner Network по всему миру. По словам Хуанга, A100 DGX использует системную плату HGX, которая весит около 50 фунтов и является "самой сложной системной платой в мире". (Это доска, которую он вытащил из своей домашней печи в тизере видео). Она имеет 30 тысяч компонентов и километр проволочных следов. Что касается чипа потребительской графики, то Nvidia настроит чипсет на базе Ampere совсем по-другому. В A100 используется память с высокой пропускной способностью для приложений центра обработки данных, но она не будет использоваться в потребительской графике. По его словам, ядра также будут сильно смещены в отношении графики вместо того, чтобы использовать вычислительные центры с двойной точностью с плавающей запятой. "Мы будем по-разному его перекосить, но каждая отдельная рабочая нагрузка работает на каждом отдельном GPU", - сказал Хун.