Microsoft объясняет, как тысячи видеокарт Nvidia создали ChatGPT

За последние шесть месяцев ChatGPT приобрел вирусную славу, но она не возникла из ниоткуда. Согласно сообщению в блоге Microsoft, компания OpenAI, создавшая ChatGPT, обратилась к Microsoft для создания инфраструктуры ИИ на тысячах графических процессоров Nvidia более пяти лет назад.

Партнерство OpenAI и Microsoft привлекло много внимания в последнее время, особенно после того, как Microsoft инвестировала 10 миллиардов долларов в исследовательскую группу, стоящую за такими инструментами, как ChatGPT и DALL-E 2. Однако, по словам Microsoft, партнерство началось давно. С тех пор Microsoft потратила «несколько сотен миллионов долларов» на развитие инфраструктуры для поддержки ChatGPT и таких проектов, как Bing Chat.

Большая часть этих денег пошла на Nvidia, которая сейчас находится на передовой вычислительного оборудования, необходимого для обучения моделей ИИ. Вместо игровых графических процессоров, которые можно найти в списке лучших видеокарт, Microsoft выбрала графические процессоры Nvidia корпоративного класса, такие как A100 и H100.

Как объясняет Нидхи Чаппелл, руководитель отдела продуктов Microsoft для Azure: «Это не просто купить целую кучу видеокарт, соединить их вместе, и они начнут работать вместе. Для достижения наилучшей производительности необходимо провести множество оптимизаций всец системы, что является результатом большого опыта работы многих высококвалифицированных специалистов.»

Создав инфраструктуру, Microsoft теперь открывает доступ к своему оборудованию для других. Компания объявила в блоге, что будет предлагать системы Nvidia H100 по требованию в размерах от 8 до 1000 видеокарт Nvidia H100, поставляемых через сеть Microsoft Azure.

Популярность ChatGPT резко возросла благодаря Nvidia, которая уже несколько лет инвестирует в ИИ через аппаратное и программное обеспечение. AMD, главный конкурент Nvidia в области игровых видеокарт, пытается продвинуться в этом направлении с помощью таких ускорителей, как Instinct MI300.

По словам Грега Брокмана, президента и соучредителя OpenAI, обучение ChatGPT было бы невозможным без мощностей, предоставляемых Microsoft: «Совместная разработка суперкомпьютеров с Azure сыграла решающую роль в масштабировании наших требовательных задач и потребностей в обучении ИИ, сделав возможными наши исследования и работу таких систем, как ChatGPT».

Nvidia, как ожидается, раскроет больше информации о будущих продуктах ИИ во время конференции GPU Technology Conference (GTC). Ключевая презентация начнется 21 марта.

Зарубин Иван Эксперт по Linux и Windows

Парашютист со стажем. Много читаю и слушаю подкасты. Люблю посиделки у костра, песни под гитару и приближающиеся дедлайны. Люблю путешествовать.

Похожие статьи

Комментарии (0)