Независимые моддеры выпустили утилиты для прошивки, которые позволяют эффективно обойти искусственные ограничения, налагаемые компанией Nvidia на свои видеокарты потребительского класса. В результате производительность видеокарт серий RTX 20, 30 и 40 в задачах машинного обучения и искусственного интеллекта на системах Linux практически удвоилась. Вы можете попробовать это самостоятельно через репозиторий KohakUnlock.
Что это значит для вашей видеокарты?
Это зависит от того, как вы используете свой ПК
Для обычного пользователя это давняя проблема, связанная с ограничениями корпоративного программного обеспечения. NVIDIA традиционно создавала свои игровые видеокарты для потребителей на базе тех же чипов, что и для высокопроизводительных рабочих станций, но использовала прошивку для ограничения исходной математической пропускной способности видеокарт для потребительского сигмента.
Начиная с видеокарт серии GeForce RTX 30 «Ampere», один из исследователей создал инструмент, который позволяет этим видеокартам обрабатывать определенные математические инструкции в два раза быстрее. Это означает, что такие карты, как GeForce RTX 3090 Ti, могут выполнять матричные вычисления на 80% быстрее. Данный инструмент работает на картах GeForce RTX с чипами GA102, GA103, GA104 и GA106.
Для более новой серии GeForce RTX 40 «Ada Lovelace» разработан другой инструмент, который удваивает скорость выполнения определённых типов математических вычислений, используемых в искусственном интеллекте. Например, благодаря этой разблокировке производительность GeForce RTX 4090 подскочила с 165,6 до 331,6 триллиона операций в секунду. Обычно таких скоростей достигают только дорогие профессиональные видеокарты, такие как NVIDIA RTX 6000 «Ada Lovelace». Похоже, что NVIDIA намеренно снизила производительность потребительских видеокарт при выполнении некоторых задач искусственного интеллекта, но эта разблокировка позволяет восстановить их полную мощность на чипах AD102, AD103 и AD106.
Недавно разработанная утилита open-pu-unlock и связанные с ней модули перехватывают процесс загрузки до того, как официальные драйверы связываются с ядром, отменяя ограничения на уровне PCIe. Вместо изменения постоянного видео-BIOS утилита устраняет программные узкие места, связанные со скоростью выдачи инструкций для матричных вычислений в форматах FP16 и BF16. В тестах высокопроизводительные потребительские видеокарты, такие как GeForce RTX 4090 и RTX 3090 Ti, демонстрируют почти двукратное увеличение пропускной способности тензорных вычислений по сравнению с предыдущими показателями, фактически сравниваясь с аппаратным обеспечением рабочих станций, которое обычно стоит на тысячи долларов дороже.
Этот инженерный подвиг, безусловно, впечатляет, но его реальное влияние на обычного пользователя неоднозначно и зависит от того, как вы используете свой компьютер. В частности, геймерам на ПК следует знать, что эти изменения не дают никаких преимуществ для традиционных игр, рендеринга в реальном времени или частоты кадров, поскольку рендеринговые движки и так используют все доступные графические ресурсы.
Вместо этого основными бенефициарами станут энтузиасты, разработчики и исследователи, запускающие собственные локальные модели большого языка (LLM) или выполняющие ресурсоемкие задачи, характерные для ИИ (например, ИИ-увеличение разрешения видео), где чем выше математическая пропускная способность, тем больше токенов можно обработать.
В то же время сообщество испытывает реальное беспокойство по поводу вторичного рынка. Пользователь iameatingjam на форуме указал, что если вы собираетесь разблокировать производительность ИИ корпоративного уровня на старой потребительской архитектуре, это создаст большой спрос на вторичном рынке. Если энтузиасты и мелкие разработчики начнут скупать потребительские видеокарты предыдущего поколения для сборки собственных недорогих систем машинного обучения, это еще больше повысит спрос и цену, что фактически лишит возможности приобрести карту среднестатистического геймера, который просто хочет купить карту начального уровня. На данный момент они по-прежнему работают только под Linux, требуют ручной настройки при загрузке и приводят к аннулированию гарантии на оборудование.
Комментарии (0)