Canonical облегчает разработчикам развертывание моделей искусственного интеллекта на Ubuntu, выпуская новые оптимизированные привязки к выводам для устройств Intel и ARM Ampere.
Бета-версии DeepSeek R1 и Qwen 2.5 VL стали первыми большими языковыми моделями (LLM) в магазине привязок. Каждая из них предлагает автоматические движки, квантование и архитектуру, основанную на конкретном кремнии устройства, на которое они устанавливаются.
Что это за модели?
DeepSeek R1 – это модель рассуждений с открытым исходным кодом от китайской компании DeepSeek, которая лучше справляется с математикой, кодированием и сложными задачами.
Qwen 2.5 VL – модель зрения с открытым исходным кодом от Alibaba Clouds, предназначенная для обработки текста, изображений и видео.
Обе модели устанавливаются и запускаются локально, без необходимости обращаться к облачным API или оплачивать подписку.
Мы делаем оптимизированные модели ИИ доступными для всех. При включении пользователем они будут глубоко интегрированы вплоть до кремниевого уровня
- говорит о запуске Джон Сигер (Jon Seager), вице-президент по инженерным вопросам Canonical
Джефф Виттих, директор по продуктам Ampere, говорит, что благодаря этому высокая производительность и эффективность Amperes будет доступна конечным пользователям прямо из коробки, а предприятия смогут быстро развернуть и масштабировать свои предпочтительные модели ИИ на системах Ampere с экосистемой Ubuntus AI-ready.
Предоставление разработчикам более легкого доступа к предварительно настроенным LLM на Ubuntu для использования в приложениях и серверных рабочих нагрузках означает, что им больше не нужно искать, находить и вручную развертывать квантованные (уменьшающие размер модели при сохранении точности) варианты моделей.
Они просто получают snap install и работают.
Модели с оптимизированной архитектурой будут работать быстрее и эффективнее на аппаратном обеспечении, а квантованные модели предназначены для использования меньшего количества ресурсов. Пользователям не нужно беспокоиться о том, какой вариант выбрать, поскольку автоматический выбор позволяет выбрать тот, который лучше всего подходит для их устройства.
Означают ли эти снимки, что Canonical полностью посвящает себя искусственному интеллекту в Ubuntu?
Нет, не до такой степени. Драйвер NPU от Intel уже доступен, как и плагины OpenVINO AI. В данном случае Canonical просто размещает в магазине привязок популярные LLM с открытым исходным кодом, которые предварительно оптимизированы для определенных чипов.
Кроме того, эти привязки представляют собой большие языковые модели, и пользователям потребуется что-то, что может взаимодействовать с ними или поручать им что-то делать (то же самое, что и любая случайная библиотека, которую вы установите). Они не предустановлены и не интегрированы в пользовательский интерфейс рабочего стола Ubuntu.
Во-вторых, пользователи настольных компьютеров не являются главной целью. Canonical и ее партнеры хотят сделать оптимизированные версии более доступными, чтобы разработчики, предприятия могли устанавливать их с меньшими трудностями, чтобы получить максимальную отдачу от своего оборудования.
Я уверен, что это очевидно, но я говорю это, чтобы никто не боялся, что Ubuntu 26.04 LTS будет выпущена с раздражающими некоторых функциями искусственного интеллекта в пользовательском интерфейсе, заставляющими вас позволить ему написать домашнее задание за вас или вести себя как Windows Recall.
Ubuntu – это, как и всегда, платформа, где пользователь может сам выбирать, что ему использовать. Больше подробностей (и обычного маркетингового пафоса) в блоге Canonical.
Комментарии (0)