eGPU для локального запуска LLM выпустила Plugable

Внешние видеокарты долгие годы были уделом геймеров, мечтающих превратить тонкий ноутбук в игровую станцию. Компания Plugable решила, что пришло время сменить аудиторию. Новый корпус TBT5-AI — первый в своем роде, ориентированный не на игры, а на запуск больших языковых моделей прямо с ноутбука, без отправки данных в облако.

Plugable выпустила eGPU для локального запуска LLM

Когда облачные сервисы для ИИ становятся все дороже, а вопросы конфиденциальности данных выходят на первый план, локальный запуск нейросетей перестает быть экзотикой и превращается в необходимость. Plugable предлагает элегантное решение: установите десктопную видеокарту во внешний корпус, подключите ее к ноутбуку одним кабелем — и получите рабочую станцию для ИИ-разработки .

Что внутри

Корпус TBT5-AI оснащен полноценным слотом PCIe x16, куда можно установить любую современную видеокарту — от RTX 4060 до RTX 5090. Встроенный блок питания на 850 Вт способен потянуть даже самые прожорливые флагманы.

Главная технологическая звезда — интерфейс Thunderbolt 5. Он обеспечивает двунаправленную пропускную способность до 80 Гбит/с, а в режиме Boost — до 120 Гбит/с для отдельных задач. Внутри корпуса видеокарта подключается по PCIe 4.0 x4, что значительно убирает узкие места по сравнению с более старыми версиями Thunderbolt.

Но TBT5-AI — это не просто коробка для видеокарты. Устройство работает как полноценный хаб:

  • Зарядка ноутбука до 96 Вт;
  • Гигабитный Ethernet (2.5 Гбит/с);
  • Несколько высокоскоростных USB-портов.

Кому это нужно

Берни Томпсон, технический директор Plugable, называет целевую аудиторию: медицинские учреждения, финансовый сектор, юридические фирмы. Те, для кого «конфиденциальность данных — не просто функция, а обязательное требование».

Разработчики ИИ, инженеры и исследователи все чаще хотят запускать большие языковые модели локально, не отправляя чувствительные данные в облака. TBT5-AI позволяет делать это прямо с ноутбука, используя всю мощь десктопных ускорителей.

Корпус поддерживает популярные фреймворки для локального ИИ:

  • cpp;
  • Модели с Hugging Face;
  • Платформа инференсаNvidia NIM.

Технические характеристики Plugable TBT5-AI

Характеристика Значение
Слот для видеокарты PCIe x16 (полноразмерный)
Блок питания 850 Вт
Интерфейс подключения Thunderbolt 5
Пропускная способность 80 Гбит/с (до 120 Гбит/с Boost)
Внутреннее подключение PCIe 4.0 x4
Зарядка ноутбука До 96 Вт
Сеть 2.5 Gigabit Ethernet
USB-порты Да (количество не уточняется)
Цена $599.95

Версии для предприятий

Plugable анонсировала и корпоративные версии устройства: TBT5-AI16, TBT5-AI32 и TBT5-AI96. Они будут поставляться уже с предустановленными графическими процессорами и программной средой Plugable Chat — защищенной «воздушной» оркестровой платформой для регулируемых организаций. Компания обещает полный уход от подписочных облачных сервисов к полностью контролируемой локальной инфраструктуре.

Версия Комплектация Целевая аудитория
TBT5-AI Только корпус Разработчики, энтузиасты
TBT5-AI16 Корпус + GPU (16) + Plugable Chat Малый бизнес, стартапы
TBT5-AI32 Корпус + GPU (32) + Plugable Chat Средний бизнес
TBT5-AI96 Корпус + GPU (96) + Plugable Chat Крупные корпорации, регулируемые отрасли

Базовая версия (только корпус, без видеокарты) стоит $599,95. Продажи уже стартовали.

Конкуренты и контекст

Рынок внешних корпусов для видеокарт активно развивается. Недавно Minisforum показала DEG2 с поддержкой Thunderbolt 5 и слотом для SSD, а Aoostar выпустила AGO3 с блоком питания на 800 Вт . Но Plugable — первый, кто открыто позиционирует свое устройство как инструмент для ИИ, а не для игр.

Это важный сигнал: индустрия признает, что локальный ИИ становится мейнстримом. И если раньше eGPU ассоциировались с Minecraft на высоких настройках, теперь это инструмент для запуска ChatGPT на собственном железе.

Что будем искать? Например,ChatGPT

Мы в социальных сетях