У Nvidia появился новый конкурент. mATX специализируется на разработке оборудования, адаптированного для LLM. Чипы компании позволяют обучать GPT-4 и запускать ChatGPT с бюджетом небольшого стартапа.
Новый стартап mATX конкурирует с Nvidia. Он специализируется на разработке оборудования, оптимизированного для LLM, с целью увеличения вычислительной мощности.
Чипы mATX обеспечивают возможность обучения GPT-4 и запуска ChatGPT даже с бюджетом небольшого стартапа. В отличие от других разработок, которые обеспечивают равномерную работу со всеми моделями, mATX направляет каждый транзистор на максимизацию производительности.
Микросхемы mATX разработаны с учетом экономии ресурсов при обработке большого объема входных данных и производственного вывода. Они достигают максимальной производительности при таких рабочих нагрузках, как большие модели на основе трансформаторов, более 20B параметров и вывод с участием тысяч одновременных пользователей.
Команда стартапа состоит из специалистов, которые ранее работали над ML-чипами, ML-компиляторами и LLM в таких компаниях, как Google и Amazon. Генеральный директор компании занимался повышением эффективности в Google PaLM, где он разработал и внедрил самое быстрое в мире ПО для вывода LLM. А технический директор работал над архитектурой одного из ML-чипов и TPU Google.
Компания уже привлекла инвестиции в размере $25 млн от генеральных директоров Auradine и Replit. Кроме того, у нее есть дополнительное финансирование от ведущих исследователей в области ИИ и LLM.