Ученые из KAIST представили чип искусственного интеллекта, который имитирует человеческий мозг. По скорости он может сравниться с графическим процессором Nvidia A100.
Исследователи из Корейского института передовых наук и технологий (KAIST) представили новаторский чип искусственного интеллекта. Он, по заявлениям ученых, может по скорости конкурировать с высокопроизводительным графическим процессором A100 от Nvidia. Разработка осуществлена на основе 28-нанометрового процесса производства Samsung.
Команда KAIST создала уникальный чип, оснащенный технологией C-Transformer, которая является первой в своем роде. Эта нейроморфная вычислительная система вдохновлена структурой человеческого мозга и использует методы глубокого обучения, часто применяемые для анализа визуальной информации. Технология способна анализировать контекст, отслеживая связи в данных, например, в словах предложения, что делает ее важным инструментом для создания генеративных ИИ-сервисов, подобных ChatGPT.
В ходе тестирования возможностей чипа на ноутбуке были продемонстрированы различные задачи, включая сессии вопросов и ответов, суммирование текстов и переводы, с использованием языковой модели GPT-2 от OpenAI. Задачи были выполнены как минимум в 3 раза быстрее, а в некоторых случаях и до 9 раз быстрее, чем при запуске GPT-2 на ноутбуке, подключенном к Интернету.
Обычно для работы с языковыми моделями в задачах генерации текста требуется несколько графических процессоров и около 250 Вт энергии. Однако разработчики утверждают, что их чип нуждается всего в 1/625 от этой мощности, что делает его идеальным для использования в портативных устройствах, таких как смартфоны.
Тем не менее вопрос о том, насколько успешно чип сможет справляться со своими функциями в реальных условиях, остается открытым и требует дальнейшего изучения.