ИИ-агенты потребляют в 136,5 раза больше электричества чем обычные нейросети
Ученые из Корейского института науки и технологий (KAIST) установили, что новое поколение искусственного интеллекта — ИИ-агенты — потребляет значительно больше энергии по сравнению с обычными чат-ботами. Результаты исследования представили на международной конференции по компьютерным архитектурам. Об этом сообщает Ferra.ru со ссылкой на данные KAIST.
Один запрос к ИИ-агенту требует в среднем в 136,5 раза больше электричества, чем ответ обычной нейросети. В отличие от чат-бота, который просто отвечает на вопрос, ИИ-агент самостоятельно планирует шаги, ищет информацию в интернете, запускает программы и решает сложные задачи.
Исследователи также выяснили, что мощные графические процессоры (GPU) простаивают более половины времени в ожидании ответа от внешних сервисов, но продолжают расходовать электроэнергию.
Все данные и методики исследования опубликованы в открытом доступе, чтобы другие разработчики могли искать способы снизить энергопотребление ИИ.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.