Нейросети потребляют электричество в двух режимах: при обучении, когда тысячи видеокарт неделями перемалывают данные, и при ответах, когда модель обрабатывает запросы миллионов людей. Один ответ чат-бота по разным оценкам стоит от десятых долей до нескольких ватт-часов — примерно как светодиодная лампа, горящая несколько минут. Но в сумме дата-центры уже забирают порядка 1–2% мировой электроэнергии, и доля ИИ в этом быстро растет.

Сколько электричества потребляют нейросети: обучение, ответы и охлаждение
Фото: Radomianin, Wikimedia Commons, CC BY-SA 4.0.

Где физически работают нейросети

Когда вы пишете вопрос ChatGPT, Алисе или GigaChat, текст уходит в дата-центр — здание размером со склад, заполненное стойками серверов. Для нейросетей используют серверы с графическими ускорителями: видеокартами, рассчитанными не на игры, а на матричные вычисления. Один современный ускоритель для ИИ потребляет сотни ватт, порядка мощности мощного обогревателя на минимальном режиме. В сервер ставят обычно восемь таких карт, и вместе с процессорами, памятью и сетью он тянет около 10 киловатт, как несколько электрических чайников, включенных одновременно и без перерыва.

Крупный дата-центр для ИИ содержит десятки тысяч ускорителей. Мощность новых площадок измеряется сотнями мегаватт, а самые амбициозные проекты рассчитаны на гигаватт и больше, что сопоставимо с энергоблоком атомной станции.

Обучение и ответы: два разных счета за свет

Обучение модели

Обучение — разовая, но очень энергоемкая работа. Модель прогоняет через себя триллионы слов текста, многократно подстраивая миллиарды параметров. Для GPT-3, вышедшей в 2020 году, исследователи Google и Калифорнийского университета в Беркли оценили расход примерно в 1300 мегаватт-часов. Это порядок годового потребления нескольких сотен российских квартир. Современные крупные модели больше GPT-3, и их обучение требует на порядок или даже на два порядка больше вычислений, хотя оборудование стало экономичнее.

Работа с пользователями

Этап ответов на запросы называют инференсом. Один запрос требует ничтожно мало энергии по сравнению с обучением, но запросов миллиарды каждый день. Поэтому за срок службы популярной модели на ответы уходит больше энергии, чем ушло на обучение. Расход на один ответ зависит от размера модели, длины ответа и типа задачи:

  • короткий текстовый ответ — меньше всего;
  • длинный ответ или анализ большого документа — в разы больше;
  • режим «размышления», когда модель пишет длинную цепочку рассуждений перед ответом, — еще больше;
  • генерация изображения требует больше, чем текстовый ответ;
  • создание видео — самая энергоемкая из массовых задач.

Сравнение с бытовыми вещами в порядках величин

Точные цифры для конкретных сервисов компании раскрывают редко, а независимые оценки расходятся в разы. Поэтому полезнее сравнивать порядки величин.

ДействиеПорядок расхода
Короткий ответ чат-ботаДесятые доли — единицы Вт·ч
Светодиодная лампа за часОколо 10 Вт·ч
Вскипятить чайникОколо 100 Вт·ч
Холодильник за суткиОколо 1000 Вт·ч
Обучение крупной моделиМиллионы кВт·ч и больше

Из таблицы видно, что десятки вопросов к чат-боту в день — это меньше, чем одно кипячение чайника. Для отдельного человека расход незаметен. Проблема в масштабе: сотни миллионов пользователей, встроенный ИИ в поиске, почте и офисных программах, плюс постоянное обучение новых моделей. Международное энергетическое агентство ожидает, что к концу десятилетия потребление дата-центров в мире может примерно удвоиться, и ИИ станет главной причиной роста.

Охлаждение и вода: невидимая часть расходов

Почти вся электроэнергия, которую потребляет сервер, превращается в тепло. Его нужно отводить, иначе чипы перегреются за минуты. На охлаждение, освещение и преобразование электричества тратится дополнительная энергия. Эффективность здания оценивают коэффициентом PUE: отношением всей потребленной энергии к энергии, дошедшей до серверов. У лучших современных дата-центров он около 1,1, то есть на охлаждение и прочее уходит около 10% сверху. У старых площадок бывает 1,5 и выше.

Многие дата-центры охлаждают воздух испарением воды в градирнях, примерно как пот охлаждает кожу. Это экономит электричество, но расходует воду, которая улетает паром. Крупные технологические компании в своих отчетах показывают рост водопотребления в годы бума ИИ. Вода тратится и косвенно — на электростанциях, которые питают дата-центр. В засушливых регионах это вызывает споры с местными жителями и фермерами.

Альтернативы испарительному охлаждению:

  • жидкостное охлаждение, когда трубки с теплоносителем подходят прямо к чипам;
  • погружение серверов в ванны с непроводящей жидкостью;
  • строительство в холодном климате, где можно охлаждать наружным воздухом большую часть года;
  • замкнутые контуры, где вода циркулирует и не испаряется.

Как отрасль пытается снизить потребление

Экономные модели

Разработчики уменьшают модели без сильной потери качества. Дистилляция переносит знания большой модели в маленькую. Квантование хранит параметры в сокращенном виде, например 8 или 4 бита вместо 16, и снижает нагрузку на память. Архитектура «смесь экспертов» включает для каждого слова только часть сети, а не всю. Простые вопросы можно направлять к маленькой модели, а сложные — к большой.

Специализированные чипы

Ускорители, созданные специально для нейросетей, например тензорные процессоры Google, выполняют больше операций на ватт, чем универсальные чипы. Каждое новое поколение видеокарт тоже делает вычисления экономнее, хотя общий спрос растет быстрее.

Чистая энергия и повторное использование тепла

Компании заключают долгосрочные договоры на покупку энергии ветровых и солнечных станций. В 2024 году Microsoft договорилась о перезапуске одного из реакторов АЭС Три-Майл-Айленд для своих дата-центров, Google и Amazon подписали соглашения о малых модульных реакторах. В Северной Европе тепло от серверов передают в городские системы отопления: например, дата-центр в финском городе Мянтсяля греет жилые дома.

Насколько это вредно для климата

Влияние зависит от того, откуда берется электричество. Один и тот же запрос в дата-центре, работающем на гидро- или атомной энергии, дает в разы меньше выбросов углекислого газа, чем на угольной электростанции. Поэтому место строительства дата-центров важно для экологии не меньше, чем экономичность моделей.

Есть и обратный эффект: ИИ используют для оптимизации энергосетей, прогноза выработки ветряков, управления отоплением зданий и поиска новых материалов для батарей. Итоговый баланс пользы и вреда специалисты оценивают по-разному, и честного единого ответа пока нет.

Что еще спрашивают об энергопотреблении ИИ

Правда ли, что один запрос к ChatGPT тратит бутылку воды

Это преувеличение, основанное на ранних грубых оценках. Более поздние расчеты дают для короткого текстового ответа миллилитры, а не литры. Длинные ответы и генерация изображений требуют больше.

Сколько энергии тратит нейросеть на картинку

Больше, чем на короткий текст, но в бытовых единицах это все еще порядок ватт-часов, сопоставимо с несколькими минутами работы ноутбука.

Тратит ли нейросеть электричество на моем телефоне

Если модель работает в облаке, основной расход идет в дата-центре. Небольшие модели, встроенные прямо в телефон, расходуют заряд батареи, но немного.

Можно ли сократить свой след от использования ИИ

Да: формулировать запрос сразу точно, не перегенерировать ответ без нужды и не включать режим длинных рассуждений для простых вопросов.