Растущая роль индустрии микросхем в обеспечении устойчивого развития

Огромные потребности систем искусственного интеллекта в электроэнергии привлекают внимание к устойчивости полупроводниковой экосистемы. Промышленность микросхем должна иметь возможность производить более эффективные полупроводники с меньшим энергопотреблением. Но требования к увеличению скорости обработки растут по мере широкого использования больших языковых моделей и общего увеличения объема данных, которые необходимо обрабатывать. По оценкам Gartner, к 2026 году 50% организаций перейдут на мониторинг, основанный на устойчивом развитии, для управления показателями энергопотребления и углеродного следа в своих гибридных облачных средах. По данным компании, это необходимо, учитывая, что к 2027 году 40% центров обработки данных, вероятно, будут ограничены в энергопотреблении.

 

Полупроводники могут помочь в обеспечении устойчивости, если они спроектированы правильно. Это справедливо даже для чипов AI/ML, разработанных для максимальной производительности, при условии, что они могут выполнять вычисления быстрее, используя более редкие алгоритмы. Это приводит к общему снижению количества потребляемой энергии. Здесь в игру вступают пользовательские ускорители. Они могут обеспечить значительные улучшения по сравнению с процессорами общего назначения, часто работающими в тандеме.

 

Растущее влияние ИИ

Вычисления происходят повсюду, и все они должны быть более эффективными. Умные города, умная инфраструктура и умный транспорт невозможны без умных технологий, и все чаще это становится возможным благодаря искусственному интеллекту. По мере того, как ИИ становится все более укоренившимся, экосистема полупроводников пытается свести к минимуму свое влияние на ресурсы.

 

Сегодняшние центры обработки данных уже потребляют огромное количество энергии. Во всем мире ежегодно требуется 460 тераватт-часов (ТВтч) электроэнергии. Это эквивалентно всему количеству энергии, производимой Германией. По данным Boston Consulting Group, в Соединенных Штатах потребление электроэнергии в центрах обработки данных составляло 2,5% от общего объема потребления электроэнергии в США (~130 ТВт-ч) в 2022 году, а к 2030 году ожидается, что этот показатель утроится до 7,5% (~390 ТВт-ч). Это эквивалент электроэнергии, потребляемой примерно 40 миллионами домов в США, или почти третью от общего числа домов в США.

«ИИ обладает потенциалом превзойти все преобразовательные инновации, созданные в прошлом веке», — сказал Имран Юсуф, директор по аппаратным экосистемам в Arm's Infrastructure Group. «Но требования к мощности вычислений ИИ значительны, и, поскольку компании спешат наращивать свои возможности ИИ, они рискуют превысить свои собственные цели в области устойчивого развития. Будущие модели ИИ будут продолжать становиться больше и умнее, подпитывая потребность в большем количестве вычислений, что увеличивает спрос на электроэнергию как часть благотворного цикла. Проще говоря, нет электричества — нет искусственного интеллекта. Как нам сбалансировать потребность в электроэнергии с необходимостью продолжать подпитывать революцию в области искусственного интеллекта, находя способы снижения требований к электроэнергии для крупных центров обработки данных и технологий? Вычислительные системы искусственного интеллекта».

 

Другие соглашаются. «Все сводится к повышению эффективности проектирования», — сказал Нил Хэнд, директор по маркетингу Siemens EDA. «Вы можете рассмотреть любой алгоритм. Есть несколько порядков эффективности. Самый неэффективный подход с точки зрения мощности — это запустить необработанный код на процессоре общего назначения и дать ему прогреться — и поджарить немного зефира над процессором, потому что он работает. чтобы очень согреться».

Стойка серверов на базе графических процессоров NVIDIA Grace Blackwell требует 120 киловатт. Но, по словам Рича Голдмана, директора Ansys, они также в 1,000 раза более производительны, чем предыдущие поколения, что соответствует 500-кратному увеличению объема вычислений на единицу мощности. «Если вы строите центр обработки данных из процессоров и хотите выполнять много вычислений, вы можете заменить процессоры новейшими графическими процессорами и снизить энергопотребление для тех же вычислительных возможностей. У нас по-прежнему будут огромные проблемы с электропитанием. потому что с ИИ мы выполняем больше вычислений, но это поможет».

 

Хэнд рассматривает специализированное аппаратное обеспечение для искусственного интеллекта типа Грейс Блэквелл как следующий шаг в разработке, но добавляет, что можно сделать гораздо больше, поскольку это все еще чипы общего назначения. Он сказал, что можно создать более эффективные чипы искусственного интеллекта, которые предназначены для классификации и работы с широкой классификацией.

 

«Это то, что, как мы видим, делает NVIDIA, это то, что мы видим, что делают Google и многие поставщики облачных услуг», — отметил Хэнд. «Есть уровни эффективности, которые мы можем сделать, чтобы обеспечить более эффективное производство этих чипов и обеспечить все, что связано с устойчивым развитием. Затем вы можете сделать еще один шаг вперед с новыми технологиями, которые используют полностью обученную модель искусственного интеллекта. и преобразовать его в аппаратное обеспечение. Это будет максимально эффективно, и оно будет использовать лишь часть мощности. В этот момент вы заблокированы, поэтому вам придется столкнуться с проблемой, связанной с ускорением ИИ. и меняется так быстро. Сколько можно заблокировать? Мы видим это в недавних анонсах Intel и Qualcomm относительно своих мобильных процессоров, и Apple делает это уже несколько поколений. Теперь у вас есть TPU, NPU или. какую бы нейронную сеть вы ни хотели иметь на чипе, и это будет просто континуум».

 

Стив Родди, директор по маркетингу Quadric, согласился. «Силы, вызывающие бурный рост моделей искусственного интеллекта/ML, огромны по своим масштабам. Волна генеративного искусственного интеллекта меняет способы работы отдельных лиц и корпораций; возможно, это повлияет на миллионы рабочих мест по всему миру. Экосистема полупроводников/EDA/IP не может разумно изменить кривую прогресс в развитии массивных моделей искусственного интеллекта, который ежегодно поддерживается за счет инвестиций в сотни миллиардов долларов от технологических титанов, но полупроводниковая и интеллектуальная отрасли могут помочь найти способ радикально сократить энергопотребление при ежедневной эксплуатации этих моделей GenAI. - повседневное использование умозаключений».

 

Самой большой проблемой устойчивости для вывода GenAI является преобразование режимов в целочисленные квантованные форматы с меньшим энергопотреблением. «Команды специалистов по обработке и анализу данных, создающие модели GenAI, по-видимому, не обращают внимания на тот факт, что эталонные модели, которые они публикуют в формате с плавающей запятой, потребляют в 10 раз больше энергии на вывод по сравнению с той же моделью, преобразованной в целочисленные форматы (сравнивая 32b с плавающей запятой, умножение-накопление и 8 x 8 или 4 x 8 целочисленный MAC)», — сказал Родди. «Независимо от того, происходит ли вывод в центре обработки данных или на устройстве, экономия энергии – и, как следствие, выгоды для устойчивости – от преобразования в целочисленные форматы с меньшим энергопотреблением являются существенными. Этот разрыв существует сегодня, потому что ученые, работающие с данными, создающие новые модели GenAI, являются математиками, а не встроенными устройствами. инженеры».

 

Технологические достижения

По словам Хэнда, когда команда разработчиков решит, что пришло время перейти к аппаратному обеспечению, даже несмотря на то, что алгоритмы искусственного интеллекта развиваются так быстро, будет определенная стабильность. «Это немного похоже на то, как мы занялись эволюцией TPU, NPU и XPU. Как правило, какое-то время они были не очень жизнеспособны, потому что основные строительные блоки менялись более регулярно. Но за последние несколько лет эти основные функциональные возможности стабилизировались, так что теперь вы можете создавать более энергоэффективное оборудование. Здесь будет то же самое, когда ситуация начнет стабилизироваться. Всегда будут новые инновации. Всегда будут гораздо более мощные алгоритмы, которым потребуется новое оборудование. Вероятно, мы всегда будем использовать больше, чем мы говорим, потому что центры обработки данных являются огромным потребителем энергии, но что они компенсируют с точки зрения производительности? Позволяют ли они нам делать то, на что в противном случае мы не смогли бы? Но во многом это касается только сложного чипа искусственного интеллекта или любого другого сложного чипа. Аспекты EDA примерно одинаковы. Мы улучшаем производительность, улучшаем производительность, уменьшаем мощность.

 

Еще один вопрос заключается в том, как обеспечить достаточную мощность для центра обработки данных. Как разместить эти центры обработки данных в местах, где недостаточно электроэнергии? «Вы будете чаще видеть центры обработки данных в местах с избытком электроэнергии, а страны с избытком мощности станут центрами центров обработки данных», — сказал Голдман. «Они найдут там центр обработки данных, а затем выдадут знания, которые вы получите от этой силы».

 

Это будет сопровождаться появлением новых и новых источников власти. «Мы слышали разговоры о мини-атомных электростанциях для питания отдельных центров обработки данных и о таких приложениях, как размещение их на вершинах нефтяных скважин, чтобы метан, который сейчас попадает в воздух и загрязняет воздух, мы могли сжигать и получать энергию из те, кто управляет центрами обработки данных», — сказал Голдман. «Нам нужны такие инновации, чтобы обеспечить питание этих центров обработки данных».

 

Неотъемлемой частью обсуждения устойчивости ИИ является эффективность центров обработки данных, где существует постоянный конфликт между мощностью, необходимой для перемещения данных, и тем, насколько далеко эти данные фактически должны перемещаться. «Мы видим, как люди строят очень большие процессоры из чиплетов, и отчасти это связано с тем, что, хотя они знают, что могут построить эквивалентную систему из двух чипов, соединенных по шине, но перемещение данных между ними будет стоить дорого. силы», — объяснил Стивен Ву, коллега и выдающийся изобретатель из Rambus. «Чем больше вы объединяете вещи, тем меньшее расстояние приходится преодолевать данным, тем меньше энергии вы тратите на перемещение данных. Но проблема в том, что плотность мощности возрастает. Вам нужно доставлять больше энергии, и вы должны охладить эту штуку Итак, перетягивание каната заключается в том, как мне охладить эту штуку? Я экономлю немного энергии, не располагая чипы далеко друг от друга, но теперь он должен передать больше энергии в этот объем, и вы? Надо охладить это. Это перетягивание каната, с которым сейчас сталкиваются архитекторы системного уровня».

 

На уровне центров обработки данных все чаще используются передовые методы охлаждения серверов. «Все больше людей говорят о жидкостном охлаждении, включая охлаждающие пластины», — сказал Ву. «Google делал это, и NVIDIA говорила об этом для Грейс Блэквелл. Это технология, которую сегодня используют некоторые суперкомпьютеры, и это не иностранная или новая технология. Это всего лишь вопрос времени, когда мы увидим ее как В обозримом будущем, вероятно, появятся некоторые системы с воздушным охлаждением, но вы увидите больше систем, использующих какую-либо перекачиваемую жидкость с системой двухфазного типа охлаждения».

 

Крайним пределом этого подхода является иммерсионное охлаждение. «Возможно, в ближайшее время это решение не станет жизнеспособным решением для охлаждения серверов центров обработки данных, но оно может стать таковым, если у нас закончится взлетно-посадочная полоса для трубопроводных жидкостей», — добавил он. «Как только вы сможете управлять нагревом с помощью жидкости или чего-то в этом роде, вы сможете ограничить температурный диапазон, через который проходит чип, а это означает, что, если он выполняет термический цикл, он может не достигать экстремальных температур. Это хорошо. , потому что тогда у вас не будет теплового расширения и сжатия в этом большем диапазоне, и некоторые другие неисправности, связанные с надежностью, немного уменьшатся».

 

Аналитика больших данных также играет роль в обеспечении устойчивости, определяя тенденции в проектировании микросхем на основе использования центров обработки данных. «Существует целый ряд сил», — сказал Адам Крон, выдающийся архитектор Synopsys. «Проблемы возникают на уровне кристалла. Затем у вас есть плата, на которой он установлен, стойка, в которой он находится, ферма, в которой он находится, а затем он возвращается обратно к линиям передачи. И то, что менеджерам центров обработки данных нравится видеть, — это хороший ровный киль. Не раскачивайте лодку слишком сильно, потому что, если вы хотите многого здесь, вам, возможно, придется спуститься туда, или наоборот».

 

В идеале мощность должна быть снижена везде. «Центры обработки данных используют от 1 до 2% мировой электроэнергии, и они находятся на ускоренном курсе, чтобы использовать ее всю», — сказал Крон.

 

Доходность, технологичность звеньев

«Существует интересная связь между усилиями по созданию устойчивых полупроводников, производительностью и технологичностью», — отметил Хэнд компании Siemens. «Эти чипы становятся больше. Поэтому производительность становится все более серьезной проблемой. Чем больше мы можем сделать с производительностью, тем лучше мы можем быть в плане устойчивости, потому что мертвый кубик — это пустая трата ресурсов. Хороший кубик — всегда лучше. Что мы можем здесь сделать? В экосистеме EDA-полупроводников мы проводим большую работу по повышению производительности. По иронии судьбы, некоторые из них используют ИИ для повышения производительности, и это увлекательное взаимодействие между ними. стоимость устойчивости ИИ и возможности ИИ для обеспечения устойчивости и то, как они работают вместе. Вообще говоря, это чистый положительный результат, но я не знаю, сможете ли вы это измерить, потому что трудно найти исходные данные. говорит, сколько стоит обучение этих моделей. Их использование обходится дорого, но как тогда измерить результаты, вероятно, это потребует целой работы доктора философии, чтобы попытаться рассчитать это влияние. и здесь можно использовать технологии искусственного интеллекта. Это просто EDA делает свое дело».

 

Термический анализ и старение также повлияют на устойчивость центров обработки данных искусственного интеллекта. Конечно, это не уникально для ИИ. Это применимо ко всем чипам», — сказал Хэнд. «Вы можете начать понимать, каковы тепловые характеристики на уровне кристалла, на уровне суб-кристалла, чтобы понять последствия. Могу ли я собрать 3D-стек и сделать его надежным? Могу ли я запустить эти штуки на достаточном уровне мощности, чтобы не ускорить их гибель? Эти возможности позволят нам пойти еще дальше. Кроме того, когда мы начнем расширять определение цифрового двойника и начнем расширять то, что в него входит, вы сможете начать видеть влияние на уровне системы. И хотя это не касается искусственного интеллекта и устойчивого развития, именно здесь мы начнем видеть большой скачок эффективности, потому что насколько перепроектировано на данный момент? Сколько в нем слишком много мусора? Как только мы сможем начать иметь более последовательный дизайн на уровне продукта и на уровне проблем, это также принесет нам преимущества. Возвращаясь к ИИ, чтобы получить настоящих многодоменных комплексных цифровых двойников, ИИ будет необходим, потому что ИИ будет выполнять за вас междоменный анализ, извлечение суррогатной модели и автоматическую адаптацию точности. Там будет все это. Чем больше ИИ нам нужно, тем больше ИИ мы используем».

 

Заключение

Устойчивое развитие – не новая тема, но она всегда была темой для будущих дискуссий. Это уже не так.

«Поставщики оборудования и программного обеспечения уже много лет понимают, что масштабирование вычислений и устойчивость могут противоречить реальности, но это не обязательно, если отрасль будет использовать возможности своей экосистемы», — сказал Юсуф из Arm. «Возьмем, к примеру, Arm Total Design, экосистему ведущих компаний полупроводниковой отрасли, занимающуюся созданием эффективных индивидуальных полупроводниковых решений для сценариев использования искусственного интеллекта и машинного обучения. Таким образом, она предоставляет партнерам преференциальный доступ к вычислительным подсистемам Arm Neoverse. (CSS), предварительно интегрированные инструменты IP и EDA, услуги по проектированию, поддержку литейного производства и поддержку коммерческого программного обеспечения. Это также представляет собой новый образ мышления, который способствует сотрудничеству, гибкости и инновациям, одновременно понимая, что эпоха искусственного интеллекта должна сосуществовать. с глобальными целями устойчивого развития».

 

Что изменилось, так это то, что устойчивое развитие превратилось из «приятно иметь» в «необходимо иметь». С точки зрения лидера отрасли, Intel разработала семь советов по использованию ИИ без высоких экологических затрат. Кроме того, Intel считает, что продуманное использование ИИ в дизайне является ключом к достижению целей устойчивого развития. При целенаправленном подходе те, кто реализует инициативы в области ИИ, могут воспользоваться преимуществами оптимизированных рабочих нагрузок (подробнее см. здесь), а упреждающий подход к разработке проектов и управлению ИТ имеет решающее значение для максимизации воздействия инициатив в области ИИ и минимизации выбросов углекислого газа (подробнее см. здесь). случаи использования).

 

По сути, уменьшение влияния ИИ на устойчивое развитие будет зависеть от самой технологии. Родди из Quadric сказал, что полупроводниковая экосистема может помочь, «повысив общее понимание необходимости использования форматов данных с более низкой точностью, а также создав более автоматизированные инструменты, которые помогут преодолеть разрыв между математиками и инженерами встраиваемых систем».