Для той же задачи энергопотребление этого чипа для внутрикристального обучения составляет всего 3% от энергопотребления системы Advanced Process-Specific Integrated Circuit (ASIC).

В настоящее время генеративный искусственный интеллект вызвал новую волну развития в индустрии искусственного интеллекта. Технологии искусственного интеллекта, поддерживаемые большими вычислительными мощностями, существенно меняют образ жизни и работы людей. Однако огромное количество параметров, необходимых для моделей искусственного интеллекта, привело к увеличению спроса на вычислительную мощность, что делает необходимым поиск решений, позволяющих преодолеть огромный разрыв в вычислениях и добиться значительного повышения энергоэффективности. Высокопроизводительные и энергоэффективные чипы стали своеобразными носителями вычислительной мощности и основной основой развития этой волны интеллектуальной революции, а также движущей силой непрерывного развития человеческого общества.

Чтобы решить основные проблемы, с которыми сталкиваются традиционные архитектуры разделения хранения данных и вычислений, которые ограничивают вычислительную мощность, профессор У Хуацян и доцент Гао Бинь из Школы интегральных схем Университета Цинхуа сосредоточились на исследовании интегрированной технологии хранения и вычислений на основе резисторов памяти и изучили новая парадигма компьютерных систем.

Интегрированная технология хранения и вычислений на основе резисторов памяти произвела революцию в традиционной вычислительной архитектуре фон Неймана с точки зрения устройств, схем и теоретических вычислений, добившись значительного улучшения вычислительной мощности и энергоэффективности. Эта технология также может использовать характеристики обучения базовых устройств для поддержки обучения на кристалле в реальном времени, открывая новые сценарии периферийного обучения на основе локального обучения. В настоящее время соответствующие исследования на международном уровне в основном сосредоточены на демонстрации функций обучения на уровне массива резисторов памяти. Однако реализация глобально интегрированных микросхем резисторов памяти, поддерживающих эффективное встроенное обучение, по-прежнему сталкивается с серьезными проблемами, в основном из-за плохой совместимости между высокоточным методом обновления веса, требуемым традиционным алгоритмом обучения обратного распространения ошибки, и фактическими характеристиками резисторов памяти.

Чтобы решить вышеуказанные проблемы, профессор У Хуацян и доцент Гао Бинь, основываясь на парадигме интегрированных вычислений для хранения данных, разработали первый в мире интегрированный чип для хранения данных с глобально интегрированным резистором памяти, который поддерживает эффективное обучение на кристалле (машинное обучение может быть напрямую завершено на аппаратном уровне). Они добились значительных прорывов в области интегрированных чипов для хранения и вычислений с резисторами памяти, поддерживающих встроенное обучение, что, как ожидается, будет способствовать развитию искусственного интеллекта, автономного вождения и носимых устройств. Соответствующие достижения были опубликованы в последнем выпуске журнала Science.

Сообщается, что этот чип обеспечивает энергопотребление для встроенного обучения, которое составляет всего 1/35 от энергопотребления системы Advanced Process-Specific Integrated Circuit (ASIC), при этом ожидается, что он обеспечит 75-кратное улучшение энергоэффективности.

Универсальные алгоритмы и архитектуры, основанные на интеграции памяти, резисторов и вычислений для эффективного обучения на кристалле.

Граничное обучение с использованием микросхем нейроморфных резисторов памяти

Демонстрация поэтапного обучения для автоматического управления небольшим автомобилем

Для той же задачи энергопотребление встроенного обучения, достигаемое этим чипом, составляет всего 3% от энергопотребления специализированной системы ASIC с использованием передовых технологий, что демонстрирует выдающиеся преимущества в области энергоэффективности и большой потенциал для удовлетворения высоких требований к вычислительной мощности ИИ. эпоха. Это открывает инновационный путь развития, позволяющий преодолеть узкое место в области энергоэффективности в традиционной вычислительной архитектуре фон Неймана.

«Встроенное обучение интеграции хранилища и вычислений может эффективно защитить конфиденциальность пользователей и данные, одновременно обеспечивая меньшую задержку и меньшее потребление энергии», — объяснил доктор Яо Пэн, постдокторант-исследователь. Ссылаясь на биомиметические методы обработки мозга, этот чип может обеспечить быстрое «обучение на кристалле» и «распознавание на кристалле» для различных задач, эффективно выполняя дополнительные задачи обучения в сценариях периферийных вычислений с низким энергопотреблением для адаптации к новым ситуациям и изучения нового. знания, удовлетворяющие индивидуальные потребности пользователей.

Например, некоторые привыкли добавлять короткую черточку посередине цифры «7». Сначала интеллектуальный чип не распознает этот символ, но после тренировки на двух-трех таких написанных «7» он может точно распознать его как цифру «7».

В сложной и постоянно меняющейся международной ситуации преодоление «узких мест» в технологиях остается актуальной задачей.

Столкнувшись с практическими проблемами, такими как нехватка передового оборудования для исследований и разработок, члены команды находятся в некоторой растерянности относительно того, является ли каждый шаг, который они делают, правильным, могут ли результаты соответствовать ожиданиям и можно ли дополнительно оптимизировать технологию. Все это является огромным бременем для всех.

Во-первых, это технологические проблемы. Разработка мемристорных чипов требует передовых знаний из различных дисциплин, таких как материаловедение, физика и электронная инженерия. Среди множества технических проблем первая, которую необходимо решить, — это как добиться широкомасштабной интеграции мемристивных устройств. Благодаря большому количеству экспериментов и теоретических исследований команда предложила метод совместной оптимизации архитектуры, схемы и процесса, который послужил руководством для проектирования интегрированной системы хранения и вычислений.

Во-вторых, есть инженерные проблемы. Как можно преодолеть ошибки, вызванные восходящими многомасштабными неидеальными эффектами, и собрать их в эффективный системный чип при наличии крупномасштабного процесса интеграции и проектирования критических схем? Совместными усилиями преподавателей и студентов команды была предложена архитектура STELLAR, завершены эксперименты по оптимизации алгоритмов и моделированию, а также изготовлен высокоэффективный интегрированный обучающий чип для хранения и вычислений, что позволило добиться значительного улучшения скорости и энергоэффективности.

«Путь труден, но он имеет исключительное значение. Это важное поле битвы в нынешней глобальной сфере высоких технологий», - считает Гао Бинь. Исследование чипов — долгий и трудный процесс, в котором пока не видно прорыва. Однако благодаря постоянным исследованиям и обучению достигаются ценные достижения.

Будучи первыми авторами научных работ, Чжан Вэньбинь и Яо Пэн во время учебы в докторантуре получили обширные знания в различных областях исследований, таких как полупроводники, микроэлектроника, программные алгоритмы и нейроморфные вычисления. Они накопили богатые результаты исследований и разработок и ценный инженерный опыт.

От ничего к чему-то, от слабости к силе. На этом пути научных исследований, который не имеет коротких путей, эти «юные фишки» пережили бесчисленные моменты, когда они сдавались после подготовки и наблюдений только для того, чтобы начать заново после многочисленных неудач, преодолевая одну проблему за другой.

Заглядывая в будущее, У Хуацян надеется, что решения и технологии команды смогут выйти за рамки лаборатории и эффективно способствовать трансформации достижений научных исследований. Они призваны служить потребностям страны и общества.