Für die gleiche Aufgabe beträgt der Energieverbrauch dieses Chips für On-Chip-Lernen nur 3 % des Energieverbrauchs des Advanced Process-Specific Integrated Circuit (ASIC)-Systems.

Derzeit hat die generative künstliche Intelligenz eine neue Entwicklungswelle in der KI-Branche ausgelöst. KI-Technologien, unterstützt durch große Rechenleistung, verändern die Art und Weise, wie Menschen leben und arbeiten, stark. Die enorme Anzahl an Parametern, die für KI-Modelle erforderlich sind, hat jedoch zu einem steigenden Bedarf an Rechenleistung geführt, sodass es zwingend erforderlich ist, Lösungen zu finden, um die große Rechenlücke zu schließen und erhebliche Verbesserungen der Energieeffizienz zu erreichen. Hochleistungsfähige und energieeffiziente Chips sind zu den spezifischen Trägern der Rechenleistung und zur zentralen Grundlage für die Entwicklung dieser Welle der intelligenten Revolution sowie zur treibenden Kraft hinter der kontinuierlichen Entwicklung der menschlichen Gesellschaft geworden.

Um die großen Herausforderungen anzugehen, mit denen herkömmliche Speicher-Computing-Trennarchitekturen konfrontiert sind, die die Rechenleistung einschränken, konzentrierten sich Professor Wu Huaqiang und außerordentlicher Professor Gao Bin von der School of Integrated Circuits der Tsinghua-Universität auf die Erforschung der integrierten Speicher-Computing-Technologie mit Speicherwiderständen und erforschten a neues Paradigma für Computersysteme.

Die integrierte Speicher-Widerstands-Storage-Computing-Technologie revolutionierte die traditionelle von Neumann-Computerarchitektur in Bezug auf Geräte-, Schaltkreis- und theoretisches Rechnen und erzielte eine sprunghafte Verbesserung der Rechenleistung und Energieeffizienz. Diese Technologie kann auch die Lerneigenschaften der zugrunde liegenden Geräte nutzen, um On-Chip-Lernen in Echtzeit zu unterstützen und so neue Szenarien des lokalen, lernbasierten Edge-Trainings zu ermöglichen. Derzeit konzentriert sich die entsprechende Forschung auf internationaler Ebene hauptsächlich auf Lernfunktionsdemonstrationen auf der Ebene von Speicherwiderstandsarrays. Die Realisierung global integrierter Speicherwiderstandschips, die effizientes On-Chip-Lernen unterstützen, steht jedoch immer noch vor erheblichen Herausforderungen, vor allem aufgrund der schlechten Kompatibilität zwischen der hochpräzisen Gewichtsaktualisierungsmethode, die für den herkömmlichen Backpropagation-Trainingsalgorithmus erforderlich ist, und den tatsächlichen Eigenschaften von Speicherwiderständen.

Um die oben genannten Probleme zu lösen, entwickelten Professor Wu Huaqiang und außerordentlicher Professor Gao Bin basierend auf dem Speicher-Computing-Integrated-Computing-Paradigma den weltweit ersten integrierten Speicherwiderstands-Speicher-Computing-Chip der Welt, der effizientes On-Chip-Lernen unterstützt (maschinelles Lernen kann direkt durchgeführt werden). wird hardwareseitig abgeschlossen). Sie haben bedeutende Durchbrüche auf dem Gebiet der integrierten Speicher-Widerstandsspeicher-Computing-Chips erzielt, die On-Chip-Lernen unterstützen, was voraussichtlich die Entwicklung von künstlicher Intelligenz, autonomem Fahren und tragbaren Geräten vorantreiben wird. Die entsprechenden Erfolge wurden online in der neuesten Ausgabe von Science veröffentlicht.

Es wird berichtet, dass dieser Chip einen Energieverbrauch für On-Chip-Lernen erreicht, der nur 1/35 desjenigen des Advanced Process-Specific Integrated Circuit (ASIC)-Systems beträgt, und gleichzeitig eine 75-fache Verbesserung der Energieeffizienz erwarten lässt.

Universelle Algorithmen und Architekturen basierend auf der Speicher-Widerstands-Speicher-Computing-Integration für effizientes On-Chip-Lernen.

Edge-Learning mit neuromorphen Speicherwiderstandschips

Demonstration des inkrementellen Lernens zur automatischen Spursteuerung eines Kleinwagens

Für die gleiche Aufgabe beträgt der Energieverbrauch des On-Chip-Lernens, der mit diesem Chip erreicht wird, nur 3 % des Energieverbrauchs eines spezialisierten ASIC-Systems mit fortschrittlicher Technologie, was herausragende Energieeffizienzvorteile und ein großes Potenzial zur Erfüllung der hohen Rechenleistungsanforderungen der KI zeigt Epoche. Dies bietet einen innovativen Entwicklungspfad zur Überwindung des Energieeffizienzengpasses der traditionellen Von-Neumann-Rechnerarchitektur.

„Das On-Chip-Lernen der Speicher- und Rechenintegration kann die Privatsphäre und Daten der Benutzer wirksam schützen und gleichzeitig eine geringere Latenz und einen geringeren Energieverbrauch erreichen“, erklärte Dr. Yao Peng, ein Postdoktorand. Unter Bezugnahme auf biomimetische Gehirnverarbeitungsmethoden kann dieser Chip ein schnelles „On-Chip-Training“ und „On-Chip-Erkennung“ für verschiedene Aufgaben erreichen und so inkrementelle Lernaufgaben in Edge-Computing-Szenarien mit geringem Stromverbrauch effektiv ausführen, um sich an neue Situationen anzupassen und Neues zu lernen Wissen, um den individuellen Bedürfnissen der Benutzer gerecht zu werden.

Manche Leute sind es beispielsweise gewohnt, in der Mitte der Zahl „7“ einen kurzen Bindestrich hinzuzufügen. Der intelligente Chip erkennt dieses Symbol zunächst nicht, aber nach dem Training an zwei oder drei solcher geschriebenen „7“ kann er es genau als die Zahl „7“ erkennen.

In der komplexen und sich ständig verändernden internationalen Situation bleibt die Überwindung von „Flaschenhals“-Technologie ein aktueller Schwerpunkt.

Angesichts praktischer Probleme wie dem Mangel an fortschrittlicher Forschungs- und Entwicklungsausrüstung sind die Teammitglieder etwas ratlos, ob jeder ihrer Schritte richtig ist, ob die Ergebnisse den Erwartungen entsprechen und ob die Technologie weiter optimiert werden kann. All das ist eine enorme Belastung für alle.

Erstens gibt es technologische Herausforderungen. Die Entwicklung von Memristor-Chips erfordert Spitzenwissen aus verschiedenen Disziplinen wie Materialwissenschaften, Physik und Elektrotechnik. Unter vielen technischen Herausforderungen besteht die erste, die angegangen werden muss, darin, wie eine groß angelegte Integration memristiver Geräte erreicht werden kann. Durch eine große Anzahl von Experimenten und theoretischen Studien schlug das Team eine Methode zur gemeinsamen Optimierung von Architektur, Schaltung und Prozess vor, die als Leitfaden für den Entwurf eines integrierten Speicher- und Rechensystems diente.

Zweitens gibt es technische Herausforderungen. Wie können mit dem groß angelegten Integrationsprozess und dem kritischen Schaltungsdesign Fehler, die durch nichtideale Bottom-up-Multiskaleneffekte verursacht werden, überwunden und zu einem effizienten Systemchip zusammengebaut werden? Durch die gemeinsamen Anstrengungen der Lehrer und Schüler des Teams wurde die STELLAR-Architektur vorgeschlagen, Algorithmusoptimierungs- und Simulationsexperimente abgeschlossen und ein hocheffizienter Speicher- und Rechen-integrierter Lernchip hergestellt, der eine deutliche Verbesserung der Geschwindigkeit und Energieeffizienz erzielte.

„Der Weg ist schwierig, aber er hat eine außerordentliche Bedeutung. Er ist ein wichtiges Schlachtfeld im aktuellen globalen High-Tech-Bereich“, glaubt Gao Bin. Die Chipforschung ist ein langer und mühsamer Prozess, bei dem kein erkennbarer Durchbruch in Sicht ist. Durch kontinuierliches Forschen und Lernen werden jedoch wertvolle Erfolge erzielt.

Als Erstautoren wissenschaftlicher Arbeiten haben Zhang Wenbin und Yao Peng während ihrer Doktorarbeit umfassende Kenntnisse in verschiedenen Forschungsfeldern wie Halbleitern, Mikroelektronik, Softwarealgorithmen und neuromorphem Computing erworben. Sie verfügen über umfangreiche Forschungs- und Entwicklungsergebnisse und wertvolle technische Erfahrungen.

Vom Nichts zum Etwas, von der Schwäche zur Stärke. Auf diesem Weg der wissenschaftlichen Forschung, der keine Abkürzungen kennt, haben diese „Chip-Jugendlichen“ unzählige Momente des Aufgebens nach Vorbereitung und Beobachtung erlebt, nur um nach zahlreichen Rückschlägen von vorne zu beginnen und eine Herausforderung nach der anderen zu meistern.

Mit Blick auf die Zukunft hofft Wu Huaqiang, dass die Lösungen und Technologien des Teams über das Labor hinausgehen und die Transformation wissenschaftlicher Forschungsergebnisse wirksam fördern können. Sie engagieren sich für die Bedürfnisse des Landes und der Gesellschaft.