Voor dezelfde taak bedraagt ​​het energieverbruik van deze chip voor on-chip learning slechts 3% van dat van het Advanced Process-Specific Integrated Circuit (ASIC)-systeem.

Momenteel heeft generatieve kunstmatige intelligentie geleid tot een nieuwe golf van ontwikkelingen in de AI-industrie. AI-technologieën, ondersteund door grote rekenkracht, veranderen de manier waarop mensen leven en werken enorm. Het enorme aantal parameters dat nodig is voor AI-modellen heeft echter geleid tot een toenemende vraag naar rekenkracht, waardoor het absoluut noodzakelijk is om oplossingen te vinden om de enorme rekenkloof te overbruggen en aanzienlijke verbeteringen in de energie-efficiëntie te bereiken. Hoogwaardige en energiezuinige chips zijn de specifieke dragers van rekenkracht geworden en de belangrijkste basis achter de ontwikkeling van deze golf van intelligente revolutie, evenals de drijvende kracht achter de voortdurende ontwikkeling van de menselijke samenleving.

Om de grote uitdagingen aan te pakken waarmee traditionele scheidingsarchitecturen voor opslagcomputers worden geconfronteerd die de rekenkracht beperken, concentreerden professor Wu Huaqiang en universitair hoofddocent Gao Bin van de School of Integrated Circuits aan de Tsinghua Universiteit zich op het onderzoek naar geïntegreerde technologie voor geheugenweerstandopslagcomputers en verkenden ze een nieuw paradigma voor computersystemen.

De geïntegreerde technologie voor opslag-computing met geheugenweerstand bracht een revolutie teweeg in de traditionele von Neumann-computerarchitectuur vanuit de aspecten van apparaat-, circuit- en theoretisch computergebruik, waardoor een sprong voorwaarts werd bereikt in rekenkracht en energie-efficiëntie. Deze technologie kan ook gebruik maken van de leereigenschappen van de onderliggende apparaten om realtime leren op de chip te ondersteunen, waardoor nieuwe scenario's van lokale, op leren gebaseerde edge-training mogelijk worden gemaakt. Momenteel richt gerelateerd onderzoek op internationaal niveau zich voornamelijk op leerfunctiedemonstraties op het niveau van geheugenweerstandsarrays. De realisatie van wereldwijd geïntegreerde geheugenweerstandchips die efficiënt leren op de chip ondersteunen, staat echter nog steeds voor aanzienlijke uitdagingen, voornamelijk als gevolg van de slechte compatibiliteit tussen de zeer nauwkeurige gewichtsupdatemethode die vereist is door het traditionele backpropagation-trainingsalgoritme en de feitelijke kenmerken van geheugenweerstanden.

Om de bovengenoemde problemen op te lossen, ontwikkelden professor Wu Huaqiang en universitair hoofddocent Gao Bin, op basis van het geïntegreerde computerparadigma voor opslagcomputers, 's werelds eerste wereldwijd geïntegreerde geheugenweerstand-geïntegreerde opslagcomputerchip die efficiënt leren op de chip ondersteunt (machinaal leren kan direct worden gedaan voltooid aan de hardwarezijde). Ze hebben belangrijke doorbraken geboekt op het gebied van geïntegreerde chips met geheugenweerstand en opslagcomputers die on-chip learning ondersteunen, wat naar verwachting de ontwikkeling van kunstmatige intelligentie, autonoom rijden en draagbare apparaten zal bevorderen. De relevante prestaties zijn online gepubliceerd in het nieuwste nummer van Science.

Er wordt gemeld dat deze chip een energieverbruik voor on-chip leren bereikt dat slechts 1/35 bedraagt ​​van dat van het Advanced Process-Specific Integrated Circuit (ASIC)-systeem, terwijl er ook een 75-voudige verbetering in energie-efficiëntie wordt verwacht.

Universele algoritmen en architecturen gebaseerd op geheugen-weerstand-opslag-computerintegratie voor efficiënt leren op de chip.

Randleren met behulp van neuromorfe geheugenweerstandschips

Demonstratie van incrementeel leren voor automatische volgcontrole van een kleine auto

Voor dezelfde taak bedraagt ​​het energieverbruik van on-chip learning dat door deze chip wordt bereikt slechts 3% van dat van een gespecialiseerd ASIC-systeem met geavanceerde technologie, wat uitstekende voordelen op het gebied van energie-efficiëntie aantoont en een groot potentieel biedt om te voldoen aan de hoge eisen aan de rekenkracht van de AI. tijdperk. Dit biedt een innovatief ontwikkelingstraject voor het doorbreken van het knelpunt op het gebied van energie-efficiëntie onder de traditionele von Neumann-computerarchitectuur.

"Het op de chip leren van opslag- en rekenintegratie kan de privacy en gegevens van gebruikers effectief beschermen en tegelijkertijd een lagere latentie en een kleiner energieverbruik bereiken", legt Dr. Yao Peng, een postdoctoraal onderzoeker, uit. Verwijzend naar biomimetische hersenverwerkingsmethoden, kan deze chip snelle "on-chip training" en "on-chip herkenning" bereiken voor verschillende taken, waardoor incrementele leertaken effectief worden uitgevoerd in edge computing-scenario's met een laag stroomverbruik om zich aan te passen aan nieuwe situaties en nieuwe dingen te leren. kennis, die voldoet aan de persoonlijke behoeften van gebruikers.

Sommige mensen zijn bijvoorbeeld gewend om een ​​kort streepje in het midden van het getal "7" toe te voegen. In eerste instantie herkent de intelligente chip dit symbool niet, maar na training op twee of drie van dergelijke geschreven "7's", kan hij het nauwkeurig herkennen als het getal "7".

In de complexe en steeds veranderende internationale situatie blijft het doorbreken van ‘bottleneck’-technologie een actueel aandachtspunt.

Geconfronteerd met praktische problemen zoals een tekort aan geavanceerde onderzoeks- en ontwikkelingsapparatuur, weten teamleden enigszins of elke stap die ze zetten correct is, of de resultaten aan de verwachtingen kunnen voldoen en of de technologie verder kan worden geoptimaliseerd. Dit zijn allemaal enorme lasten voor iedereen.

In de eerste plaats zijn er technologische uitdagingen. Bij de ontwikkeling van memristorchips is geavanceerde kennis uit meerdere disciplines betrokken, zoals materiaalkunde, natuurkunde en elektronische techniek. Van de vele technische uitdagingen is de eerste die moet worden aangepakt de vraag hoe grootschalige integratie van memristieve apparaten kan worden bereikt. Via een groot aantal experimenten en theoretische studies stelde het team een ​​co-optimalisatiemethode voor architectuur, circuit en proces voor, die richtlijnen bood voor het ontwerp van een geïntegreerd opslag- en rekensysteem.

Ten tweede zijn er technische uitdagingen. Hoe kunnen, nu het grootschalige integratieproces en het kritische circuitontwerp aanwezig zijn, fouten die worden veroorzaakt door bottom-up, niet-ideale effecten op meerdere schaal worden overwonnen en samengevoegd tot een efficiënte systeemchip? Met de gezamenlijke inspanningen van de docenten en studenten van het team werd de STELLAR-architectuur voorgesteld, werden algoritme-optimalisatie- en simulatie-experimenten voltooid en werd een zeer efficiënte, geïntegreerde leerchip voor opslag en berekening vervaardigd, die een aanzienlijke verbetering in snelheid en energie-efficiëntie bereikte.

"De weg is moeilijk, maar heeft een buitengewone betekenis. Het is een belangrijk slagveld in het huidige mondiale hightechveld", meent Gao Bin. Chiponderzoek is een lang en moeizaam proces, waarbij er geen duidelijke doorbraak in zicht is. Door voortdurend onderzoek en leren worden echter waardevolle resultaten behaald.

Als de eerste auteurs van academische artikelen hebben Zhang Wenbin en Yao Peng tijdens hun doctoraatsstudies uitgebreide kennis opgedaan op verschillende onderzoeksgebieden, zoals halfgeleiders, micro-elektronica, software-algoritmen en neuromorfisch computergebruik. Ze hebben rijke onderzoeks- en ontwikkelingsresultaten en waardevolle technische ervaring verzameld.

Van niets naar iets, van zwakte naar kracht. Op dit pad van wetenschappelijk onderzoek, dat geen sluiproutes kent, hebben deze 'chipjongeren' talloze momenten van opgeven meegemaakt na voorbereiding en observatie, om vervolgens na talloze tegenslagen opnieuw te beginnen en de ene uitdaging na de andere te overwinnen.

Kijkend naar de toekomst hoopt Wu Huaqiang dat de oplossingen en technologieën van het team verder kunnen reiken dan het laboratorium en de transformatie van wetenschappelijke onderzoeksresultaten effectief kunnen bevorderen. Ze zijn toegewijd aan het dienen van de behoeften van het land en de samenleving.