Studie bevestigt: de beperkte signaalvertraging en hoge energie-efficiëntie van spiking recurrente neurale netwerken hoeven niet ten koste te gaan van hun (inferentie)nauwkeurigheid

In april 2020 introduceerde imec 's werelds eerste chip om radarsignalen te verwerken met behulp van een spiking recurrent neuraal netwerk (SNN). De meest opvallende toepassing van deze nieuwe technologie? De ontwikkeling van een slim en energiezuinig multisensor perceptiesysteem voor drones dat hen toelaat obstakels binnen enkele milliseconden te identificeren.

In tegenstelling tot de artificiële neurale netwerken (ANN’s) die vandaag onder meer gebruikt worden in robotperceptiesystemen, bootsen SNN's de manier na waarop groepen biologische neuronen werken: het grootste deel van de tijd zijn zij inactief, met af en toe een korte puls (of spike) die wordt getriggerd wanneer een combinatie van inkomende spikes binnen een bepaalde tijdsspanne de drempelwaarde overschrijdt. Die aanpak biedt belangrijke voordelen. Zo bleek imecs SNN-chip tot honderd keer minder energie te verbruiken dan traditionele implementaties, en dat terwijl de signaalvertraging (of latency) met een factor tien werd gereduceerd – waardoor het neurale netwerk veel sneller beslissingen kan nemen.

In het volgende artikel geeft Ilja Ocket – programma-manager neuromorphic sensing bij imec – toelichting bij enkele van imecs meest recente vorderingen in dit domein.

De originele SNN-chip: geoptimaliseerd en opgeschaald

Het afgelopen jaar hebben imec-onderzoekers de originele SNN-chip – waarvan de details onlangs beschreven werden in 'Frontiers in Neuroscience' – geoptimaliseerd en opgeschaald, zodat hij een hele waaier aan (IoT en autonome robotica) cases kan ondersteunen.

De chip maakt gebruik van een volledig event-gebaseerde digitale architectuur en werd gebouwd met kostefficiënte 40nm standaard chiptechnologie.

Eén van de best presterende systemen op vlak van (inferentie)nauwkeurigheid

Een uitgebreide studie uitgevoerd door imec en het Nederlandse Centrum Wiskunde & Informatica (CWI) vergeleek imecs SNN met zes andere neurale netwerken. Acht datasets werden voor de evaluatie gebruikt – waaronder de Google radar (SoLi) en Google speech datasets.

De studie bevestigt enerzijds dat het spiking neurale netwerk van imec uitblinkt in termen van energie-efficiëntie. Anderzijds toont het onderzoek echter ook aan dat zo’n laag energieverbruik niet ten koste hoeft te gaan van de (inferentie)nauwkeurigheid. Integendeel zelfs: voor elk van de belangrijkste datasets die in de studie gebruikt werden, behoorde imecs SNN tot de best presterende systemen.

“SNN-technologie zal haar weg vinden in een heel aantal toepassingen: van slimme, zelflerende Internet of Things (IoT)-apparaten – zoals wearables – tot autonome drones en robots. Maar elk van die cases heeft zijn specifieke vereisten”, zegt Ilja Ocket. “Zo moeten spiking neurale netwerken voor IoT-toepassingen vooral uitblinken in energie-efficiëntie, terwijl autonome drones in de eerste plaats nood hebben aan een beperkte signaalvertraging – zodat ze snel obstakels kunnen ontwijken.”

“Het ontwikkelen van één SNN-architectuur die al die vereisten afdekt is een enorme uitdaging. Het komt erop aan een delicaat evenwicht te vinden tussen energieverbruik, signaalvertraging, nauwkeurigheid, kost en schaalbaarheid. Zo resulteert een SNN met een laag energieverbruik en een beperkte signaalvertraging vaak in een groter chipoppervlak – en omgekeerd. Het vinden van dat evenwicht is één van de speerpunten van imecs SNN-onderzoek.”

De toekomst: een end-to-end spikingaanpak

Laten we nog even terugkomen op de drone-case. Drones worden in steeds meer toepassingsdomeinen ingezet. Om hun autonomie te verbeteren en hen toe te laten om ook in meer uitdagende omgevingen te functioneren (zoals in slechte weersomstandigheden), hebben hun detectiecapaciteiten echter nog een serieuze boost nodig. Volgens Ilja Ocket biedt een end-to-end spikingaanpak een uitweg; een aanpak die gebruik maakt van neuromorfische radar- en camera-inputs.

Ilja Ocket: “Zo kunnen we een systeem bouwen dat erg energie-efficiënt is, en toch een heel beperkte signaalvertraging heeft. Het probleem is echter dat – om dit soort camera’s te connecteren met de onderliggende AI-systemen – hun feeds vandaag eerst nog steeds moeten worden omgezet in klassieke frames, wat de efficiëntiewinst grotendeels tenietdoet. Daarom onderzoekt imec hoe een end-to-end spikingaanpak – van de camera’s en sensoren tot de onderliggende AI – hier soelaas zou kunnen bieden. Wij zijn eigenlijk de eersten die dat doen, met tot dusver veelbelovende resultaten. We zijn trouwens nog steeds op zoek naar bedrijven uit de drone-industrie – zoals droneproducenten – om ons programma te vervoegen en met deze technologie te experimenteren.”