Theoretisch onderzoek naar fotonische implementaties van "reservoir computing" via met vertraging gekoppelde lasers.

Dit project heeft als doel nieuwe inzichten in de complexe dynamica van gekoppelde halfgeleiderlasers aan te wenden in een radicaal nieuw paradigma voor informatie processing: de zgn. "reservoir computing" in een "Liquid State Machine". Inleiding "reservoir computing" Reservoir computing is recent op de voorgrond getreden als de generische naam van een nieuwe onderzoeksstroming in machine learning [1,2], die Echo State Networks [3,4] en Liquid State Machines ( LSM) [5] combineert. Deze systemen, die kunnen aangewend worden om complexe classificatie- en herkenningsproblemen op te lossen, hebben specifieke eigenschappen gemeen en worden als veelbelovend beschouwd voor een nieuw computationeel paradigma voor neurale netwerken. Centraal staat een uitgebreid, gedistribueerd, niet-lineair netwerk, het reservoir, met ingangs- en uitgangspoorten, die nodig zijn om informatie met het reservoir uit te wisselen. Het vernieuwende aspect bestaat erin dat de interne koppelingen van het reservoir onveranderd blijven en dat enkel de uitleesfunctie, de uitgangspoorten dus, getraind worden. Door een eenvoudig patroonherkenningsalgoritme kan de reactie van het reservoir op een input signaal berekend worden. Leeralgoritmes kunnen zo gehanteerd worden om d.m.v het reservoir complexe computationele problemen op te lossen. In een LSM kunnen de twee onderdelen van een reservoir computing systeem, een "vloeistof" -het reservoir- en een uitleesfunctie onderscheiden worden. De vloeistof zal elk inputsignaal, en combinaties van inputsignalen, niet-lineair vertalen naar spatio-temporele informatie. Hiervoor is het noodzakelijk dat een groot aantal nodes of neuronen op willekeurige wijze met elkaar verbonden worden. Een node ontvangt dus mogelijk een signaal van de buitenwereld, maar ook van de andere nodes. Dit geeft aanleiding tot een zeer gevarieerd niet-lineair gedrag waardoor de mogelijkheid ontstaat om met behulp van lineaire combinaties van de uitleesfunctie gelijk welke complexe niet-lineaire functie te vormen. Op deze manier kan men zware computationele taken zeer snel uitvoeren, zoals bv. signaal- of beeldverwerking [6, 7]. Een groot voordeel van een LSM is dat de vloeistof als dynamische entiteit en als complex niet-lineair systeem een deel van de informatie van de vorige ingangssignalen behoudt. M.a.w. informatie van het verleden dient niet extern bewaard te worden, de dynamica van de LSM gedraagt zich als een geheugen en een rekenalgoritme in een! Het tweede voordeel is dat het reservoir het beperkt aantal ingangsvariabelen naar een hoger-dimensionale ruimte transformeert, waar variabelen met gelijke kenmerken de neiging hebben te clusteren en op die manier geïdentificeerd kunnen worden. Er zijn sterke aanwijzigen dat netwerken van geavanceerde fotonische componenten, die een rijk, niet-lineair en ook ultrasnel dynamische gedrag vertonen, kunnen aangewend worden om zo'n LSM te realiseren. Voor een goede rekenperformantie moet de dynamica van het reservoir voldoen aan twee belangrijke voorwaarden, nl. een goed scheidend vermogen of separation property (SP) en een goed benaderend vermogen of approximation property (AP). De SP houdt in dat verschillende inputs aanleiding zullen geven tot een voldoende verschillend traject in de faseruimte van de interne toestand van het reservoir. Hoge scheidbaarheid betekent hoge performantie. De AP daarentegen geeft weer hoe goed de uitleesfunctie in staat zal zijn om de verschillende interne toestanden van elkaar te onderscheiden. Dit laatste vereist een vluchtig geheugen (fading memory). Het al dan niet aanwezig zijn van voorgaande eigenschappen heeft belangrijke gevolgen voor de dynamische toestand waarin het systeem mag verkeren. Een chaotisch systeem zal zeer goed aan de scheidende voorwaarde voldoen, maar niet voldoen aan het vervagende geheugen. Dit omdat elk klein verschil in initiële toestand het systeem in een andere richting zal sturen en naburige trajecten in de faseruimte exponentieel snel van elkaar zullen divergeren. Geordende systemen daarentegen hebben wel een vervagend geheugen, maar voldoen zeer slecht aan de scheidende eigenschap. Het is dus duidelijk dat beide voorwaarden antagonistisch zijn. De rekenperformantie piekt daarom bij de kritische lijn tussen de geordende en de chaotische toestand van een systeem. Het is dus interessant om te werken met systemen op de rand van chaos of net in het begin van een chaotisch gebied, waar de attractor nog een zekere mate van ordening bezit. Naar een fotonische implementatie van reservoir computing In de literatuur werden reeds LSM bestudeerd aan de hand van verschillende modellen zoals netwerken van artificiële neuronen [8], spatieel gekoppelde oscillatoren [9] en zelfs bestaande uit water [10]. Het systeem dat dienst doet als reservoir dient zeer complex te zijn om een geschikte dynamica te verkrijgen. Daarbij komt dan nog dat de dynamica niet alleen complex, maar ook zeer snel moet zijn indien men de LSM praktisch wil aanwenden om snelle verwerking te bekomen. Het is hier dat fotonica een interessant alternatief zou kunnen bieden. De dynamica van halfgeleiderlasers kan zich afspelen op tijdsschalen zo kort als enkele tientallen picoseconden [11]. Daarnaast werd aangetoond dat het koppelen van halfgeleiderlasers chaotische dynamica met zeer hoge dimensionaliteit kan induceren via de vertragingen in de koppelingen. In dit project zal onderzocht worden of het reservoir kan gerealiseerd worden d.m.v. netwerken van gekoppelde dynamische elementen die bestaan uit halfgeleiderlasers. In de traditionele aanpak wordt de complexe dynamica opgewekt door een aantal eenvoudige elementen zoals neuronen of oscillatoren. Deze bezitten echter individueel een beperkt aantal dynamische vrijheidsgraden, waardoor het reservoir dient opgebouwd te worden uit een zeer groot aantal van dit type nodes. Het door ons voorgestelde reservoir is opgebouwd uit slechts een klein aantal elementen, die dan met tijdsvertragingen gekoppeld zijn. Deze vertragingslijnen zullen de dimensionaliteit van de dynamica sterk verhogen. De tijdsvertragingen kunnen allen gelijk zijn ofwel, om de complexiteit nog te verhogen, verschillend gekozen worden. In de vakgroep Toegepaste Natuurkunde en Fotonica (TONA) van de Vrije Universiteit Brussel is er de laatste jaren ruime expertise opgebouwd, zowel theoretisch als experimenteel, rond de dynamica van halfgeleiderlasers [12], en meer recent ook rond de koppeling (met vertraging) van verschillende van zulke lasers [13] (o.a. in het project van FWO-aspirant O. D'Huys die de synchronisatie tussen gekoppelde lasers onderzoekt).