JOLLYBEE - Neuromorphic Computing at the Junction of Optically Accelerated Processing and Light-Based Artificial Intelligence

Aktuell ist unsere Wirtschaft durch ein stetiges jährliches Datenwachstum im Ausmaß von 60% gekennzeichnet. Starke Treiber hierbei sind die unaufhörliche Generierung von Inhalten, die kontinuierliche Ausweitung von Cloud-Anwendungen und das Aufblühen des Internets-der-Dinge. Mit diesem rasanten Wachstum an Daten wird auch der Anteil der IKT am globalen Energieverbrauch im Jahr 2030 voraussichtlich auf 21% emporschnellen.

Ein wichtiger Aspekt im Bereich der IKT ist dabei die Verarbeitung der Daten. Traditionelle Rechenarchitekturen bilden jedoch die in der realen Welt beobachteten Informationsstrukturen nicht effizient ab, was wiederum Grenzen bezüglich des Energieverbrauchs setzt.

Dem gegenüber steht das menschliche Gehirn: ein Meisterwerk der Biologie, das eine erstaunliche Leistung von fast 100 Billiarden (1017) Operationen pro Watt aufweist, gemäß einer Sub-Attojoule-Energie pro Operation. Dabei ist das Gehirn um acht Größenordnungen effizienter als künstliche Rechner, indem es einen "Prozessor" nutzt, in dem 100 Milliarden (1011) Neuronen miteinander kommunizieren.

Inspiriert durch diese biologischen Rechenarchitektur, entwickelt JOLLYBEE durch eine Symbiose zweier Schlüsseltechnologien – künstliche Intelligenz und Photonik – eine neuromorphe Plattform für den Gigahertz-Betrieb optischer neuronaler Netze, die durch eine ultraniedrige Latenzzeit in Bezug auf Inferenz gekennzeichnet sind. Dazu werden hybride opto-elektronische neuronale Knoten und flexible synaptische Verbindungen auf Chip-Basis, sowie die dazugehörigen Methoden des Trainings untersucht.

Als ersten Schritt in Richtung bioinspirierter Datenverarbeitung wird JOLLYBEE die Anwendbarkeit eines derartigen optischen neuronalen Prozessors in repräsentativen Anwendungen wie der ultraschnellen Musterklassifikation evaluieren.

Die Nachahmung der biologischen Intelligenz durch neuromorphes Computing wird in vielen Anwendungen als Game-Changer angesehen und verspricht große Effizienzgewinne, selbst abseits des primären Anwendungsfeldes der Informations- und Kommunikationstechnologien.

Ausgangssituation

Die resourceneffiziente Implementierung künstlicher Intelligenz erfordert einen neuen Ansatz, da die virtuelle Abbildung von Informationsstrukturen durch traditionelle Computer einer digitalen Energiebarriere unterliegt: Obwohl die Dichte an Transistoren weiterhin ein konstantes Wachstum gemäß dem Moore'schen Gesetz aufweist, zeigt sich seit einer Dekade eine Sättigung der Prozessortaktrate, welche die Recheneffizienz limitiert.

Elektronische neuronale Schaltungen bilden eine aus der Biologie inspirierte, datenzentrierte Architektur ab, um das natürliche Leistungsvermögen eines Gehirns im Zuge des „neuromorphes Computings" auszuschöpfen.

Die zugehörige Hardware unterscheidet sich dabei auf physischer sowie auf architektonischer Ebene und besitzt die Fähigkeit des Lernens, anstatt starr programmiert zu werden. Es ist heutzutage möglich, 100.000 Neuronen in einem neuromorphen Prozessor zu realisieren und diese mit einer Informationsbandbreite im von einigen Megahertz zu betreiben.

Ziel

JOLLYBEE bedient sich einer verwandten Schlüsseltechnologie: Während die Mikroelektronik bestens dafür geeignet ist, Lernfähigkeit und Rekonfigurierbarkeit eines neuromorphen Prozessors zum Zweck der Informationstransformation in den zugrundeliegenden neuralen Knoten zu unterstützen, bietet die Photonik die effizienteste Grundlage zur synaptischen Informationsverbreitung - bei gleichzeitiger Entkopplung von Energieeffizienz und hohen Informationsbandbreiten im Gigahertz-Bereich.

Rasche Inferenz mit geringster Latenz im Nanosekunden-Bereich gehen mit einer Energieeffizienz von nur 1 Picojoule pro Rechenoperation – weit unter jener der traditionellen Computer – einher.

Vorgehen

Der Leitgedanke in JOLLYBEE beruht auf der Symbiose von elektronischer Informationstransformation und optischer Informationstransmission, um die Schnittstelle dieser beiden ineinandergreifenden Aufgaben neuromorpher Informationsverarbeitung so effizient wie möglich zu gestalten.

JOLLYBEE wird hierfür sämtliche Elemente und Funktionen neuronaler Schaltungen für KI-Anwendungen entwickeln:

• künstliche Neuronen, als Grundlage der analogen opto-elektronischen Informationsverarbeitung mit Gigahertz-Informationsbandbreiten, bauen auf einer photonischen Implementierung der Gewichtung und Erfassung multipler Synapsen auf, um Neuronen zu aktivieren,
• ein flexibler synaptischer Interconnect, über welchen die künstlichen Neuronen in Kontakt treten und welcher die Informationsverbreitung durch Skalierbarkeit und Rekonfiguration der dafür eingesetzten neuronalen Matrix unterstützt, um neuronale Netze effizient zu synthetisieren.

Angestrebte Ergebnisse

Die in JOLLYBEE gesetzten Ziele zu bio-inspirierter Informationsverarbeitung streben drei primäre Ergebnisse an:

• Programmierbarer optische Prozessor: Ähnlich den programmierbaren elektronischen Schaltungen, soll durch kongruente photonische Funktionen am axonalen und dendritischen Arbor eine KI-Hardware resultieren, welche flexibel und somit lernfähig eingesetzt werden kann.
• Skalierbarkeit durch photonisch integrierte Schaltungen (PIC): Die Skalierung optisch neuronaler Netze ist eine große Herausforderung. JOLLYBEE setzt daher Akzente, um in einem ersten Schritt 11 optische Neuronen auf Basis eines Chips zu implementieren. Die Existenz eines Moore'schen Gesetzes für PICs verspricht Skalierungseffekte in naher Zukunft.
• Demonstration von Time-of-Flight Inferenz, welche hauptsächlich durch die Signallaufzeit limitiert ist: JOLLYBEE's KI-Hardware mit multiplen Neuronen-Layern soll in ersten Anwendungen zur Musterklassifizierung unter GHz-getaktetem Informationsfluss evaluiert werden.

Anbindung an strategische Vorhaben

JOLLYBEE kombiniert die Schlüsseltechnologien KI und Photonik, um leistungsfähige Datenverarbeitung zu gewährleisten. Optisch neuronale Netze operieren mit immensen Informationsbandbreiten. Dies führt zu einer hohen Energieeffizienz, die den Sub-Picojoule Bereich pro Rechenoperation erreichen kann, und unterstützt somit den Green Deal in der IKT – einem Segment, dessen Energiebedarf ein sehr starkes Wachstum aufweist.

JOLLYBEE unterstützt Edge-Cloud Anwendungen durch eine bio-inspirierte Hardware für KI. Die im Projekt untersuchte Prozessor-Architektur löst kritische Probleme mit ultra-kurzer Latenz, anstatt diese an die Core-Cloud auszulagern.

Mit Neuromorphic Computing als neuem Paradigma der Datenverarbeitung sowie der Implementierung eines optischen neuronalen Netzwerks durch Einsatz von europäischen Integrationsplattformen trägt JOLLYBEE ebenso zur technologischen Souveränität bei – wie sie speziell bei Halbleiterkomponenten durch den Digitalen Kompass der EU gefordert wird.

Projektleitung

Dr. Bernhard Schrenk - AIT Austrian Institute of Technology

Projektpartner

Georg Gesek - Novarion Systems GmbH

AIT Austrian Institute of Technology GmbH
Bernhard Schrenk
Tel.: +43 (505) 50-4131
E-Mail: bernhard.schrenk@ait.ac.at