Warum wir die KI so entwickeln müssen, dass sie wie das Gehirn arbeitet, um Energie zu sparen

Die Fortschritte der künstlichen Intelligenz (KI) bringen energieintensive Herausforderungen mit sich.

Eine Studie sagt voraus, dass bei anhaltendem Datenwachstum der kumulative Energieverbrauch für bin?re Operationen bis 2040 10^27 Joule übersteigen k?nnte – mehr als die Welt erzeugen kann.

Untersuchen wir also die Auswirkungen von KI auf die Umwelt, die Beschr?nkungen herk?mmlicher Computermodelle und wie sich Neuromorphic Computing (NC) vom energieeffizienten menschlichen Gehirn inspirieren l?sst, was zu nachhaltigen KI-Fortschritten führt.

Künstliche Intelligenz: Das Dilemma

In den letzten Jahren hat die künstliche Intelligenz (KI) bemerkenswerte Meilensteine erreicht. Beispiele dafür sind die Entwicklung von Sprachmodellen wie ChatGPT und Fortschritte im Bereich der Computer Vision, die autonome Technologien erm?glichen und die medizinische Bildgebung verbessern.

Auch die erstaunlichen F?higkeiten der KI im Bereich des verst?rkenden Lernens, wie sie sich in ihren Siegen über menschliche Meister in Spielen wie Schach und Go zeigen, unterstreichen ihre bemerkenswerten F?higkeiten.

Diese Entwicklungen haben es der KI zwar erm?glicht, Branchen zu ver?ndern, Innovationen in der Wirtschaft zu f?rdern, wissenschaftliche Durchbrüche zu erzielen und die Gesellschaft nachhaltig zu beeinflussen, doch bleiben sie nicht ohne Folgen.

Abgesehen von dieser alarmierenden Prognose für das Jahr 2040 erfordert bereits heute die Speicherung umfangreicher Daten und das Training von KI-Modellen anhand dieser Datens?tze erhebliche Energie- und Rechenressourcen, wie Untersuchungen zeigen:

• Laut MIT Technology Review kann die Ausbildung eines Modells mehr Energie verbrauchen als der Lebenszeitverbrauch eines durchschnittlichen Autos.
• Die Umweltauswirkungen des Cloud Computing übersteigen inzwischen die der Fluggesellschaften.
• Rechenzentren tragen zu 2 bis 3 % der weltweiten Treibhausgasemissionen bei, wobei energieintensive Server 7 % des Stroms in D?nemark und 2,8 % in den USA verbrauchen.

Daher ist es von entscheidender Bedeutung, bei der Weiterentwicklung der KI ein Gleichgewicht zwischen den Fortschritten und dem Energiebedarf unter Berücksichtigung der Umweltauswirkungen herzustellen.

Von-Neumann-Architektur: Der Engpass

KI-Modelle arbeiten im Rahmen der Von-Neumann-Architektur, einer Computerkonstruktion, die im Wesentlichen Verarbeitung und Speicher trennt und eine st?ndige Kommunikation zwischen beiden erfordert.

Da die KI-Modelle immer komplexer werden und die Datens?tze immer gr??er, st??t diese Architektur auf erhebliche Hindernisse.

Erstens teilten sich die Verarbeitungs- und Speichereinheiten einen Kommunikationsbus, was die KI-Berechnungen verlangsamt und die Trainingsgeschwindigkeit beeintr?chtigt.

Zweitens fehlt es der Verarbeitungseinheit der Architektur an Parallelverarbeitungsf?higkeiten, was sich auf das Training auswirkt.

W?hrend GPUs das Problem durch die M?glichkeit der parallelen Verarbeitung mildern, führen sie zu einem Overhead bei der Datenübertragung.

Durch die h?ufigen Datenbewegungen entsteht aufgrund der Speicherhierarchie zus?tzlicher Overhead, der sich auf die Leistung auswirkt.

Gro?e Datens?tze verursachen lange Speicherzugriffszeiten und eine begrenzte Speicherbandbreite, was zu Leistungsengp?ssen führt.

Komplexe KI-Modelle belasten Von-Neumann-Systeme und begrenzen die Speicher- und Verarbeitungskapazit?ten. Diese Einschr?nkungen haben zu einem hohen Energiebedarf und Kohlendioxidaussto? in KI-Systemen geführt.

Die Bew?ltigung dieser Herausforderungen ist entscheidend für die Optimierung der KI-Leistung und die Minimierung der Umweltauswirkungen.

Biologisches Gehirn: Die Inspiration

Das menschliche Gehirn ist in Bezug auf kognitive F?higkeiten leistungsf?higer als jede KI-Maschine.

Trotz seiner immensen Leistung ist das Gehirn unglaublich leicht und verbraucht im Gegensatz zu den energiehungrigen Maschinen, die wir heute verwenden, nur 10 Watt.

Sch?tzungen zufolge kann das Gehirn selbst mit diesem bescheidenen Energiebudget eine erstaunliche Leistung von 1 Exaflop erreichen, was 1000 Petaflops entspricht – eine Leistung, die der schnellste Supercomputer der Welt mit seinen 30 Megawatt Leistung bei 200 Petaflops nur schwer erreichen kann.

Das Geheimnis des Gehirns liegt in seinen Neuronen, die im Gegensatz zur Von-Neumann-Architektur Verarbeitung und Speicher integrieren.

Das Gehirn verarbeitet Informationen auf massiv parallele Weise, wobei Milliarden von Neuronen und Billionen von Synapsen gleichzeitig arbeiten. Trotz seiner bemerkenswerten Komplexit?t bleibt das Gehirn kompakt und sparsam in seinem Energieverbrauch.

Was ist neuromorphes Rechnen?

Neuromorphes Rechnen (NC) ist ein Zweig der Computertechnologie, der von der Struktur und Funktionsweise der neuronalen Netze des menschlichen Gehirns inspiriert ist.

Ziel ist es, Computerarchitekturen und -systeme zu entwerfen und zu entwickeln, die die parallelen und verteilten Verarbeitungsf?higkeiten des Gehirns nachahmen und eine effiziente und energiesparende Verarbeitung komplexer Aufgaben erm?glichen.

Dieser Ansatz zielt darauf ab, die Beschr?nkungen der Von-Neumann-Architektur für KI-Aufgaben zu überwinden, insbesondere durch die Zusammenlegung von Speicher und Verarbeitung an einem einzigen Ort.

Um NC zu verstehen, ist es wichtig zu wissen, wie das Gehirn funktioniert. Neuronen, die Bausteine des Gehirns, kommunizieren über elektrische Signale zur Informationsverarbeitung.

Wenn sie Signale von miteinander verbundenen Neuronen empfangen, verarbeiten sie diese und senden Impulse aus.

Diese Impulse wandern entlang der von den Neuronen gebildeten Bahnen, wobei Synapsen – Lücken zwischen den Neuronen – die übertragung erleichtern.

Im Rahmen von NC werden analoge Memristoren verwendet, um die Funktion der Synapsen nachzubilden und durch Anpassung des Widerstands ein Ged?chtnis zu erreichen.

Die schnelle Kommunikation zwischen Neuronen wird typischerweise durch den Einsatz von Spiking Neural Networks (SNNs) erreicht.

Diese SNNs verbinden spikende Neuronen mit künstlichen synaptischen Bauelementen wie Memristoren, die analoge Schaltungen verwenden, um gehirn?hnliche elektrische Signale zu imitieren.

Diese analogen Schaltungen bieten im Vergleich zur herk?mmlichen Von-Neumann-Architektur eine deutlich h?here Energieeffizienz.

Neuromorphe Technologien

Der Aufstieg der künstlichen Intelligenz steigert die Nachfrage nach neuromorphem Computing.

Es wird erwartet, dass der weltweite Markt für neuromorphes Computing von 31,2 Mio. USD im Jahr 2021 bis zum Jahr 2030 auf rund 8.275,9 Mio. USD ansteigen wird, mit einer beeindruckenden CAGR von 85,73 %. Als Reaktion darauf entwickeln Unternehmen neuromorphe Technologien, wie z. B.:

• IBMs TrueNorth: Der 2014 vorgestellte neuromorphe integrierte CMOS-Schaltkreis verfügt über 4096 Kerne, über eine Million Neuronen und 268 Millionen Synapsen. TrueNorth überwindet von-Neumann-Engp?sse und verbraucht nur 70 Milliwatt.
• Intels Loihi: Das 2017 vorgestellte Loihi ist 1000-mal energieeffizienter als das typische Training neuronaler Netze. Es verfügt über 131.072 simulierte Neuronen und weist eine 30- bis 1000-mal h?here Energieeffizienz als CPUs/GPUs auf.
• Akida NSoC von BrainChip: Mit seiner Spiking-Neural-Network-Architektur integriert es 1,2 Millionen Neuronen und 10 Milliarden Synapsen. Akida unterstützt stromsparende Echtzeit-KI-Anwendungen wie Video-Objekterkennung und Spracherkennung.

Diese Innovationen sind ein Zeichen für die rasante Entwicklung des neuromorphen Computings zur Erfüllung der KI-Anforderungen.

Herausforderungen des Neuromorphic Computing

Um das Potenzial von NC in der KI zu nutzen, müssen bestimmte Herausforderungen bew?ltigt werden.

Erstens ist die Entwicklung effizienter Algorithmen, die mit neuromorpher Hardware kompatibel sind, entscheidend. Dies erfordert ein tiefes Verst?ndnis der Hardware-Operationen und ma?geschneiderte Anpassungen.

Zweitens ist die Notwendigkeit, gr??ere, komplexe Datens?tze zu verarbeiten, entscheidend. Die derzeitigen NC-Experimente umfassen relativ bescheidene Datens?tze, so dass die Leistung des Systems bei umfangreicheren und komplexeren Problemen untersucht werden muss.

Je gr??er und komplexer die Datens?tze sind, desto h?her sind die Anforderungen an das NC-System. Die Herausforderung besteht darin, NC-Systeme zu entwickeln, die diesen Anforderungen gerecht werden und gleichzeitig pr?zise und effektive L?sungen liefern.

Trotz ermutigender Ergebnisse aus kleineren Tests ist die Leistung von NC bei gr??eren und komplizierteren Datens?tzen noch nicht erprobt.

Weitere Forschungs- und Entwicklungsarbeiten sind unerl?sslich, um die Technologie für praktische Anwendungen zu optimieren.

Die Quintessenz

Neuromorphes Computing (NC) l?sst sich von den neuronalen Netzen des Gehirns inspirieren, um die KI mit Energieeffizienz zu revolutionieren.

Da Fortschritte in der KI zu Umweltproblemen führen, bietet NC eine Alternative, indem es die parallele Verarbeitung des Gehirns nachahmt.

Im Gegensatz zur Von-Neumann-Architektur, die die Effizienz beeintr?chtigt, werden bei NC Speicher und Verarbeitung gemeinsam genutzt, um Engp?sse zu überwinden.

Innovationen wie TrueNorth von IBM, Loihi von Intel und Akida NSoC von BrainChip zeigen das Potenzial der neuromorphen Technologien.

Es gibt jedoch noch weitere Herausforderungen, darunter die Anpassung der Algorithmen und die Skalierbarkeit auf gr??ere Datens?tze. Die Weiterentwicklung von NC verspricht energieeffiziente KI-L?sungen mit nachhaltigem Wachstumspotenzial.