Explosive growth: ia-computing boom set to revolutionize the world

Die Zukunft der Künstlichen Intelligenz (KI) hat sich in den letzten Jahren zu einer rapiden Entwicklung entwickelt, die unsere Gesellschaft insgesamt verändern wird. Dieser Boom im Bereich des KI-Rechnens ist so explosiv, dass er unsere Vorstellungen von Möglichkeiten und Grenzen sprengt.

Ein riesen-sprung im computing

Wie Mustafa Suleyman in einem Artikel für das MIT Technology Review schreibt, hat sich die Potenz von KI-Modellen innerhalb von nur zehn Jahren etwa eine Billionfache zu vergrößern. Von 10^14 FLOPS in den ersten Systemen auf über 10^26 FLOPS in heutigen Modellen. Das ist kein Wachstum, sondern eine Explosion.

Suleyman vergleicht das Training von KI mit einer vollbelegten Raumfähre, in der Menschen mit Taschenrechnern arbeiten. Bis vor kurzem bedeutete der Ausbau von KI-Rechenleistung lediglich, mehr Menschen mit Taschenrechnern hinzuzufügen. Doch viele dieser Menschen warteten, während Daten ankamen. Heute ist dies nicht mehr der Fall, erklärt Suleyman. Die Revolution ist nicht nur schneller Rechenleistung, sondern dass alle diese 'Rechner' ständig arbeiten und wie ein einziges riesiges, intelligentes Wesen funktionieren.

Der rasante fortschritt in hardware und software

Drei wichtige Fortschritte konvergieren und tragen entscheidend zu diesem Boom bei: Schnellere Prozessoren, schnelleres Dateneingang und die Verbindung von Hunderttausenden von Prozessoren zu Clustern.

NVIDIA-Chips sind von 312 Teraflops im Jahr 2020 auf heute 2.250 Teraflops angewachsen. Microsofts MAIA 200-Chip behält bei jedem Euro 30% mehr Leistung als andere Chips in der gleichen Kategorie. Darüber hinaus haben sich Daten-Übertragungstechnologien wie HBM (High Bandwidth Memory) weiterentwickelt, die jetzt dreifach schneller sind als ihre Vorgänger. Und schließlich ermöglichen Netzwerke wie NVLink und InfiniBand die Verbindung von Hunderttausenden von GPUs in riesigen Supercomputern.

Als Ergebnis hat sich eine 'Bestie' entwickelt: Eine Aufgabe, die 2020 acht GPUs in 167 Minuten erledigen konnte, benötigt heute weniger als vier Minuten bei heutigem Hardware-Level, eine Verbesserung von 50-fach, weit über die 5-fache Erhöhung, die die Moore'sche Gesetz voraussagte.

Microsoft und nvidia: die pioniere der ki-revolution

Im Zentrum dieser Explosion steht Microsoft und NVIDIA, zwei Unternehmen, die die KI-Revolution anführen. Suleyman, der jetzt die KI-Abteilung bei Microsoft leitet, unterstreicht, dass es sich nicht mehr um Prototypen, sondern um echte, gigantische Infrastrukturen handelt: Clustern mit 100.000 GPUs, Racks von der Größe eines Kühlschranks, die 120 Kilowatt verbrauchen, und Datenzentren, die die Energie von Frankreich, Deutschland, Italien und dem Vereinigten Königreich zusammen konsumieren. 'Die 100 Milliarden Dollar in KI-Clustern, die 10 GW Verbrauch, die Superschiffe-Supercomputer. Das ist nicht Science Fiction mehr, sondern wird realisiert', betont Suleyman.

Das Ziel dieser gigantischen Anstrengungen ist die Superintelligenz, die Zukunft der KI. Nach der Epoche der Chatbots kommen nun die 'fast menschlichen' KI-Agenten, Systeme, die sich selbst erweitern, Tage lang Code schreiben, Wochen- oder Monatsprojekte durchführen, Anrufe tätigen, Verträge aushandeln und Logistik organisieren. Es gibt jedoch auch eine dunkle Seite, wie die Energieverbrauchsteigerung, die ein einzelnes Rack von 120 Kilowatt entspricht, wie 100 Häuser. Aber auch hier gibt es Hoffnung, da die Kosten von Solar-Energie und Batterien in den letzten Jahren um 97% und 100-fach gesunken sind, wie Suleyman betont.

Als Ausblick auf diese explosive Entwicklung schließt Suleyman: 'Es wird immer noch Überraschungen geben. Der 'Boom' im KI-Rechnen ist die Geschichte unserer Zeit, und er hat erst begonnen.'