Ian Buck: Dieser Mann entwickelte die Geheimwaffe von Nvidia

8
Ian Buck hat seine Karriere dem Aufbau von CUDA gewidmet, Nvidias wichtigster Software.

Ian Buck hat seine Karriere dem Aufbau von CUDA gewidmet, Nvidias wichtigster Software.
Bloomberg/ Getty Images

Ian Buck ist eine weniger bekannte Kraft hinter Nvidias technologischem Graben und Marktanteil.

Sein Ruf als meisterhafter Entwickler hat den Verlauf der Geschichte von Nvidia verändert – und seine Zukunft.

Wie Nvidia seinen Wassergraben aufrechterhält und wie es mit dem Unternehmen weitergeht, hängt zum Teil von Buck ab.

Ian Buck, der Vizepräsident von Nvidia für Hyperscale und High-Performance Computing, verspürte während der Keynote-Präsentation von CEO Jensen Huang auf der Nvidias GTC-Konferenz im März einen Anflug von Nostalgie.

Huang verbrachte fast acht Minuten mit einer einzigen Folie, die Softwareprodukte auflistete.

„Diese Folie ist wirklich meine Lieblingsfolie“, sagte Huang auf der Bühne vor 17.000 Zuhörern. „Vor langer Zeit – vor 20 Jahren – war diese Folie alles, was wir hatten“, so der CEO weiter.

Buck sagte, dass er sich sofort in das Jahr 2004 zurückversetzt fühlte, als er mit der Entwicklung der bahnbrechenden Software des Unternehmens, der Compute Unified Device Architecture (CUDA), begann.

Damals bestand das Team aus zwei Mitarbeitern und zwei Bibliotheken. Heute unterstützt CUDA mehr als 900 Bibliotheken und Modelle für künstliche Intelligenz. Jede Bibliothek entspricht einer Branche, die Nvidia-Technologie einsetzt.

„Es ist eine wirklich persönliche Slide voller Leidenschaft“, sagte Buck am nächsten Tag zu Reportern.

Der Beitrag des 48-Jährigen zu Nvidia ist in der Geschichte des Unternehmens fest verankert. Aber sein Einfluss steht erst am Anfang. CUDA ist die Plattform, mit der Nvidia einen Marktanteil von 90 Prozent im Bereich KI-Computing erreicht hat. Mit CUDA verteidigt das Unternehmen seinen Burggraben.

CUDA begann mit zwei Bibliotheken. Heute sind es über 500.

CUDA begann mit zwei Bibliotheken. Heute sind es über 500.
AP Photo/Nic Coury

Eine Architektur, die alle beherrscht

Dion Harris, Senior Director of High-Performance Computing and AI Factory Solutions bei Nvidia, vergisst manchmal, dass er mit dem Ian Buck in einem Raum sitzt. Dann fällt ihm ein, dass sein Chef und Freund eine echte Legende ist.

Seit Bucks Studienzeit in Princeton in den späten 1990er Jahren hatte er sich auf Grafik konzentriert – ein besonders anstrengendes Gebiet innerhalb der Informatik, das damals noch keine offensichtliche Verbindung zur KI hatte.

„Computergrafik war damals so ein unbedeutendes Feld“, schreibt Stephen Witt, der Autor von „The Thinking Machine“, in dem der Aufstieg von Nvidia zum wertvollsten Unternehmen der Welt beschrieben wird.

„Die Arbeit in der Computergrafik war mit einem Stigma behaftet – man war vielleicht eine Art männliches Kind, wenn man sich auf dieses Gebiet konzentrierte“, so Witt.

Während seiner Promotion in Stanford verband Buck mehrere Grafikprozessoren mit dem Ziel, sie an ihre Grenzen zu bringen. Vor seiner Promotion hatte er ein Praktikum bei Nvidia absolviert, so dass er mit der Grafikprozessoren vertraut war. Anfänglich nutzte er sie wie alle anderen für die Grafik.

Buck sagte, dass er und seine Kollegen die Chips zum Spielen von Videospielen wie „Quake“ und „Doom“ verwendeten, aber schließlich begann er sich zu fragen, was sein Spielesystem sonst noch leisten könnte.

Der Schritt zu Nvidia

Er war darauf fixiert, zu beweisen, dass man Grafikprozessoren (auch GPUs genannt) für alles Mögliche verwenden kann. Er erhielt unter anderem von Nvidia und der Defense Advanced Research Projects Agency finanzielle Unterstützung, um Tools zu entwickeln, mit denen sich ein Grafikprozessor in eine universelle Supercomputing-Maschine verwandeln ließ. Als das Unternehmen Bucks Versuch einer Programmiersprache sah, die die Leistung von GPUs über die Grafik hinaus nutzte, stellte Nvidia ihn ein.

Er war nicht allein. John Nickolls, ein Hardware-Experte und damaliger Leiter der Architektur für GPU-Computing, war ebenfalls maßgeblich an der Entwicklung der CUDA-Software beteiligt. Buck wäre vielleicht für immer mit Nickolls verbunden gewesen, wenn letzterer nicht 2011 an Krebs gestorben wäre.

„Sowohl Nickolls als auch Buck waren davon besessen, Computer schneller zu machen, so wie ein Formel-1-Mechaniker davon besessen ist, den Rennwagen schneller zu machen“, sagte Witt im Gespräch mit BI. (Der Autor sagte, Huang habe seine Frustration darüber zum Ausdruck gebracht, dass Nickolls seit seinem Tod nicht die Anerkennung erhält, die er verdient.)

Buck, Nickolls und ein kleines Expertenteam entwickelten ein Framework, das es Entwicklern ermöglichte, eine bestehende Programmiersprache, nämlich C, zu verwenden, um die Fähigkeit des Grafikprozessors zu nutzen, riesige Berechnungen gleichzeitig und nicht nur eine nach der anderen auszuführen, und sie auf jeden beliebigen Bereich anzuwenden. Das Ergebnis war CUDA – ein Instrument, das parallele Berechnungen für die breite Masse zugänglich machte.

Es war keineswegs vorbestimmt, dass CUDA so wichtig für Künstliche Intelligenz werden würde. Obwohl die Software kostenlos war und kaum jemand sie nutzte, bestand Huang darauf, jeden Chip dafür kompatibel zu machen. Tatsächlich hat Nvidia wegen CUDA mehr als ein Jahrzehnt lang Millionen von US-Dollar deshalb verloren.

Alles Weitere gehört inzwischen zur (Unternehmens-)Geschichte. Als ChatGPT auf den Markt kam, trieb Nvidia bereits die KI-Rechenrevolution voran, die heute im Mittelpunkt von sieben Billionen Dollar an Infrastrukturausgaben steht, von denen ein Großteil letztendlich an Nvidia geht.

Der König der Nerds

Auch Bucks Intelligenz hat ihre Grenzen. So scherzte er vor einem begeisterten Publikum auf der GTC-Konferenz, dass die Quantenchromodynamik – ein Bereich der Teilchenphysik – einfach nicht in seinem Gehirn hängen bleibt. Doch er gedeihe in Nvidias notorisch strenger Umgebung.

Das Unternehmen aus Santa Clara, Kalifornien, hat eine intensive Unternehmenskultur, in der persönliche Treffen vermieden werden und Fehltritte und Meinungsverschiedenheiten öffentlich ausgetragen werden. Das mag beängstigend klingen, aber für diejenigen, die über den nötigen Grips verfügen, sind diese Direktheit und Strenge ideal.

Für diesen Artikel hat Business Insider mit vier Personen gesprochen, die entweder direkt mit Buck in Stanford, bei Nvidia oder mit beiden zusammengearbeitet haben.

Diejenigen, die Buck persönlich kennen, beschreiben ihn als gesellig und umgänglich, aber auch sehr intensiv, wenn es um Ziele geht. Er konzentriere sich eher auf die Ergebnisse als auf die Theorie.

In seinen öffentlichen Äußerungen, auf Podiumsdiskussionen und in Interviews im Namen von Nvidia, wechselt Buck von schnellen, technischen Gedankengängen zu langsameren, einfachen Beschreibungen in Laiensprache.

Auf einer GTC-Pressekonferenz erläuterte er die neuesten Entwicklungen bei neuronalen Faltungsnetzwerken und beschrieb dann Proteine als „komplizierte 3D-Schnörkel in eurem Körper“. Er erklärt die winzigen, empfindlichen Verbindungen im Inneren eines Nvidia-Chips so, wie ein Technikprofi den Anschluss eines Fernsehers aus dem Gedächtnis beschreibt – er hat das alles im Kopf.

Harris sagte, dass die Fähigkeit, Geschichten zu erzählen, in den oberen Rängen bei Nvidia besonders wichtig ist. Weil das Unternehmen jahrelang mit einer vielversprechenden Technologie auf den passenden Markt warten musste, sieht Huang das „Zu-früh-Sein“ weiterhin als strategischen Vorteil. Er bezeichnete es als „die Jagd nach Null-Milliarden-Dollar-Märkten“. Das Potenzial von KI, sogenannte „KI-Fabriken“ und die damit verbundenen Infrastrukturausgaben sind eine Geschichte, die Nvidia immer wieder erzählt.

Bucks Verkaufstalent hat sich im Laufe der Jahre verbessert. Aber selbst in 15 Jahre altem Filmmaterial ist er am lebhaftesten, wenn er das Innenleben von Nvidias Technologie erklärt.

„Viele Entwickler sind herausragen, sagen aber: ‚Lasst mich in Ruhe. Ich werde meinen Code irgendwo in den Bergen schreiben’“, sagte Paul Bloch, Präsident des Nvidia-Partners DDN, im Gespräch mit BI. Die Führungskräfte von Nvidia seien nicht so, sagte er. Ein Großteil von Nvidias Führungsriege mag die Fähigkeiten haben, um mit der zurückgezogenen Gruppe mitzuhalten, aber sie wählen nicht zwischen Show und Code.

Die Konkurrenz schläft nicht

Ian Bucks Arbeit bei Nvidia begann mit einem einfachen Auftrag: die GPUs für jede Branche nutzbar zu machen. Diese Mission ist so gut wie erfüllt. Es gibt Hunderte von CUDA-Bibliotheken für Branchen, die von der Wettervorhersage bis zur medizinischen Bildgebung reichen.

„Die Bibliotheken sind wirklich dazu da, die Punkte zu verbinden, damit nicht jedes Unternehmen CUDA lernen muss“, so Harris.

CUDA bezieht seine Stärke aus Millionen von Entwicklern, die sich über Jahrzehnte hinweg angesammelt haben und die Plattform ständig erneuern und verbessern. Bislang hat niemand Nvidia eingeholt, aber die Konkurrenz ist schneller denn je.

Noch während Buck auf der GTC-Konferenz sprach, versuchten Entwickler in aller Welt, die Dominanz von CUDA zu durchbrechen. Am ersten Abend der Konferenz veranstaltete Tensorwave – ein KI-Cloud-Unternehmen, das ausschließlich Chips von Nvidias einzigem US-Konkurrenten AMD nutzt – ein Event mit dem Titel „Beyond CUDA“.

Jeff Tatarchuck, Mitbegründer von Tensorwave, sagte, dass mehr als „24 Speaker darüber sprachen, was sie tun, um den CUDA-Graben zu überwinden.“

AMD, das ebenfalls auf der Veranstaltung präsentierte, bemüht sich ausdrücklich darum, auf der Softwareseite des KI-Computings aufzuholen. Laut Branchenanalysten ist das Halbleiter-Unternehmen jedoch noch längst nicht so weit.

„Die KI überrascht uns immer wieder“

Harris erklärte BI, dass Bucks Team viel Zeit damit verbringe, mit Forschern zu sprechen, um an der Spitze zu bleiben. Das war schon immer so, aber die Art der Arbeit habe sich geändert. Vor einem Jahrzehnt überzeugte Buck noch die Forscher davon, beschleunigtes Computing bei ihren Probleme anzuwenden; jetzt hat sich das Blatt gewendet.

„Eine der größten Herausforderungen meiner Arbeit besteht oft darin, die Zukunft vorherzusagen, aber die KI überrascht uns immer wieder“, sagte Buck diesen Monat auf einer Konferenz der Bank of America. Zu verstehen, was die klügsten KI-Köpfe von Nvidia brauchen, ist von größter Bedeutung.

Viele sahen Deepseek, das Unternehmen, das die Märkte mit seinem angeblich billigen KI-Modell aufgeschreckt hat, als Bedrohung für Nvidia. Das Team umging CUDA, um die Leistungsgewinne herauszuholen, die es ihm ermöglichten, mit weniger Rechenleistung wettbewerbsfähige Ergebnisse zu erzielen. Doch Buck bezeichnete das chinesische Team kürzlich als „einen der besten CUDA-Entwickler da draußen.“

Die KI tritt in eine neue Phase ein, da immer mehr Unternehmen ihre Tools kommerzialisieren. Trotz des enormen Vorsprungs von Nvidia, der zum Teil von Buck aufgebaut wurde, ist das Tempo hoch.

Auf der GTC-Konferenz stellte Nvidia unter anderem das neue Produkt Dynamo vor. Dabei handelt es sich um eine Plattform für Inferenzberechnungen, die sich an die zunehmende Verbreitung von Schlussfolgerungsmodellen anpassen soll. Nvidia brachte Dynamo ein paar Monate nach dem DeepSeek-Beben auf den Markt, aber einige Nutzer hatten bereits ihre eigenen Versionen entwickelt.

„Inferenz ist wirklich schwierig. Es ist verdammt schwer“, sagte Buck auf der GTC.

Talent ist ein entscheidender Faktor dafür, wie Nvidia seine Marktführerschaft halten will – und auch ein Bereich, in dem Buck laut Witt über seine technischen Fähigkeiten hinaus wertvoll ist. Ein bekannter Name ist er allerdings nicht, selbst an der Stanford-Universität nicht.

Aber für eine bestimmte Art von Entwicklern, die in Bucks extrem komplexem Sandkasten spielen können, hat er eine hohe Anziehungskraft. „Jeder versucht, diese Leute einzustellen, besonders nach Deepseek“, sagt Witt. „Das war lange Zeit kein sexy Bereich in der Informatik. Jetzt ist es brandheiß.“

„Jetzt wollen diese Leute viel Geld verdienen. Deshalb denke ich, dass Ian Buck draußen sein muss, um für die Arbeit seiner Gruppe zu werben“, so Witt weiter.

Nvidia lehnte es ab, Ian Buck für ein Interview mit Business Insider zur Verfügung zu stellen und lehnte eine Stellungnahme zu diesem Bericht ab.

Wer ist der nächste CEO von Nvidia?

Buck ist mehr als ein Jahrzehnt jünger als der 62-jährige Huang und hat nicht vor, in nächster Zeit zu gehen. Dennoch ist die Frage nach der Nachfolge unvermeidlich.

Lip-Bu Tan, eine Legende der Halbleiterindustrie, der kürzlich CEO von Intel wurde, sagte zu BI, dass Buck einer der wenigen echten Mitarbeiter von Huang ist, der mehr als 60 direkt unterstellte Führungskräfte hat.

„Jensen hat drei rechte Hände“, sagte Tan zu BI, bevor er den Posten bei Intel übernahm. Und Buck sei einer davon. Der Vizepräsident für GPU-Engineering Jonah Alben ist ein weiterer. Und CFO Colette Kress ist die dritte, sagte Tan.

Jay Puri, Nvidias Executive Vice President for Worldwide Field Operations, und Sanja Fidler, Vice President of AI Research, sind ebenfalls Namen, die in solchen Gesprächen auftauchen. „Ich glaube nicht, dass Ian Buck viel Zeit damit verbringt, Geschäftsstrategien zu entwickeln. Er ist eher so etwas wie der beste Mechaniker der Welt“, sagte Witt.