Michael Förtsch, CEO von Q.ANT (links), und Dieter Kranzlmüller, Vorsitzender des LRZ, bei der Inbetriebnahme des Photonen-Servers.Q.ANT GmbH Der Siegeszug der KI ist nicht mehr aufzuhalten – ist doch unumstritten, dass AI repetitive Aufgaben in Produktion und Office schneller und effizienter erledigen kann. Gleichzeitig steigt damit weltweit der Energiebedarf der Rechenzentren, so dass an Standorten wie Frankfurt bereits der Strom für neue Rechenzentren fehlt. Und die Situation könnte noch schlimmer werden: Experten gehen davon aus, dass bis 2030 KI vermutlich weltweit mehr Strom benötigt, als aktuell die gesamte Bundesrepublik verbraucht. Einen Ausweg aus diesem Dilemma könnte eine neue Art des Rechnens eröffnen: Computer, die anstelle von Strom mit Licht arbeiten. Mit Licht rechnen Den nach eigenem Bekunden weltweit ersten photonischen KI-Rechner hat jetzt das Leibniz-Rechenzentrum (LRZ) in Garching bei München in Betrieb genommen. Er soll 90 Prozent weniger Strom verbrauchen und die hundertfache KI-Rechenleistung im Vergleich zu klassischen Computern bieten. Der Photonen-Computer im LRZ. Q.ANT GmbH Die dazu im LRZ – einem der größten Supercomputing-Zentren Europas – eingesetzte Technik stammt von dem Stuttgarter Startup Q.ANT. Die Stuttgarter haben mit der Native Processing Unit (NPU) einen photonischen Prozessor entwickelt, der mit Licht rechnet. Im Gegensatz zu klassischen Chips mit CMOS-Technologie soll der Ansatz etliche Vorteile bieten. So könnten die NPUs mehr Rechenoperationen pro Sekunde durchführen und durch die Verwendung mehrerer Wellenlängen Berechnungen auf einem Chip parallel durchführen, erklärt das Startup. Ferner hätten die Chips einen geringeren Kühlbedarf. KI-Workloads beschleunigen Die Konstruktion sieht folgendermaßen aus: Eine NPU wird auf einer PCIe-Karte installiert. Diese wiederum kommt in dem Native Processing Server – kurz NPS – zum Einsatz, der als 19-Zoll-Rack-Server konzipiert ist. Als Betriebssystem wird ein Linux-Derivat verwendet. Das Software-Interface bilden C/C++ und Python API. Ferner werden PyTorch, TensorFlow und Keras unterstützt. „Photonische Prozessoren bieten einen neuartigen und vielversprechenden Weg, um KI- und Simulations-Workloads zu beschleunigen und gleichzeitig unseren ökologischen Fußabdruck deutlich zu verringern“, beschreibt Prof. Dr. Dieter Kranzlmüller, Vorsitzender des Direktoriums des LRZ, die Vorteile. „Mit diesem Praxiseinsatz kommen wir unserem Ziel entscheidend näher, energieeffiziente Infrastrukturen für Supercomputing und KI zu etablieren. “ Dementsprechend integriert das LRZ den Photonen-Computer in seine HPC-Umgebungen. Use Cases für den Photonen-Rechner Das LRZ will den NPS von Q.ANT nutzen, um neue Benchmarks und praxisnahe Anwendungsfälle für Anwendungen wie Klimamodellierung, medizinische Echtzeitbildgebung oder Materialsimulation für die Fusionsforschung zu etablieren. In der ersten Evaluierungsphase im LRZ werden mehrere Einheiten der neuesten Generation des Q.ANT NPS installiert, geeignete Benchmark-Workloads ausgewählt und reale Anwendungsszenarien getestet – insbesondere in den Bereichen KI-Inferenz, Computer Vision und Physiksimulationen. In späteren Phasen kommen NPS-Einheiten der zweiten und dritten Generation für eine vertiefende Bewertung zum Einsatz. Das Projekt wird durch das Bundesministerium für Forschung, Technologie und Raumfahrt gefördert.
KI: Mit Photonen will Deutschland an die Spitze
Michael Förtsch, CEO von Q.ANT (links), und Dieter Kranzlmüller, Vorsitzender des LRZ, bei der Inbetriebnahme des Photonen-Servers.Q.ANT GmbH Der Siegeszug der KI ist nicht mehr aufzuhalten – ist doch unumstritten, dass AI repetitive Aufgaben in Produktion und Office schneller und effizienter erledigen kann. Gleichzeitig steigt damit weltweit der Energiebedarf der Rechenzentren, so dass an Standorten wie Frankfurt bereits der Strom für neue Rechenzentren fehlt. Und die Situation könnte noch schlimmer werden: Experten gehen davon aus, dass bis 2030 KI vermutlich weltweit mehr Strom benötigt, als aktuell die gesamte Bundesrepublik verbraucht. Einen Ausweg aus diesem Dilemma könnte eine neue Art des Rechnens eröffnen: Computer, die anstelle von Strom mit Licht arbeiten. Mit Licht rechnen Den nach eigenem Bekunden weltweit ersten photonischen KI-Rechner hat jetzt das Leibniz-Rechenzentrum (LRZ) in Garching bei München in Betrieb genommen. Er soll 90 Prozent weniger Strom verbrauchen und die hundertfache KI-Rechenleistung im Vergleich zu klassischen Computern bieten. Der Photonen-Computer im LRZ. Q.ANT GmbH Die dazu im LRZ – einem der größten Supercomputing-Zentren Europas – eingesetzte Technik stammt von dem Stuttgarter Startup Q.ANT. Die Stuttgarter haben mit der Native Processing Unit (NPU) einen photonischen Prozessor entwickelt, der mit Licht rechnet. Im Gegensatz zu klassischen Chips mit CMOS-Technologie soll der Ansatz etliche Vorteile bieten. So könnten die NPUs mehr Rechenoperationen pro Sekunde durchführen und durch die Verwendung mehrerer Wellenlängen Berechnungen auf einem Chip parallel durchführen, erklärt das Startup. Ferner hätten die Chips einen geringeren Kühlbedarf. KI-Workloads beschleunigen Die Konstruktion sieht folgendermaßen aus: Eine NPU wird auf einer PCIe-Karte installiert. Diese wiederum kommt in dem Native Processing Server – kurz NPS – zum Einsatz, der als 19-Zoll-Rack-Server konzipiert ist. Als Betriebssystem wird ein Linux-Derivat verwendet. Das Software-Interface bilden C/C++ und Python API. Ferner werden PyTorch, TensorFlow und Keras unterstützt. „Photonische Prozessoren bieten einen neuartigen und vielversprechenden Weg, um KI- und Simulations-Workloads zu beschleunigen und gleichzeitig unseren ökologischen Fußabdruck deutlich zu verringern“, beschreibt Prof. Dr. Dieter Kranzlmüller, Vorsitzender des Direktoriums des LRZ, die Vorteile. „Mit diesem Praxiseinsatz kommen wir unserem Ziel entscheidend näher, energieeffiziente Infrastrukturen für Supercomputing und KI zu etablieren. “ Dementsprechend integriert das LRZ den Photonen-Computer in seine HPC-Umgebungen. Use Cases für den Photonen-Rechner Das LRZ will den NPS von Q.ANT nutzen, um neue Benchmarks und praxisnahe Anwendungsfälle für Anwendungen wie Klimamodellierung, medizinische Echtzeitbildgebung oder Materialsimulation für die Fusionsforschung zu etablieren. In der ersten Evaluierungsphase im LRZ werden mehrere Einheiten der neuesten Generation des Q.ANT NPS installiert, geeignete Benchmark-Workloads ausgewählt und reale Anwendungsszenarien getestet – insbesondere in den Bereichen KI-Inferenz, Computer Vision und Physiksimulationen. In späteren Phasen kommen NPS-Einheiten der zweiten und dritten Generation für eine vertiefende Bewertung zum Einsatz. Das Projekt wird durch das Bundesministerium für Forschung, Technologie und Raumfahrt gefördert.
KI: Mit Photonen will Deutschland an die Spitze Michael Förtsch, CEO von Q.ANT (links), und Dieter Kranzlmüller, Vorsitzender des LRZ, bei der Inbetriebnahme des Photonen-Servers.Q.ANT GmbH Der Siegeszug der KI ist nicht mehr aufzuhalten – ist doch unumstritten, dass AI repetitive Aufgaben in Produktion und Office schneller und effizienter erledigen kann. Gleichzeitig steigt damit weltweit der Energiebedarf der Rechenzentren, so dass an Standorten wie Frankfurt bereits der Strom für neue Rechenzentren fehlt. Und die Situation könnte noch schlimmer werden: Experten gehen davon aus, dass bis 2030 KI vermutlich weltweit mehr Strom benötigt, als aktuell die gesamte Bundesrepublik verbraucht. Einen Ausweg aus diesem Dilemma könnte eine neue Art des Rechnens eröffnen: Computer, die anstelle von Strom mit Licht arbeiten. Mit Licht rechnen Den nach eigenem Bekunden weltweit ersten photonischen KI-Rechner hat jetzt das Leibniz-Rechenzentrum (LRZ) in Garching bei München in Betrieb genommen. Er soll 90 Prozent weniger Strom verbrauchen und die hundertfache KI-Rechenleistung im Vergleich zu klassischen Computern bieten. Der Photonen-Computer im LRZ. Q.ANT GmbH Die dazu im LRZ – einem der größten Supercomputing-Zentren Europas – eingesetzte Technik stammt von dem Stuttgarter Startup Q.ANT. Die Stuttgarter haben mit der Native Processing Unit (NPU) einen photonischen Prozessor entwickelt, der mit Licht rechnet. Im Gegensatz zu klassischen Chips mit CMOS-Technologie soll der Ansatz etliche Vorteile bieten. So könnten die NPUs mehr Rechenoperationen pro Sekunde durchführen und durch die Verwendung mehrerer Wellenlängen Berechnungen auf einem Chip parallel durchführen, erklärt das Startup. Ferner hätten die Chips einen geringeren Kühlbedarf. KI-Workloads beschleunigen Die Konstruktion sieht folgendermaßen aus: Eine NPU wird auf einer PCIe-Karte installiert. Diese wiederum kommt in dem Native Processing Server – kurz NPS – zum Einsatz, der als 19-Zoll-Rack-Server konzipiert ist. Als Betriebssystem wird ein Linux-Derivat verwendet. Das Software-Interface bilden C/C++ und Python API. Ferner werden PyTorch, TensorFlow und Keras unterstützt. „Photonische Prozessoren bieten einen neuartigen und vielversprechenden Weg, um KI- und Simulations-Workloads zu beschleunigen und gleichzeitig unseren ökologischen Fußabdruck deutlich zu verringern“, beschreibt Prof. Dr. Dieter Kranzlmüller, Vorsitzender des Direktoriums des LRZ, die Vorteile. „Mit diesem Praxiseinsatz kommen wir unserem Ziel entscheidend näher, energieeffiziente Infrastrukturen für Supercomputing und KI zu etablieren. “ Dementsprechend integriert das LRZ den Photonen-Computer in seine HPC-Umgebungen. Use Cases für den Photonen-Rechner Das LRZ will den NPS von Q.ANT nutzen, um neue Benchmarks und praxisnahe Anwendungsfälle für Anwendungen wie Klimamodellierung, medizinische Echtzeitbildgebung oder Materialsimulation für die Fusionsforschung zu etablieren. In der ersten Evaluierungsphase im LRZ werden mehrere Einheiten der neuesten Generation des Q.ANT NPS installiert, geeignete Benchmark-Workloads ausgewählt und reale Anwendungsszenarien getestet – insbesondere in den Bereichen KI-Inferenz, Computer Vision und Physiksimulationen. In späteren Phasen kommen NPS-Einheiten der zweiten und dritten Generation für eine vertiefende Bewertung zum Einsatz. Das Projekt wird durch das Bundesministerium für Forschung, Technologie und Raumfahrt gefördert.