Neoclouds können eine Alternative zu den KI-Infrastrukturangeboten der Hyperscaler darstellen.Zamurovic Brothers | shutterstock.com Neoclouds sind weder Produkt noch Technologie – und haben auch nichts mit der Matrix-Filmreihe zu tun. In diesem Artikel lesen Sie: was sich hinter dem Begriff verbirgt, welche Neocloud-Anbieter Sie auf dem Zettel haben sollten, wie Experten die Kosten im Vergleich zu Hyperscaler- und On-Premises-Angeboten einschätzen, und welche Aspekte Sie vor einem Investment bedenken sollten. Neocloud – was ist das? Neoclouds sind Anbieter, die auf GPU-as-a-Service (GPUaaS) spezialisiert sind. Die Unternehmen in diesem Bereich wollen von der steigenden Nachfrage nach künstlicher Intelligenz, Machine Learning und Datenanalysen (sowie weiteren HPC-Workloads) profitieren. Dabei heben sie sich von AWS, Google Cloud und Microsoft (die ebenfalls GPU-Dienstleistungen anbieten) in erster Linie dadurch ab, dass es sich um hochspezialisierte, reine GPU-Serviceanbieter handelt. Neocloud-Anbieter können im Vergleich zu den Hyperscalern in vielen Fällen wettbewerbsfähigere Preise bieten – in Kombination mit schnell verfügbaren State-of-the-Art-GPUs sowie speziell auf KI- und ML-Workloads optimierter Infrastruktur. Das ist insbesondere Multicloud-Strategien zuträglich – in solchen Umgebungen können die Neoclouds als spezialisierte Hubs für das KI-Training zum Einsatz kommen. Die wichtigsten Neocloud-Anbieter Vier Anbieter haben sich derzeit als Marktführer im Neocloud-Markt etabliert: CoreWeave gilt als unangefochtener Neocloud-Marktführer und hat bereits einen erfolgreichen Börsengang hinter sich gebracht. Das Unternehmen war ursprünglich im Bereich Cryptomining tätig, orientierte sich aber ab 2019 auf Cloud-, respektive KI-Infrastruktur um. In der Folge konnte das US-Startup diverse Investoren von sich überzeugen, darunter auch Nvidia. Neben GPUaaS bietet das Unternehmen auch Objektspeicher für KI-Workloads und CPU-Cluster an. Medienberichten zufolge ist CoreWeave zudem der erste Cloud-Provider, der Nvidias Blackwell-Ultra-GPUs einsetzt. Lambda Labs bezeichnet sich selbst als die “Superintelligence Cloud” und bietet nicht nur GPU-Dienstleistungen aus der Cloud, sondern auch in Form von lokalen, privaten Clustern an – inklusive Infiniband-Netzwerk und Storage. Besonderen Fokus legt dieser Neocloud-Anbieter (zu dessen Investoren ebenfalls Nvidia zählt) dabei auf die Benutzerfreundlichkeit. Crusoe legt seinen Fokus darauf, nachhaltige Rechenzentren zu bauen, die von erneuerbaren Energien angetrieben werden. Davon abgesehen gehören auch eine moderne GPU-Infrastruktur, intelligente Orchestrierung und API-gesteuerte Managed Services zum Portfolio. Nebius ist ein europäischer Neocloud-Anbieter, der unter anderem ein großes Rechenzentrum in Finnland sein Eigen nennt. Das Unternehmen bietet eine Full-Stack-KI-Infrastruktur als Dienstleistung an. Neoclouds im Kostenvergleich Falls Sie sich vor allem fragen, wie viel man mit einem Neocloud-Anbieter im Vergleich zu einem Hyperscaler sparen kann: Das Uptime Institute hat in einer aktuellen Untersuchung die durchschnittlichen, stündlichen Kosten für eine Nvidia-DGX-H100-Instanz verglichen. Diese kostet demnach: bei einem Hyperscaler im Schnitt 98 Dollar, während eine gleichwertige von einem Neocloud-Anbieter durchschnittlich 34 Dollar kostet. Daraus ergibt sich eine Ersparnis von satten 66 Prozent. Owen Rogers, Senior Research Director beim Uptime Institute, erklärt, wie es zu dieser Diskrepanz kommt: “Neocloud-Anbieter können niedrigere Preise anbieten, weil sie im Gegensatz zu den Hyperscalern neben modernen keine Legacy-Infrastrukturen betreiben müssen. Hyperscaler bieten in der Regel Dutzende von Produkten an, die sich jeweils individuell erweitern lassen. Im Gegensatz dazu bieten Neoclouds nur eine Handvoll Produktlinien mit wenigen Varianten.” Durch diese Fokussierung sei es den Neocloud-Anbietern unter anderem möglich, mit weniger qualifiziertem Personal arbeiten, eine homogene IT-Landschaft in großem Maßstab optimieren und den Verwaltungsaufwand reduzieren, meint Rogers. Zwar könnten die Hyperscaler dem Research-Experten zufolge ihre eigenen GPUaaS-Angebote ebenfalls rabattieren, um den Neocloud-Anbietern den Wind aus den Segeln zu nehmen – das hätten sie allerdings gar nicht nötig: “Unternehmen, die eine Neocloud in Betracht ziehen, müssen Faktoren abwägen, die man bei den etablierten Anbietern in der Regel voraussetzen kann: Hyperscale-Rechenzentren sind sicher, in Sachen Compliance auf der Höhe der Zeit und mit diversen Management- und Monitoring-Tools ausgestattet.” Dazu komme laut Rogers, dass mit AWS, Google Cloud oder Azure in vielen Fällen keine neuen Verträge ausgehandelt werden müssten: “Hyperscaler haben einen festen Kundenstamm. Und für viele Kunden ist es schlicht einfacher, mehr für ihre bestehenden Hyperscaler-GPU-Instanzen zu bezahlen, als eine günstigere Alternative zu finden.” Darüber hinaus hat das Uptime Institute auch die Preisunterschiede zwischen dedizierter GPU-Infrastruktur On-Premises, von Hyperscalern und Neoclouds berechnet. Das Ergebnis: Ein Unternehmen, das über einen längeren Zeitraum bei einem dedizierten Infrastruktur-Cluster eine Auslastung von 22 Prozent erreicht und aufrechterhält, kann im Vergleich zum Hyperscaler-Angebot Kosten einsparen. Damit sich ein On-Premises-Modell aber auch im Vergleich mit einem Neocloud-Angebot rechnet, müsste die Auslastung laut Uptime bereits bei 66 Prozent liegen: “Diese 66-Prozent-Schwelle könnten nur die effizientesten KI-Implementierungen erreichen. In diesem Szenario würden viele Unternehmen Geld sparen, wenn sie auf eine Neocloud setzen, statt eigene Infrastruktur bereitzustellen”, ordnen die Infrastrukturexperten ein. Liegt die durchschnittliche Auslastung bei mindestens 22 Prozent, ist dedizierte Infrastruktur laut dem Uptime Institute bei einem etablierten Cloud-Anbieter günstiger als die Public Cloud. Im Fall einer Neocloud müsste der Wert auf 66 Prozent klettern.Uptime Institute Neoclouds bieten neben ihrer Kosteneffizienz eine Vielzahl weiterer Vorteile. So sind die Rechenzentren der Anbieter im Regelfall auf dem neuesten Stand der Technik und bieten unter anderem: Infiniband- oder RoCEv2-Netzwerke, Flüssigkeitskühlung, aktuelle Nvidia-GPUs, Skalierbarkeit sowie flexible On-Demand-Optionen. Insbesondere für Unternehmen, die gerade am Anfang ihrer KI-Reise stehen, bieten Neocloud-Anbieter eine Möglichkeit, mit der Technologie zu experimentieren – ohne große Investitionen in lokale Infrastruktur tätigen zu müssen. Vor dem Neocloud-Investment Wie so oft gilt aber auch bei Neoclouds: Wo Licht ist, ist auch Schatten. Zumindest potenziell. Deshalb sollten Sie folgende Aspekte berücksichtigen, bevor Sie auf einen Neocloud-Anbieter setzen. In der aktuellen AI-Goldgräberstimmung übersteigt die Nachfrage nach GPUs das Angebot. Sie sollten deshalb sicherstellen, dass der Neocloud-Anbieter Ihrer Wahl Zugang zu den neuesten GPU-Modellen garantieren kann. Die Neoclouds konkurrieren derzeit über den Preis, was die Preisspirale immer weiter nach unten treibt. Inzwischen sind die durchschnittlichen Preise von rund acht Dollar pro Stunde und GPU auf unter zwei Dollar gefallen. Nebius bietet etwa Nvidias L40S GPU für 1,55 Dollar pro Stunde an. Es ist davon auszugehen, dass die Neocloud-Anbieter künftig zusätzliche Services anbieten werden, um neue Einnahmequellen zu erschließen. Wie in der IT üblich, konkurrieren Unternehmen und kooperieren parallel miteinander. So erklärt sich auch, dass Nvidia, in mehrere Neoclouds investiert hat – oder dass Microsoft und Google als Hyperscaler Kunden von CoreWeave sind. Es ist wahrscheinlich, dass sich auch der Neocloud-Markt künftig konsolidieren wird. Das sollten Sie entsprechend einkalkulieren. Wenn Unternehmen ihre KI-Strategie ausarbeiten, ist reine GPU-Rechenleistung, wie sie Neoclouds bieten, eine Möglichkeit, um weiterzukommen. Allerdings müssen Sie als Anwender in diesem Fall weiterhin die hochkomplexen und technischen Aufgaben selbst übernehmen, die nötig sind, um KI-Anwendungen aufzubauen und zu betreiben. (fm) Sie wollen weitere interessante Beiträge zu diversen Themen aus der IT-Welt lesen? Unsere kostenlosen Newsletter liefern Ihnen alles, was IT-Profis wissen sollten – direkt in Ihre Inbox!
KI-Kosten sparen mit Neoclouds?
Neoclouds können eine Alternative zu den KI-Infrastrukturangeboten der Hyperscaler darstellen.Zamurovic Brothers | shutterstock.com Neoclouds sind weder Produkt noch Technologie – und haben auch nichts mit der Matrix-Filmreihe zu tun. In diesem Artikel lesen Sie: was sich hinter dem Begriff verbirgt, welche Neocloud-Anbieter Sie auf dem Zettel haben sollten, wie Experten die Kosten im Vergleich zu Hyperscaler- und On-Premises-Angeboten einschätzen, und welche Aspekte Sie vor einem Investment bedenken sollten. Neocloud – was ist das? Neoclouds sind Anbieter, die auf GPU-as-a-Service (GPUaaS) spezialisiert sind. Die Unternehmen in diesem Bereich wollen von der steigenden Nachfrage nach künstlicher Intelligenz, Machine Learning und Datenanalysen (sowie weiteren HPC-Workloads) profitieren. Dabei heben sie sich von AWS, Google Cloud und Microsoft (die ebenfalls GPU-Dienstleistungen anbieten) in erster Linie dadurch ab, dass es sich um hochspezialisierte, reine GPU-Serviceanbieter handelt. Neocloud-Anbieter können im Vergleich zu den Hyperscalern in vielen Fällen wettbewerbsfähigere Preise bieten – in Kombination mit schnell verfügbaren State-of-the-Art-GPUs sowie speziell auf KI- und ML-Workloads optimierter Infrastruktur. Das ist insbesondere Multicloud-Strategien zuträglich – in solchen Umgebungen können die Neoclouds als spezialisierte Hubs für das KI-Training zum Einsatz kommen. Die wichtigsten Neocloud-Anbieter Vier Anbieter haben sich derzeit als Marktführer im Neocloud-Markt etabliert: CoreWeave gilt als unangefochtener Neocloud-Marktführer und hat bereits einen erfolgreichen Börsengang hinter sich gebracht. Das Unternehmen war ursprünglich im Bereich Cryptomining tätig, orientierte sich aber ab 2019 auf Cloud-, respektive KI-Infrastruktur um. In der Folge konnte das US-Startup diverse Investoren von sich überzeugen, darunter auch Nvidia. Neben GPUaaS bietet das Unternehmen auch Objektspeicher für KI-Workloads und CPU-Cluster an. Medienberichten zufolge ist CoreWeave zudem der erste Cloud-Provider, der Nvidias Blackwell-Ultra-GPUs einsetzt. Lambda Labs bezeichnet sich selbst als die “Superintelligence Cloud” und bietet nicht nur GPU-Dienstleistungen aus der Cloud, sondern auch in Form von lokalen, privaten Clustern an – inklusive Infiniband-Netzwerk und Storage. Besonderen Fokus legt dieser Neocloud-Anbieter (zu dessen Investoren ebenfalls Nvidia zählt) dabei auf die Benutzerfreundlichkeit. Crusoe legt seinen Fokus darauf, nachhaltige Rechenzentren zu bauen, die von erneuerbaren Energien angetrieben werden. Davon abgesehen gehören auch eine moderne GPU-Infrastruktur, intelligente Orchestrierung und API-gesteuerte Managed Services zum Portfolio. Nebius ist ein europäischer Neocloud-Anbieter, der unter anderem ein großes Rechenzentrum in Finnland sein Eigen nennt. Das Unternehmen bietet eine Full-Stack-KI-Infrastruktur als Dienstleistung an. Neoclouds im Kostenvergleich Falls Sie sich vor allem fragen, wie viel man mit einem Neocloud-Anbieter im Vergleich zu einem Hyperscaler sparen kann: Das Uptime Institute hat in einer aktuellen Untersuchung die durchschnittlichen, stündlichen Kosten für eine Nvidia-DGX-H100-Instanz verglichen. Diese kostet demnach: bei einem Hyperscaler im Schnitt 98 Dollar, während eine gleichwertige von einem Neocloud-Anbieter durchschnittlich 34 Dollar kostet. Daraus ergibt sich eine Ersparnis von satten 66 Prozent. Owen Rogers, Senior Research Director beim Uptime Institute, erklärt, wie es zu dieser Diskrepanz kommt: “Neocloud-Anbieter können niedrigere Preise anbieten, weil sie im Gegensatz zu den Hyperscalern neben modernen keine Legacy-Infrastrukturen betreiben müssen. Hyperscaler bieten in der Regel Dutzende von Produkten an, die sich jeweils individuell erweitern lassen. Im Gegensatz dazu bieten Neoclouds nur eine Handvoll Produktlinien mit wenigen Varianten.” Durch diese Fokussierung sei es den Neocloud-Anbietern unter anderem möglich, mit weniger qualifiziertem Personal arbeiten, eine homogene IT-Landschaft in großem Maßstab optimieren und den Verwaltungsaufwand reduzieren, meint Rogers. Zwar könnten die Hyperscaler dem Research-Experten zufolge ihre eigenen GPUaaS-Angebote ebenfalls rabattieren, um den Neocloud-Anbietern den Wind aus den Segeln zu nehmen – das hätten sie allerdings gar nicht nötig: “Unternehmen, die eine Neocloud in Betracht ziehen, müssen Faktoren abwägen, die man bei den etablierten Anbietern in der Regel voraussetzen kann: Hyperscale-Rechenzentren sind sicher, in Sachen Compliance auf der Höhe der Zeit und mit diversen Management- und Monitoring-Tools ausgestattet.” Dazu komme laut Rogers, dass mit AWS, Google Cloud oder Azure in vielen Fällen keine neuen Verträge ausgehandelt werden müssten: “Hyperscaler haben einen festen Kundenstamm. Und für viele Kunden ist es schlicht einfacher, mehr für ihre bestehenden Hyperscaler-GPU-Instanzen zu bezahlen, als eine günstigere Alternative zu finden.” Darüber hinaus hat das Uptime Institute auch die Preisunterschiede zwischen dedizierter GPU-Infrastruktur On-Premises, von Hyperscalern und Neoclouds berechnet. Das Ergebnis: Ein Unternehmen, das über einen längeren Zeitraum bei einem dedizierten Infrastruktur-Cluster eine Auslastung von 22 Prozent erreicht und aufrechterhält, kann im Vergleich zum Hyperscaler-Angebot Kosten einsparen. Damit sich ein On-Premises-Modell aber auch im Vergleich mit einem Neocloud-Angebot rechnet, müsste die Auslastung laut Uptime bereits bei 66 Prozent liegen: “Diese 66-Prozent-Schwelle könnten nur die effizientesten KI-Implementierungen erreichen. In diesem Szenario würden viele Unternehmen Geld sparen, wenn sie auf eine Neocloud setzen, statt eigene Infrastruktur bereitzustellen”, ordnen die Infrastrukturexperten ein. Liegt die durchschnittliche Auslastung bei mindestens 22 Prozent, ist dedizierte Infrastruktur laut dem Uptime Institute bei einem etablierten Cloud-Anbieter günstiger als die Public Cloud. Im Fall einer Neocloud müsste der Wert auf 66 Prozent klettern.Uptime Institute Neoclouds bieten neben ihrer Kosteneffizienz eine Vielzahl weiterer Vorteile. So sind die Rechenzentren der Anbieter im Regelfall auf dem neuesten Stand der Technik und bieten unter anderem: Infiniband- oder RoCEv2-Netzwerke, Flüssigkeitskühlung, aktuelle Nvidia-GPUs, Skalierbarkeit sowie flexible On-Demand-Optionen. Insbesondere für Unternehmen, die gerade am Anfang ihrer KI-Reise stehen, bieten Neocloud-Anbieter eine Möglichkeit, mit der Technologie zu experimentieren – ohne große Investitionen in lokale Infrastruktur tätigen zu müssen. Vor dem Neocloud-Investment Wie so oft gilt aber auch bei Neoclouds: Wo Licht ist, ist auch Schatten. Zumindest potenziell. Deshalb sollten Sie folgende Aspekte berücksichtigen, bevor Sie auf einen Neocloud-Anbieter setzen. In der aktuellen AI-Goldgräberstimmung übersteigt die Nachfrage nach GPUs das Angebot. Sie sollten deshalb sicherstellen, dass der Neocloud-Anbieter Ihrer Wahl Zugang zu den neuesten GPU-Modellen garantieren kann. Die Neoclouds konkurrieren derzeit über den Preis, was die Preisspirale immer weiter nach unten treibt. Inzwischen sind die durchschnittlichen Preise von rund acht Dollar pro Stunde und GPU auf unter zwei Dollar gefallen. Nebius bietet etwa Nvidias L40S GPU für 1,55 Dollar pro Stunde an. Es ist davon auszugehen, dass die Neocloud-Anbieter künftig zusätzliche Services anbieten werden, um neue Einnahmequellen zu erschließen. Wie in der IT üblich, konkurrieren Unternehmen und kooperieren parallel miteinander. So erklärt sich auch, dass Nvidia, in mehrere Neoclouds investiert hat – oder dass Microsoft und Google als Hyperscaler Kunden von CoreWeave sind. Es ist wahrscheinlich, dass sich auch der Neocloud-Markt künftig konsolidieren wird. Das sollten Sie entsprechend einkalkulieren. Wenn Unternehmen ihre KI-Strategie ausarbeiten, ist reine GPU-Rechenleistung, wie sie Neoclouds bieten, eine Möglichkeit, um weiterzukommen. Allerdings müssen Sie als Anwender in diesem Fall weiterhin die hochkomplexen und technischen Aufgaben selbst übernehmen, die nötig sind, um KI-Anwendungen aufzubauen und zu betreiben. (fm) Sie wollen weitere interessante Beiträge zu diversen Themen aus der IT-Welt lesen? Unsere kostenlosen Newsletter liefern Ihnen alles, was IT-Profis wissen sollten – direkt in Ihre Inbox!
KI-Kosten sparen mit Neoclouds? Neoclouds können eine Alternative zu den KI-Infrastrukturangeboten der Hyperscaler darstellen.Zamurovic Brothers | shutterstock.com Neoclouds sind weder Produkt noch Technologie – und haben auch nichts mit der Matrix-Filmreihe zu tun. In diesem Artikel lesen Sie: was sich hinter dem Begriff verbirgt, welche Neocloud-Anbieter Sie auf dem Zettel haben sollten, wie Experten die Kosten im Vergleich zu Hyperscaler- und On-Premises-Angeboten einschätzen, und welche Aspekte Sie vor einem Investment bedenken sollten. Neocloud – was ist das? Neoclouds sind Anbieter, die auf GPU-as-a-Service (GPUaaS) spezialisiert sind. Die Unternehmen in diesem Bereich wollen von der steigenden Nachfrage nach künstlicher Intelligenz, Machine Learning und Datenanalysen (sowie weiteren HPC-Workloads) profitieren. Dabei heben sie sich von AWS, Google Cloud und Microsoft (die ebenfalls GPU-Dienstleistungen anbieten) in erster Linie dadurch ab, dass es sich um hochspezialisierte, reine GPU-Serviceanbieter handelt. Neocloud-Anbieter können im Vergleich zu den Hyperscalern in vielen Fällen wettbewerbsfähigere Preise bieten – in Kombination mit schnell verfügbaren State-of-the-Art-GPUs sowie speziell auf KI- und ML-Workloads optimierter Infrastruktur. Das ist insbesondere Multicloud-Strategien zuträglich – in solchen Umgebungen können die Neoclouds als spezialisierte Hubs für das KI-Training zum Einsatz kommen. Die wichtigsten Neocloud-Anbieter Vier Anbieter haben sich derzeit als Marktführer im Neocloud-Markt etabliert: CoreWeave gilt als unangefochtener Neocloud-Marktführer und hat bereits einen erfolgreichen Börsengang hinter sich gebracht. Das Unternehmen war ursprünglich im Bereich Cryptomining tätig, orientierte sich aber ab 2019 auf Cloud-, respektive KI-Infrastruktur um. In der Folge konnte das US-Startup diverse Investoren von sich überzeugen, darunter auch Nvidia. Neben GPUaaS bietet das Unternehmen auch Objektspeicher für KI-Workloads und CPU-Cluster an. Medienberichten zufolge ist CoreWeave zudem der erste Cloud-Provider, der Nvidias Blackwell-Ultra-GPUs einsetzt. Lambda Labs bezeichnet sich selbst als die “Superintelligence Cloud” und bietet nicht nur GPU-Dienstleistungen aus der Cloud, sondern auch in Form von lokalen, privaten Clustern an – inklusive Infiniband-Netzwerk und Storage. Besonderen Fokus legt dieser Neocloud-Anbieter (zu dessen Investoren ebenfalls Nvidia zählt) dabei auf die Benutzerfreundlichkeit. Crusoe legt seinen Fokus darauf, nachhaltige Rechenzentren zu bauen, die von erneuerbaren Energien angetrieben werden. Davon abgesehen gehören auch eine moderne GPU-Infrastruktur, intelligente Orchestrierung und API-gesteuerte Managed Services zum Portfolio. Nebius ist ein europäischer Neocloud-Anbieter, der unter anderem ein großes Rechenzentrum in Finnland sein Eigen nennt. Das Unternehmen bietet eine Full-Stack-KI-Infrastruktur als Dienstleistung an. Neoclouds im Kostenvergleich Falls Sie sich vor allem fragen, wie viel man mit einem Neocloud-Anbieter im Vergleich zu einem Hyperscaler sparen kann: Das Uptime Institute hat in einer aktuellen Untersuchung die durchschnittlichen, stündlichen Kosten für eine Nvidia-DGX-H100-Instanz verglichen. Diese kostet demnach: bei einem Hyperscaler im Schnitt 98 Dollar, während eine gleichwertige von einem Neocloud-Anbieter durchschnittlich 34 Dollar kostet. Daraus ergibt sich eine Ersparnis von satten 66 Prozent. Owen Rogers, Senior Research Director beim Uptime Institute, erklärt, wie es zu dieser Diskrepanz kommt: “Neocloud-Anbieter können niedrigere Preise anbieten, weil sie im Gegensatz zu den Hyperscalern neben modernen keine Legacy-Infrastrukturen betreiben müssen. Hyperscaler bieten in der Regel Dutzende von Produkten an, die sich jeweils individuell erweitern lassen. Im Gegensatz dazu bieten Neoclouds nur eine Handvoll Produktlinien mit wenigen Varianten.” Durch diese Fokussierung sei es den Neocloud-Anbietern unter anderem möglich, mit weniger qualifiziertem Personal arbeiten, eine homogene IT-Landschaft in großem Maßstab optimieren und den Verwaltungsaufwand reduzieren, meint Rogers. Zwar könnten die Hyperscaler dem Research-Experten zufolge ihre eigenen GPUaaS-Angebote ebenfalls rabattieren, um den Neocloud-Anbietern den Wind aus den Segeln zu nehmen – das hätten sie allerdings gar nicht nötig: “Unternehmen, die eine Neocloud in Betracht ziehen, müssen Faktoren abwägen, die man bei den etablierten Anbietern in der Regel voraussetzen kann: Hyperscale-Rechenzentren sind sicher, in Sachen Compliance auf der Höhe der Zeit und mit diversen Management- und Monitoring-Tools ausgestattet.” Dazu komme laut Rogers, dass mit AWS, Google Cloud oder Azure in vielen Fällen keine neuen Verträge ausgehandelt werden müssten: “Hyperscaler haben einen festen Kundenstamm. Und für viele Kunden ist es schlicht einfacher, mehr für ihre bestehenden Hyperscaler-GPU-Instanzen zu bezahlen, als eine günstigere Alternative zu finden.” Darüber hinaus hat das Uptime Institute auch die Preisunterschiede zwischen dedizierter GPU-Infrastruktur On-Premises, von Hyperscalern und Neoclouds berechnet. Das Ergebnis: Ein Unternehmen, das über einen längeren Zeitraum bei einem dedizierten Infrastruktur-Cluster eine Auslastung von 22 Prozent erreicht und aufrechterhält, kann im Vergleich zum Hyperscaler-Angebot Kosten einsparen. Damit sich ein On-Premises-Modell aber auch im Vergleich mit einem Neocloud-Angebot rechnet, müsste die Auslastung laut Uptime bereits bei 66 Prozent liegen: “Diese 66-Prozent-Schwelle könnten nur die effizientesten KI-Implementierungen erreichen. In diesem Szenario würden viele Unternehmen Geld sparen, wenn sie auf eine Neocloud setzen, statt eigene Infrastruktur bereitzustellen”, ordnen die Infrastrukturexperten ein. Liegt die durchschnittliche Auslastung bei mindestens 22 Prozent, ist dedizierte Infrastruktur laut dem Uptime Institute bei einem etablierten Cloud-Anbieter günstiger als die Public Cloud. Im Fall einer Neocloud müsste der Wert auf 66 Prozent klettern.Uptime Institute Neoclouds bieten neben ihrer Kosteneffizienz eine Vielzahl weiterer Vorteile. So sind die Rechenzentren der Anbieter im Regelfall auf dem neuesten Stand der Technik und bieten unter anderem: Infiniband- oder RoCEv2-Netzwerke, Flüssigkeitskühlung, aktuelle Nvidia-GPUs, Skalierbarkeit sowie flexible On-Demand-Optionen. Insbesondere für Unternehmen, die gerade am Anfang ihrer KI-Reise stehen, bieten Neocloud-Anbieter eine Möglichkeit, mit der Technologie zu experimentieren – ohne große Investitionen in lokale Infrastruktur tätigen zu müssen. Vor dem Neocloud-Investment Wie so oft gilt aber auch bei Neoclouds: Wo Licht ist, ist auch Schatten. Zumindest potenziell. Deshalb sollten Sie folgende Aspekte berücksichtigen, bevor Sie auf einen Neocloud-Anbieter setzen. In der aktuellen AI-Goldgräberstimmung übersteigt die Nachfrage nach GPUs das Angebot. Sie sollten deshalb sicherstellen, dass der Neocloud-Anbieter Ihrer Wahl Zugang zu den neuesten GPU-Modellen garantieren kann. Die Neoclouds konkurrieren derzeit über den Preis, was die Preisspirale immer weiter nach unten treibt. Inzwischen sind die durchschnittlichen Preise von rund acht Dollar pro Stunde und GPU auf unter zwei Dollar gefallen. Nebius bietet etwa Nvidias L40S GPU für 1,55 Dollar pro Stunde an. Es ist davon auszugehen, dass die Neocloud-Anbieter künftig zusätzliche Services anbieten werden, um neue Einnahmequellen zu erschließen. Wie in der IT üblich, konkurrieren Unternehmen und kooperieren parallel miteinander. So erklärt sich auch, dass Nvidia, in mehrere Neoclouds investiert hat – oder dass Microsoft und Google als Hyperscaler Kunden von CoreWeave sind. Es ist wahrscheinlich, dass sich auch der Neocloud-Markt künftig konsolidieren wird. Das sollten Sie entsprechend einkalkulieren. Wenn Unternehmen ihre KI-Strategie ausarbeiten, ist reine GPU-Rechenleistung, wie sie Neoclouds bieten, eine Möglichkeit, um weiterzukommen. Allerdings müssen Sie als Anwender in diesem Fall weiterhin die hochkomplexen und technischen Aufgaben selbst übernehmen, die nötig sind, um KI-Anwendungen aufzubauen und zu betreiben. (fm) Sie wollen weitere interessante Beiträge zu diversen Themen aus der IT-Welt lesen? Unsere kostenlosen Newsletter liefern Ihnen alles, was IT-Profis wissen sollten – direkt in Ihre Inbox!