Vultrdie Cloud-Plattform, die sich darauf spezialisiert hat, Zugang zu grundlegenden Infrastrukturdiensten zu relativ niedrigen Kosten zu bieten, gab heute die Einführung von Vultr Talon bekannt, einem neuen Dienst, der Entwicklern Zugang zu virtualisierten GPUs bieten wird, beginnend mit Nvidias A100 Tensor Core GPU, zu Preisen wie So niedrig wie 0,134 $/Stunde (oder 90 $/Monat) für den Zugriff auf ein Zwanzigstel der Rechenleistung eines A100.
Wenn Sie Zugriff auf eine High-End-GPU für maschinelles Lernen und ähnliche Anwendungsfälle benötigen, ist die kleinste Einheit, die Sie kaufen können, in der Regel der Zugriff auf die gesamte GPU. Auf der CPU-Seite ist es Standard, nur ein Stück CPU-Leistung zu kaufen, aber bisher war das für GPUs einfach nicht möglich, obwohl Sie für viele Anwendungsfälle, wie z. B. Inferenzen, nur Zugriff auf einen Bruchteil davon benötigen würden Rechenleistung der GPU.
Bildnachweis: Vultr
Vultr argumentiert, dass seine Plattform die erste ist, die partiellen Zugriff auf diese High-End-GPUs bietet. Der Dienst wird von der Nvidia AI Enterprise-Softwaresuite unterstützt, und Vultr-CEO JJ Kardwell, der Ende 2020 in das Unternehmen eingetreten ist, glaubt, dass dies ein weiterer Vorteil seines Dienstes ist. „Wenn Sie an die Art und Weise denken, wie die großen Clouds bereitstellen, wollen sie GPU-Hardware kaufen und dann ihren eigenen Stack pushen, während wir sehr eng mit Nvidia zusammengearbeitet haben, um nicht nur die GPU selbst, sondern den Nvidia AI Enterprise-Software-Stack und das Ganze zu liefern Reihe von Bibliotheken“, sagte er. „Der beste Weg, das Beste aus der GPU – den physischen GPUs – herauszuholen, ist der Nvidia-Software-Stack – und das ist ein ganz, ganz anderer Ansatz.“
Bildnachweis: Vultr
Das Unternehmen, das kürzlich auch seine verwaltete Kubernetes-Plattform eingeführt hat in die allgemeine Verfügbarkeit, blieb immer ein bisschen unter dem Radar der Medien – und vieles davon war beabsichtigt. Seit seiner Einführung im Jahr 2014 hat es nie viel Fremdkapital aufgebracht und sich hauptsächlich auf Mundpropaganda verlassen, um heute auf 125 Millionen US-Dollar ARR zu wachsen, wie Kardwell mir sagte. Auf diese Weise wollte der Gründer des Unternehmens, David Aninowsky, der jetzt sein Vorstandsvorsitzender ist, Vultr aufbauen. Aber da das Unternehmen jetzt diese Größenordnung erreicht – und wahrscheinlich irgendwann in der Zukunft über einen Börsengang nachdenkt – versucht das Team eindeutig, sein Profil noch etwas zu schärfen.
„Wir glauben wirklich, dass wir mehr als jeder andere tun, um den Zugang zum Cloud-Computing weltweit zu demokratisieren. Und während wir das anstreben, halten wir es für wichtig, dass die Menschen diese Mission verstehen“, erklärte er.
Der A100 ist ab sofort im Rechenzentrum von Vultr in New Jersey verfügbar, weitere Standorte folgen in den nächsten Wochen. Das Unternehmen teilt mir auch mit, dass es später in diesem Jahr weitere Nvidia-GPUs in sein Sortiment aufnehmen wird.