NVIDIA GRID vGPU: Grafische desktops in de cloud op lucratieve wijze

Vorige week vertelde ik dat het door vGPU mogelijk is om grafische desktops naar de cloud te verplaatsen, zodat GPU resources op een centrale plek staan en kunnen worden gedeeld. Maar hoe zorgt NVIDIA er nou voor dat dit op een kwalitatieve manier gebeurt? Dat komt door hun GRID vGPU technologie. 

Hoge performance plus applicatie compatibiliteit en betrouwbaarheid

Doordat NVIDIA de GPU heeft gevirtualiseerd in hardware, wordt de noodzaak van software abstractie voor het delen van GPU resources verlicht, en wordt performance-verlagende CPU overhead geëlimineerd, net als de problemen met applicatie betrouwbaarheid en compatibiliteit. GRID vGPU technologie faciliteert zo GPU verdeling over meerdere gebruikers, zonder performance of API compatibiliteit op te offeren.

Flexibele resource toedeling

GPU verdeling is één ding, maar het is een andere zaak om ervoor te zorgen dat elke gehoste virtuele machine, en elke gebruiker die die machine vertegenwoordigt, voldoende GPU resources kan krijgen om zijn workloads tijdig en effectief te verwerken.

Met GRID vGPU kunnen IT beheerders de grafische aanvraag van gebruikers in evenwicht houden met de beschikbare fysieke resources via vGPU profielen. Elk profiel specificeert op hoeveel geheugen en welke (gemiddelde) fractie van de totale beschikbare verwerkingskracht van een GRID GPU die virtuele machine kan rekenen. IT beheerders kunnen ervoor zorgen dat elke gebruiker voldoende is voorzien door simpelweg het geschikte profiel te selecteren. Een systeem beheerder zou bijvoorbeeld één GRID GPU met vier intensieve gebruikers kunnen delen, terwijl hij aan een andere GPU acht gebruikers met lagere grafische eisen kan toewijzen.

Naadloos schalen

Als het nodig is om snel resources te schalen vanwege veranderingen in het personeelsbestand, dan is dat geen probleem. Een beheerder kan snel GRID hardware herverdelen door gebruik te maken van de verschillende profielen. Zo kan een GPU die eerst toegewijd was aan een enkele intensieve gebruiker, snel een zuivere gedeelde resource worden voor meerdere gebruikers. 

Eenvoudig IT management

Zelfs als bijvoorbeeld nieuwe werknemers niet op de centrale locatie of niet eens op hetzelfde continent gevestigd zijn, dan is het geen probleem om hen te voorzien van virtuele desktops en resources aan hen toe te delen. Er hoeven geen vliegtickets geboekt te worden om de installaties uit te voeren. Door de hoge performance grafische VDI met GRID vGPU technologie kunnen nieuwe virtuele desktops in het datacenter worden aangemaakt en worden beheerd via het centrale, vereenigde management console. De gebruiker op afstand hoeft slechts een thin-client in te pluggen en een monitor te verbinden.Niet alleen installaties, maar ook de meeste patches, updates en andere onderhoudswerkzaamheden kunnen vanaf een centrale locatie worden uitgevoerd.

Met deze interessante eigenschappen van NVIDIA's GRID vGPU wordt grafische VDI een lucratief concept waar nog veel plezier aan beleeft zal worden.

vGPU: Verplaats nu ook grafisch intensieve apps naar het datacenter

Cloud computing, virtual desktop infrastructure (VDI), client consolidation infrastructure (CCI) en hosted virtual desktops (HVD). Een variatie aan namen en contexten, maar in essentie berusten ze allemaal op hetzelfde idee: Het verplaatsen van zware computing activiteiten en data naar een centrale bron die beschikbaar is voor velen.

Grafische kwaliteiten onderontwikkeld

Helaas blijft een belangrijk computing segment achter in de overgang van client desktops naar gevirtualiseerde clouds en datacenters. Beperkingen in zowel beschikbare technologie en netwerk infrastructuur hebben applicaties die net iets meer dan het meest eenvoudige niveau aan grafische bekwaamheid vereisen uitgesloten. 

Een kwalitatieve interactieve visuele ervaring is altijd belangrijk, en het kunnen leveren van die ervaring vereist altijd een GPU - Alex Herrera (NVIDIA)

Er bestaan al manieren om grafisch intensieve applicaties naar het datacenter te verplaatsen voor gebruikers die normaal gesproken hun workstation onder hun bureau hebben. Echter, die manieren schieten tekort in performance of zijn niet veelzijdig genoeg. 

Dedicated harware

In het verleden was dedicated hardware de meest rendabele optie voor het draaien van grafisch veeleisende applicaties. Bij hardware die volledig is toegewijd aan de applicatie, wordt de OS direct geïnstalleerd op de hardware waar de applicaties op draaien. Het nadeel van deze benadering zijn de kosten die ermee gemoeid zijn.

Software GPU sharing

Software GPU sharing stelt meerdere virtuele machines in staat om rendering kracht van een enkele, fysieke GPU af te tappen door software abstractie. Helaas verlaagt deze benadering performance. Het presteert effectief met simpele applicaties en visuals, maar het abstraheren van complexe 3D rendering brengt zowel latency als verlaagde performance met zich mee. Bovendien is applicatie compatibiliteit beperkt.

GPU pass-through (dedicated GPU)

Bij GPU pass-through wordt de GPU niet geabstraheerd door de hypervisor en aangeboden als een virtuele component. De GPU blijft een fysieke component. Elke virtuele machine krijgt zijn eigen GPU toegewezen, waardoor de performance vermindering wordt geëlimineerd. Dit is echter ook geen ideale oplossing, omdat het verbinden van een fysieke GPU aan een enkele virtuele machine de mogelijkheid om resources te delen en daardoor optimaal te benutten beperkt. Dit terwijl resources delen een van de belangrijkste redenen is om überhaupt voor een gevirtualiseerde oplossing te kiezen.

De oplossing: vGPU

Dat het grafische segment achterloopt is eindelijk aan het veranderen door ontwikkelingen in infrastructuur mogelijkheden. De mogelijkheid om op afstand high performance grafische desktops te renderen en leveren is gearriveerd.

Doordat NVIDIA engineers de GPU hebben gevirtualiseerd in hardware, wordt de noodzaak van software abstractie (om GPU resources te delen) verlicht, en wordt performance-verlagende CPU overhead geëlimineerd, net als de problemen met applicatie betrouwbaarheid en compatibiliteit. Door hardware virtualisatie kunnen meerdere virtuele machines nu dus een fysieke GPU delen voor optimale resource benutting, terwijl de performance hoog is en de compatibiliteit goed. Ook grafisch veeleinde apps kunnen nu dus prima verplaatst worden naar het datacenter. Een zeer gewenste ontwikkeling in de tijd van BYOD (bring your own device) en de toename in grafisch intensieve applicaties.

De kracht van Kubernetes.

Vorige week heb ik in het kort verteld wat Kubernetes is. Deze week leg ik meer de focus op wat nou echt de kracht is van dit systeem, waarbij enkele features aan bod komen.

Zoals je misschien wel hebt gemerkt als je mijn blog volgt, wordt er in de IT steeds meer voordeel behaald door veel van de complexiteit van het ontwerpen, bouwen en beheren van IT infrastructuren weg te nemen d.m.v. automatisering, standaardisaties en gebruiksklare (turnkey) oplossingen. De reden hiervoor is dat er op dit gebied nog heel veel efficiëntie te behalen valt. Veel bedrijven hebben namelijk IT-ers in dienst die zich met bloed, zweet en tranen toewijden aan hun 'unieke' IT infrastructuur, terwijl het gros van de bedrijven voor een groot deel dezelfde vereisten aan hun omgeving stelt.

De kracht van Kubernetes

De kracht van Kubernetes is dat ook zij veel complexiteit wegnemen, namelijk op het gebied van container orkestratie. Kubernetes groepeert containers die een applicatie vormen in logische eenheden, wat hen helpt een ecosysteem van componenten en tools te creëren.

Ecosysteem: Een samenhangend, evenwichtig, en (in grote mate) zelfregulerend geheel van onderdelen die met elkaar en hun omgeving een wisselwerking hebben.

Door de standaardisatie en modulariteit van dit ecosysteem kunnen implementatie, opschaling en management van containers automatisch gebeuren, en kunnen ze verplaatst worden naar andere omgevingen (public, private, hybrid en multi cloud). Dit verlicht de lasten van het draaien van applicaties in clouds enorm.

IT-ers kunnen profiteren van de efficiëntie en eenvoud die Kubernetes ze biedt met dit ecosysteem. Een groot deel van de complexe taken m.b.t. het creëren en beheren van containers, die voor veel bedrijven gelijk zijn, is vereenvoudigd door Kubernetes. De IT-ers hoeven daar nu veel minder aandacht aan te besteden, waardoor ze zich kunnen focussen op het bijschaven en perfectioneren van de omgeving voor de unieke eisen van hun bedrijf.

Features

Hierbij een aantal zaken die Kubernetes al slim voor je heeft ingeregeld:

• Automatisch binpacking: Je kan specificeren hoeveel CPU en geheugen elke container nodig heeft. De 'scheduler' kan dan beslissen op welke nodes de containers te plaatsen. Zo kunnen containers automatisch geplaatst worden op basis van hun resource behoeften, zonder beschikbaarheid op te offeren. Diverse workloads kunnen met elkaar gemixt worden, om optimaal en efficiënt gebruik te maken van de resources.
• Automatisch horizontaal schalen: Je kan je applicaties, indien gewenst, automatisch schalen aan de hand van CPU gebruik. 
• Automatische rollouts en rollbacks: Veranderingen in je applicatie of de configuratie worden progressief uitgerold. Terwijl dit gebeurt wordt de gezondheid van je applicatie gemonitord. Mocht er iets mis gaan, dan draait Kubernetes de verandering voor je terug. 
• Automatische storage orkestratie: Je kunt automatisch een storage systeem naar keuze laten opstellen.
• (Automatische) Self-healing: Herstart containers die falen, vervangt en herschikt containers als nodes stuk gaan, doodt containers die niet reageren op jouw gebruikers-gedefinieerde health-check, en biedt ze niet aan aan klanten totdat ze daar klaar voor zijn.

Merk vooral het woord 'automatisch' in elk van deze features op. Zo zie je, ook Kubernetes draagt bij aan de overgang van IT operatie naar IT innovatie. Standaardiseer wat gestandaardiseerd kan worden en automatiseer wat geautomatiseerd kan worden met behulp van systemen die hier speciaal op ingericht zijn. Dan kan jij je focussen op hetgeen waar jij het verschil maakt.