Berichten met de tag ‘performance’

Virtualisatie: nu in een nieuwe verpakking

17 februari 2010 door Dick Tump

Stilstand is achteruitgang. Onder dat motto blijven we altijd weer ontwikkelen. Soms betekent dat vervanging van apparatuur, zoals de overstap naar Cisco apparatuur, maar soms is er ook op software niveau verbetering mogelijk. Zoals in dit geval het opnieuw uitvinden van virtualisatie.

We zijn enkele jaren geleden begonnen met virtualisatie op basis van Xen. Uiteraard hebben wij dit uitvoerig getest en we hebben de clusters op basis van Xen dan ook al een flinke tijd stabiel draaien. Waar klanten (gelukkig) niks van merken, is de beheerkant. Voor dit beheer zijn we momenteel deels afhankelijk van third-party tools. Na een tijdje kom je dan toch altijd kleine dingen tegen. Het betreft open source software, dus het is zelf aan te passen. Maar dat is weer lastiger met updates van de ontwikkelaars van de software. Je kunt ook losse dingen eromheen schrijven, maar dat komt het functioneren vaak ook niet ten goede.

Eind vorig jaar besloten we dat het tijd werd om alles opnieuw te bekijken. Na veel testen, is de keus gevallen op de virtualisatietechniek KVM en het ontwikkelen van eigen clustersoftware. Eigen software is makkelijker te combineren met bijvoorbeeld onze eigen beheer- & administratie-software en krijgen we daarnaast nog meer diepgaande invloed op onze clusters, wat weer handig is bij eventuele storingen.

Maar waarom geen Xen meer? Hiervoor waren eigenlijk meerdere redenen. Belangrijk was vooral dat Xen voornamelijk voor de, inmiddels verouderde, 2.6.18 kernel wordt ontwikkeld. Hierdoor missen vaak kernel modules voor de wat nieuwere hardware. De ontwikkeling van KVM lijkt wat actiever te zijn en meerdere Linux distributies hebben Xen ook de deur uitgedaan en vervangen door KVM. In Linux Debian Lenny zit wel een Xen kernel op basis van 2.6.26, maar we hebben tijdens onze testen deze niet volledig stabiel gekregen.

Verder hebben we met Xen ook andere kleine probleempjes. Zo gaat bijvoorbeeld een live migration (dus zonder downtime een virtueel systeem naar een ander fysiek systeem verplaatsen) niet altijd helemaal goed. KVM is op dit punt toch wel heel wat beter. Ook blijkt KVM iets betere performance te leveren dan onze huidige Xen opstelling.

Het grootste deel van deze ‘problemen’ is overigens niet aanwezig bij Citrix XenServer. Hierbij hebben we bijvoorbeeld zeer positieve ervaringen met live migration, op voorwaarde dat de software voor gastsystemen van Citrix geïnstalleerd is. Citrix XenServer heeft alleen weer als nadeel dat het wat minder open is en hierdoor veel meer afhankelijk bent van Citrix. Als oplossing voor onze klanten die zelf virtualisatie willen, is dat vaak geen probleem.

Het ontwikkelen van ons nieuwe cluster en bijbehorende clustersoftware heel wat manuren gekost.  Zo zijn onder andere het beheer van instellingen, toevoegen van virtuele systemen, ervoor zorgen dat er geen dubbele MAC adressen ontstaan in het netwerk, virtuele servers live migreren, de harddisks van een systeem kunnen vergroten en regelmatige automatische controles of alles nog wel correct draait,  enkele van de vele belangrijke beheer functies die onze clustersoftware moesten komen.  Ook klanten moesten meer controle krijgen over hun virtuele server, waaronder bijvoorbeeld het zelfstandig kunnen herstarten of via de console overnemen van een virtuele server zijn onderdelen die binnen ons klantensysteem ‘my.shockmedia.nl’ beschikbaar moesten komen.

Na veel ontwikkeling en testen is dan inmiddels ons nieuwe cluster, op basis van KVM en onze eigen clustersoftware, live gegaan. Nieuwe Virtuele Servers leveren wij dan ook per direct op vanuit ons nieuwe cluster.

Even de netwerk-capaciteit verdrievoudigen…

12 februari 2010 door Erik Jan Hofstede

Afgelopen jaren is er veel veranderd in de internet wereld. Bijna iedereen heeft een breedband internetverbinding, waarbij snelheden over 20 Mbit geen uitzonderingen zijn. Door deze contante groei, samen met de forse groei van Shock Media als service provider, is het nodig eens in de zoveel tijd de netwerk-infrastructuur goed onder de loep te nemen. Afgelopen maanden was het weer eens zover, waarbij we op de volgende punten gekomen zijn, die aan verbetering toe zijn:

  • Meer capaciteit
  • Meer controle over wat er op het netwerk gebeurt
  • Verbeterde redundantie
  • Verhoogde stabiliteit
  • Een beter te schalen netwerk, om later fysieke groei nog makkelijker te kunnen realiseren

CiscoMet dit pakket van eisen zijn we afgelopen maanden aan het testen geslagen met verschillende merken en types van apparatuur en we hebben een winnaar! We hebben besloten om onze core- en edge-apparatuur, wat op het moment van schrijven nog grotendeels bestaat uit 3Com apparatuur, te gaan vervangen door Cisco apparatuur. Dit gaat ons de mogelijkheid bieden om het netwerk op veel meer lagen te beheren en fors door te groeien. Onze netwerk-capaciteit wordt hiermee ook nog eventjes verdrievoudigd! Dit alles maakt het redelijk afschrikwekkende prijskaartje van Cisco ruimschoots goed.

Komende maanden zal deze conversie fysiek worden toegepast en alle core- & edge-apparatuur worden vervangen. Voor grootverbruikers is het vanaf volgende maand standaard mogelijk om een Gbit verbinding af te nemen op ons netwerk!

Op jacht naar meer performance

29 januari 2010 door Dick Tump

Een belangrijke bezigheid binnen Shock Media is de eeuwige jacht naar meer performance. Dit kan worden gerealiseerd door optimalisatie, maar soms bestaat er ook gewoon betere hardware. Een goede verbetering is bijvoorbeeld de Intel Nehalem processorarchitectuur met DDR3 geheugen. Maar dit keer gaat het om een nieuwe serie harde schijven, welke Samsung recent op de markt heeft gebracht. Hierbij geven ze de ongeloofwaardige claim dat ze 30% sneller zijn dan de vorige serie. Deze nieuwe serie, de Samsung F3 harddisks, zijn te krijgen in 500 GB en 1 TB formaat, twee formaten die veel worden gebruikt op dit moment.

Doordat de SATA schijven steeds sneller worden, zijn ze tegenwoordig ook voor de wat zwaarder belaste servers vrij interessant. Alhoewel SAS voorlopig voorlopig nog wel even de grote winnaar blijft, zeker omdat er geen SATA 15.000 rpm schijven zijn, is juist die combinatie van veel opslagcapaciteit, goede performance en de prijs bij veel situaties interessant.

Reden genoeg dus om deze schijven maar eens aan een aantal testjes te onderwerpen. Eerst sluiten we ze in RAID 1 aan op een Areca ARC-1200 controller, in een Windows server uitgerust met Xeon X3330 processor. Hierop draaien we ATTO Disk Benchmark:

Samsung F3 Benchmark

Samsung F3 Benchmark

Als je bedenkt dat er met de vorige serie schijven met erg veel moeite maar 130 MB/s uit te persen was, is een piek van ruim 180 MB/s wel een erg goede score.

Ook met tests onder Linux zien we mooie waarden terug. We hebben een Nehalem systeem uitgerust met software RAID 10. Linux MD RAID ondersteunt meerdere ‘layouts’, waaronder ‘far’, welke de data op verschillende ‘fysieke’ plekken van de disks op gaat slaan. Hierdoor zijn iets betere access tijden mogelijk en liggen de snelheden bij sequentieel lezen ook iets hoger. Als filesystem gebruiken we Ext4, want uit eerdere tests bij ons bleek al dat Ext4 net wat sneller is dan XFS en veel sneller dan Ext3. We limiteren het systeem op 1 GB RAM, om veel caching te voorkomen.

We doen een reboot, om te voorkomen dat er data in de cache staat en voeren een simpele leestest uit:

8589934592 bytes (8.6 GB) copied, 20.523 s, 419 MB/s

Dit zijn toch wel zeer hoge snelheden, zeker voor een vrij goedkope oplossing, omdat het alleen vier SATA schijven met software RAID betreft. Ook een test met bonnie++ geeft mooie waarden terug:

Version 1.03c       ------Sequential Output------ --Sequential Input- --Random-
                    -Per Chr- --Block-- -Rewrite- -Per Chr- --Block-- --Seeks--
Machine        Size K/sec %CP K/sec %CP K/sec %CP K/sec %CP K/sec %CP  /sec %CP
test1            8G 95563  99 206199  27 74990  13 75902  91 357054  25 218.00

Eigenlijk kunnen we alleen maar concluderen dat voor SATA systemen de nieuwe Samsung schijven de beste keus zijn, althans op dit moment. Want andere fabrikanten zitten natuurlijk ook niet stil. Alleen voor de echte high performance servers, zoals zware database systemen, zullen we toch SAS moeten blijven gebruiken.

Version 1.03c       ——Sequential Output—— –Sequential Input- –Random-
-Per Chr- –Block– -Rewrite- -Per Chr- –Block– –Seeks–
Machine        Size K/sec %CP K/sec %CP K/sec %CP K/sec %CP K/sec %CP  /sec %CP
test1            8G 95563  99 206199  27 74990  13 75902  91 357054  25 218.00
——Sequential Create—— ——–Random Create——–
-Create– –Read— -Delete– -Create– –Read— -Delete–
files  /sec %CP  /sec %CP  /sec %CP  /sec %CP  /sec %CP  /sec %CP
16 +++++ +++ +++++ +++ +++++ +++ +++++ +++ +++++ +++ +++++ +++
test1,8G,95563,99,206199,27,74990,13,75902,91,357054,25,218.0,0,16,+++++,+++,+++++,+++,+++++,+++,+++++,+++,+++++,+++,+++++,+++