Hoofdcategorieën

Fotoverslag serververhuizing

Door Femme Taken, woensdag 4 juli 2007 23:46, views: 40.710

Zoals je vermoedelijk nog kan herinneren heeft vorige week zaterdag een verhuizing plaatsgevonden van de Tweakers.net-servers. Het serverpark werd verplaatst van Redbus naar de colocatiesuite van True in het datacenter van EUNetworks. De serververhuizing was een succes, niet alleen omdat alle spullen behalve een nieuwe loadbalancer na de verhuizing weer werkten, maar ook omdat jullie lieve kijkbuiskinderen zo hebben genoten van onze verrichtingen op de webcams. De serververhuizing zorgde ervoor dat er zaterdag wat minder nieuws werd geplaatst dan normaal. Niet getreurd, het nieuwsaanbod was namelijk zo schraal dat Webwereld het nodig vond om over onze webcamavonturen te berichtgeven.

De concrete werkzaamheden aan de serververhuizing begonnen, na enkele maanden van voorbereiding, op dinsdag 19 juni toen de nieuwe racks uit hun verpakking werden gehaald en de vier APC Masterswitches werden geïnstalleerd. De nieuwe racks in EUNetworks beschikken over elk twee powerfeeds met per rack een stroomsterkte van 14 ampère in plaats van de 8A waar we het in Redbus mee moesten doen. Dat laatste was een probleempje omdat ons rack een stroom van 21 ampère trok. In het rack worden verticaal georiënteerde Masterswitches gebruikt die aan beide zijden van het rack zijn gemonteerd. Hiermee beschikt elke apparaat met dubbele voedingen over een redundante stroomvoorziening die door verschillende feeds wordt verzorgd.

Een week later werden de switches geïnstalleerd en twee nieuwe servers opgehangen. Tevens werden in een naastgelegen rack twee afgedankte webservers opgehangen die de webcamstreams tijdens de verhuizing zouden gaan serveren. True had twee webcams opgehangen in Redbus en EUNetworks zodat de verhuizing live bekeken kon worden. De nieuwe switches zijn van het type HP Procurve 2900-24 en zijn voorzien van een viertal 10GbE-poorten waarmee een 20Gbit-verbinding tussen de twee racks is opgezet.

Op zaterdag 30 juni om half tien begon het echte werk. De site werd vervangen door een tijdelijke pagina waar de verrichtingen tijdens de verhuizing in tekst en beeld gevolgd konden worden. Vervolgens werd er begonnen met het afbreken van het rack terwijl de database- en fileservers aan het werk werden gezet om een backup te draaien. Na de nodige moeite en pijn - zowel Daniël als Kees liepen snijwonden op - lagen de servers rond kwart voor twaalf in de auto's en werd Redbus verlaten. Arethusa bleef achter om de tijdelijke pagina te serveren.

Serverhuizing 30 juni 2007: Eerste servers verwijderd uit Redbus
De eerste servers worden verwijderd uit het oude rack

Serverhuizing 30 juni 2007: Oude rack
Oude rack

Serverhuizing 30 juni 2007: Kabelbende
Kabelbende in oude rack

Serverhuizing 30 juni 2007: Bloed op de datavloer
Bloed op de datavloer!

Serverhuizing 30 juni 2007: Transport

Serverhuizing 30 juni 2007: Transport
Transport

Serverhuizing 30 juni 2007: Stationwagenfleet
Tweakers.net stationwagenvloot

Drie kwartier later lagen de servers op de vloer van EUNetworks en kon begonnen worden met de opbouw van de nieuwe racks. Het ophangen van de servers nam ongeveer anderhalf uur in beslag. Vervolgens moest er gewerkt worden aan het aanleggen van de netwerk- en kvm-kabeling. Als laatste werden de stroomkabels aangesloten, waarna de servers één voor één geboot konden worden. Daarna moest de netwerkconfiguratie gewijzigd worden zodat de site vanuit EUNetworks geserveerd kon worden. Tot dat moment hadden zich geen hardwarematige problemen voorgedaan en de leek de verhuizing met succes afgerond. Helaas bleek in de avond dat nieuwe loadbalancers niet helemaal lekker waren. Inmiddels zijn beide oude loadbalancers, waaronder één waar Daniël tijdens de verhuizing nog op heeft staan stampen, weer in gebruik genomen om tijdelijk soelaas te bieden. De nieuwe loadbalancers, gebaseerd op PowerEdge 860-machines van Dell, klappen er zonder aanwijsbare reden binnen een half uur uit.

Serverhuizing 30 juni 2007: Servers aangekomen in EUNetworks
Servers aangekomen in EUNetworks

Serverhuizing 30 juni 2007: Eerste servers in EUNetworks
De eerste servers gaan de nieuwe racks in

Serverhuizing 30 juni 2007: Hylke en Kees
Daniël en Kees bezig met prutsen

Serverhuizing 30 juni 2007: Stroomkabels

Serverhuizing 30 juni 2007: Daniël bezig met stroomkabels
Daniël deed nuttige dingen met de oude stroomkabels

Serverhuizing 30 juni 2007: Daniël stampt op loadbalancer
...en misbruikte vervolgens een oude loadbalancer

Serverhuizing 30 juni 2007: Hylke en Kees
Hylke en Kees nog steeds aan het prutsen

Serverhuizing 30 juni 2007: Rack voorzijde
Voorzijde racks

Serverhuizing 30 juni 2007: Database-servers
Database-servers

Serverhuizing 30 juni 2007: Achterzijde racks
Achterzijde van beide racks

Serverhuizing 30 juni 2007: KVM-switch
KVM-switch

Serverhuizing 30 juni 2007: KVM-switch poorten
KVM-poorten

Serverhuizing 30 juni 2007: KVM-switch slaafje
KVM-slaafje

Serverhuizing 30 juni 2007: Powerbar
7,5 ampère op één van de vier powerbars

Serverhuizing 30 juni 2007: Werkplek
Vanaf deze uiterst flexibele mobiele werkplek werd de tijdelijke site geupdate

Serverhuizing 30 juni 2007: True ColoCandy
De ColoCandy-automaat bood versnaperingen zoals utp- en seriële kabels

Serverhuizing 30 juni 2007: HP droomrack
Nu nog even doorsparen...

De plaatsing van de nieuwe Artemis, de database-server van de mainsite, is voor onbepaalde tijd uitgesteld omdat ook deze machine wazige problemen heeft. Dit systeem is gebaseerd op een Dell PowerEdge 1950 met een MD1000 diskarray, vergelijkbaar met wat we voor de forumdatabase gebruiken.

Volgende 11:21
Vorige 17:16

Reacties

«  1  2  3  4  »

Nice pics Femme, en die laatste foto :9~

Weten jullie ook van wie die laatste racks zijn?

Wel super die versnapperingsmachine :P

[Reactie gewijzigd door ThaNetRunner]


Geen idee van wie ze zijn maar het was wel hét faphoekje van de colo. Twee bladechassis en twee van die EVA-achtige san-controllers met in totaal 72 stuks 300GB 10K fibre channel schijven. Verder nog een paar 2U en 1U doosjes met 2,5 inch sas-schijfjes en een tape robot. Was goed over nagedacht en zat een fijn budget achter :) .

[Reactie gewijzigd door Femme]


Waar ik mijn thesis doe zijn er grote IBM racks vol met fibre channel schijven. Dat zijn nog meer racks volledig vol met schijven :p Als je tussen de racks stapt wordt het behoorlijk warm (zelf met een airco die er recht op blaast)

Dat zijn inderdaad leuke setups, ik weet er nog ergens eentje staan met een grote eva, een hoopje blade chassis die vrij aardig gevuld zijn, ondertussen wel verschillende generaties.

Die draaien 90% vmware esx, en dan nog es x2 in 2 fysiek gescheiden datacenters, mooi allemaal.

Maar anderzijds kom je soms ook prehistorie tegen maar dat zal dan wel meer in prive datacenters/suites zijn.

Maar leuk verslagje en moge de dell doosjes snel het gezelschap vervoegen.

daar is mijn homeserver dus helemaal niets bij :+

verder nice job, was grappig om jullie te zien prutsen en dan natuurlijk nog ff alles terug te lezen...

[Reactie gewijzigd door tuxdapinguin]


Lijkt onze machines wel van Ordina Oracle Solutions :) We hebben een aantal van dit soort EVA's en de nieuwe generatie EVA's (i.c.m. blade-enclosures) draaiende voor diverse klanten en tape-robots zoals deze op de foto. Voor zover ik weet kost het een paar centen, maar maakt het dagelijkse beheer een stuk fijner. De tape-robots (incl. barcode scanner) is dan puur bedoeld voor archivering, waarbij de EVA's als harddisk-to-harddisk backup wordt gebruikt.

Het grappige aan de nieuwe generatie storage units is dat als er een harddisk uitvalt, dat HP automatisch door de controller op de hoogte wordt gebracht. Staat er ineens een koerier met een nieuwe 300GB harddisk zonder dat wij al iets hadden geconstateerd :) Erg handig!

[Reactie gewijzigd door pSycho-Y2K]


Staat er ineens een koerier met een nieuwe 300GB harddisk zonder dat wij al iets hadden geconstateerd :) Erg handig!
of je even betalen wilt voor iets waarvan je niet wist dat het kapot was ;)

Wat vindt TRUE ervan dat jullie zonder toestemming van de eigenaars van de apparatuur er foto's van maken? Meestal wordt dit niet gewaardeerd en is het ook niet toegestaan.

True vond dat we overal foto's van moesten maken ;)

Nu nog een totaal overzicht (voorzijde)!
Die colocandy is wel grappig, hehe.
Overigens is er wel een vaag effect gebruikt bij de foto's ... :o

[Reactie gewijzigd door Tyson]


een fishbowl lens volgens mij heet zo'n geval.

maar hebben de oorlogsslachtoffers (daniel & kees) er nog leuke littekens aan overgehouden die ze kunnen laten zien aan hun kinderen als ze bij het haardvuur zitten en oorlogs verhalen vertellen???

en inderdaad een overzichtsfoto van beide racks met een namen lijstje erbij zou wel leuk zijn.

Fisheye lens bedoel je :)

De lens is een vrij extreme groothoek (Sigma 10-20mm) die je daar wel nodig hebt als je een rack er compleet op wilt krijgen van korte afstand.

[Reactie gewijzigd door Femme]


Geen wonder dat t.net eruit lag, alle blauwe utp kabels hingen hopeloos in de lucht.

die blauwe kabels zijn voor onze backupswitches die nog niet geplaatst zijn omdat die op dat moment nog in Redbus hard nodig waren :)

waaaaaaaaaat, dikke Alpina, woow man bij tweakers.net verdiend men lekker geld :D

De beste man heeft ook nog een Z4 Alpina en een E90 330i... ;)


Die "dikke Alpina" hier op de foto's was 2e-hands en zoals je aan het kenteken kan zien al vrij oud, die Z4 (ding heet Alpina Roadster) was 2e-hands, hoewel dan nog niet goedkoop, die 330i is een leaseauto.
En zoals je natuurlijk weet werd tweakers.net een tijd terug overgenomen door VNU en uiteraard moesten zij daarvoor de aandelen van de eigenaren kopen. Dat soort dingen levert in een keer meer geld op (ze kopen ook de naam, toekomstverwachtingen, etc, dingen die niet bepaald op de balans staan) dan in een paar jaar loon, dus echt gek is het niet dat met name Femme nu de vruchten daarvan kan plukken.

Dat heeft op zich niet zo veel met "dik geld verdienen" te maken, ik - en de meeste andere medewerkers - kan me dat soort auto's echt niet zomaar permiteren, ondanks dat ik ook niet slecht betaald krijg. :)

Maarreuh, blijkbaar gun jij iemand die zoveel moeite heeft gedaan om een site van dit formaat uit de grond te stampen geen beloning voor die moeite (en daar in het begin uiteraard behoorlijk op toegelegd heeft zonder de zekerheid te hebben dat het uberhaupt wat zou worden)?

Dat is de mening van iemand die de prijs van hard werk nog niet zo goed kan inschatten denk ik. Het merendeel van de "oudere" tweakers zullen denk ik geen enkel probleem hebben met het feit dat Femme het financieele schouderklopje krijgt, wat hij na al die jaren ruimschoots verdient heeft! HULDE! :)

Hehe, wel grappig dat jullie dit gewoon zelf doen met eigen autootjes. Menig ander bedrijf zou het uitbesteden aan gespecialiseerde verhuisbedrijven met gepantserde vrachtwagens en de boel verzekeren voor duizenden euro's premie ;)

[Reactie gewijzigd door Palomar]


pff, where's the fun in that? :P

We hebben het hier wel over tweakers heh :Y)

Jij bent zeker ook zo'n kantoorpipo die altijd moeilijk doet (no offence) :+ ? Het spul draait nu, niet zeuren :P

Uh... ik heb zelf ook menigeen serververhuizing van een grote ICT er gedaan, en dat gaat in 80% van de gevallen in eigen autotjes of gehuurde trucks.. Heb het wel 's door een verhuizer laten doen, maar die flikkeren de servers in grote dozen met wat canvas rotzooi erin en dan zeggen ze 'speciaal vervoer'...

Prima verhuizing!! ROFL om die bloedvlek en vooral die candy-automaat!!!
IT-nerd heaven!!! :D :D

ach.. "buitendedeur" verzekering van interpolis he ;)

Ok, met volle gewicht op loadbalancer. Mooi in beeld, prachtig. Bewijs geleverd en het gebeurde is erkend. Rest de vraag:

Waarom dan toch :?

Verder: de kabels zijn nu beter in systeem. Volgorde, plaats, laag voor laag aangebracht, netjes gebundel. Maar het blijft toch een kabelboom. (er lijkt ook nog zo'n groene utp best wel gespannen te staan, maar kan het niet goed zien.)

Wel opvallend dat jullie nog best veel ruimte over hebben nu, maar ondanks betere voorziening hier niet zoveel stroom meer :/

Edit: ik lees mijn post terug, en hij klinkt negatief, en dat terwijl ik meer met grote bewondering kijk naar het beheer van al die verschillende servers. Jullie maken het zo mooi en netjes als het te maken valt zover ik kan zien _/-\o_

[Reactie gewijzigd door ram.con]


Ok, met volle gewicht op loadbalancer. Mooi in beeld, prachtig. Bewijs geleverd en het gebeurde is erkend. Rest de vraag:

Waarom dan toch :?
Die loadbalancers waren de schuld van het feit dat we zo'n 8 uur gekloot hebben gehad vlak na de introductie van Tweakers.net NG, waardoor we nu nieuwe loadbalancers hebben (die atm ook raar doen, maar da's weer een ander verhaal).

Oftewel: wij waren die oude loadbalancers nogal zat, en Daniel had de keuze tussen erop gaan staan of eroverheen te rijden met z'n auto, blijkbaar koos 'ie voor het eerste.

En het waarom..waarom niet? Het is niet alsof het top of the line hardware is, het is een pisbakken-stalen rukkast die doorgebogen is geraakt in de loop van de jaren, er zit een paupere celeron processor in en 512MB intern geheugen. Als het in een gewone desktopkast zou zitten hadden de meeste tweakers hem allang aan de stort gedoneerd ;)

Ochja, blijkbaar kunnen ze wel de load van Daniel in de echte wereld teminste ook nog gewoon balancen ;)

Als het in een gewone desktopkast zou zitten hadden de meeste tweakers hem allang aan de stort gedoneerd.
Zo snel gooien echte tweakers hardware niet weg.
Ik zou daar nog vanalles mee doen. :)

Wou net zeggen, ik heb hier als hobbie/rommel machine een Compaq Deskpro 2000 (Pentium 1/133mhz /64mb /10gb) staan.
fungeerd nu als honeypot machine, grootste lol heb ik ermee, laag in stroomverbruik, stil (passief gekoeld) en staat niet in de weg.


Woei, prachtige foto's van onze geliefde admins in actie. Je staat er weer mooi op te prutsen Hylke. ;)

Wat is die bloedvlek overigens verdacht rond?! Geen kogelgaten in de buurt? ;)

Mooie kleine, ronde bloedvlek betekent dat de druppel bloed uit een (vrijwel) stilstaande bron kwam, met weinig snelheid, ik denk dat we een kogelgat wel mogen uitsluiten ;)

Verder mooie sfeerimpressie :9~

We hebben een CSI kenner ;)

of hij is een fanatieke gamer, want bij al die rond vliegende kogels zie je geen ronde bloed spatten ;) hmmm ik heb het gevoel dat ik uit ervaring spreek |:(

Ach, het is niet de eerste keer dat ik bloed heb zien vloeien op de Redbus locatie :).

Niet alleen op Redbus.. Elk datacenter zal het wel zijn.

Die rackmoeren zijn vlijmscherp als je niet oplet haal je zo je vinger open...

Sommige verticale stijlen zijn ook zo scherp als wat, vooral als ze van aluminium zijn. En die kooimoeren zijn soms idd vlijmscherp.

En onder de vloeren zijn ook genoeg plekken waar je je vingers aan kan snijden, geeft een leuke combi met windkracht 6 onder de vloer :'( .

Ons bedrijf is ook, weliswaar een poosje geleden, ook verhuist van RedBus naar euNetworks. Geloof me bij een grote hoeveelheid servers die je moet verhuizen, in een rap tempo (dus zo min mogelijk downtime voor de klanten), bezwijken je handen wel hoor. :P

euNetworks is toch een stuk beter in haar voorzieningen als RedBus, niet alleen qua stroomverbruik, maar ook qua koeling.

:D

Blijkt wel weer dat haastige spoed toch zelden goed is :'( . Waren zeker wel veel servers dan? Heb er inmiddels aardig wat voorbij zien komen, in- en uitgaand.

Staat het "Red" in Redbus ook nog ergens voor he. ;-)

Staat daar nou "Apollo slet" op die sticker?

Er staat "Apollo slot".

Er staat wel degelijk Apollo slet... Alle externe storage-bakken worden 'hoofdbak'-slet genoemd bij tweakers.net.

Eerst nadenken, dan spreken. Geldt dubbel als je andere mensen verbetert :)
«  1  2  3  4  »

Op dit item kan niet meer gereageerd worden.

Volgende 11:21
Vorige 17:16
VNU Media logo Powered by True

© 1998 - 2008 Tweakers.net - Alle rechten voorbehouden

Uitgever van: