Hoofdcategorieën

Upgrade Tweakers.net server cluster

Door Femme Taken, maandag 12 maart 2001 16:15, views: 5.759

Zoals je waarschijnlijk hebt gemerkt, heeft Tweakers.net de laatste weken met nogal wat server problemen te kampen. De oorzaak van deze probs ligt bij overbelasting van de database server en in mindere mate overbelasting van de webservers. Deze zijn op hun beurt het gevolg van de stijgende bezoekersaantallen en de toegenomen complexiteit van de website. Grapjes zoals de uploadbare user icons op het forum en de groeiende omvang van de database maken deze server hobby steeds serieuzer.

De specifieke oorzaak van de database problemen is op het forum al een aantal keren uitgelegd. In het kort komt het erop neer dat MySQL onder FreeBSD 4 niet effectief gebruik kan maken van de twee CPU's in de database server. Beide processors worden wel gebruikt, maar niet tegelijkertijd. Tot voor kort was dit geen groot probleem omdat de maximale load vrijwel nooit werd bereikt, maar sinds enkele weken zat Artemis regelmatig boven de 85%. MySQL draait in principe erg snel en stabiel zolang de performance van de hardware voldoende is. Zodra de CPU belasting tegen z'n max komt, kun je echter reken op een hoop ellende en dat is wat wij hier de laatste weken hebben meegemaakt.

Zeker de laatste paar dagen ontvangen we veel klachten over met name het forum. Vooral in de piekuren trekt de hardware het maar net, wat nogal wat timeouts, document contains no data en andere meldingen geeft. Deze situatie zal tot onze spijt nog tot volgende week aanhouden. Pas dan verwachten we alle nieuwe serverhardware (zie hieronder) bij elkaar en installatieklaar te hebben. Tweakers.net beschikt helaas niet over de financiële mogelijkheden voor bliksemsnelle (en dus ook kostbare) software- en hardware upgrades. Roeien met de riemen die we hebben, zogezegd.

Onder Linux kan MySQL wel onzinloos van beide processors gebruik maken, alleen werkt de door ons gebruikte Adaptec 3200S RAID controller - ondanks de vermelding van (Red Hat) Linux support op de Adaptec site - niet onder Linux. Hierdoor was het niet mogelijk om Linux op de database server te gebruiken.

Als tijdelijk oplossing voor dit probleem draaien er sinds vorige week twee MySQL daemons op de database server. Met behulp van external file locking maken deze twee mysqld's gebruik van dezelfde data. Dit trucje heeft de load problemen weliswaar vrijwel geheel opgelost, maar heeft tevens nieuwe problemen geïntroduceerd die tot gevolg hebben dat MySQL zichzelf regelmatig ophangt.

Achter de schermen zijn we al enkele weken bezig om een structurele oplossing te regelen voor deze onprettige situatie. Zowel aan de kant van de database server als webservers wordt de capaciteit op korte termijn flink uitgebreid. Het MySQL SMP probleem zal gefixt worden door Artemis om te switchen naar Linux. Om dit mogelijk te maken wordt de Adaptec RAID controller vervangen door een AMI MegaRAID Elite 1500. Deze full-length dual Channel Ultra160 SCSI controller heeft een 100MHz i960RN I/O processor, 64-bit PCI support en 32MB ECC cache. American Megatrends heeft al jaren Linux support en heeft daardoor meer ervaring op dit gebied dan Adaptec, dat voor de overname van DPT zelfs helemaal geen RAID controllers met Linux support in het assortiment had.

De downtime als gevolg van de Linux upgrade zal meteen worden aangegrepen om de twee PIII-733's te vervangen door 1GHz exemplaren. Dit geeft ons wat extra ruimte voor de toekomst en biedt meer overhead bij de sporadische load pieken die MySQL onstabiel maken.

De performance van het webserver cluster wordt meer dan verdubbeld door de plaatsing van twee nieuwe servers. De nieuwe machientjes hebben een 1 en 1,2GHz Tbird met 512MB RAM en een 2U rack als behuizing. Tevens wordt de Athlon Classic 800 in Athena vervangen door een 1GHz Thunderbird. Athena gaat MySQL replication draaien als dat betrouwbaar blijkt te werken.

* Server specs

De configuratie van de servers zal er na de komende upgrade als volgt uit zien:

ArtemisAphroditeAthenaOdinArshia
OSLinux 2.4FreeBSD 4.2Linux 2.2FreeBSD 4.2FreeBSD 4.2
CPUDual PIII 1000Tbird 1000Tbird 1000Tbird 1000Tbird 1200
MoboSuperMicro 370DLEMSI K7T Pro2AMSI K7T Pro2AMSI K7T Pro2AMSI K7T Turbo
RAM1,5GB PC133 ECC Registered512MB PC133768MB PC100 ECC512MB PC133512MB PC133
I/OAMI MegaRAID Elite 1500Adaptec 29160Adaptec 29160VIA 686BVIA 686B
HDD4x Seagate Cheetah X15 18,4GBIBM Neptune 9,1GB3x IBM Neptune 9,1GBMaxtor 7200rpm 15GBMaxtor 7200rpm 20GB
VideoN/AATi Rage3DDiamond Viper V330N/AN/A
Netwerk2x 3Com
1x Intel
2x 3Com2x 3Com2x 3Com2x 3Com
Rack4U CI Design4U4U2U2U

Binnen twee weken verwachten we de nieuwe server hardware te kunnen plaatsen in de server ruimte van Vuurwerk Internet. De upgrade van de database server zal een onvermijdelijke downtime met zich meebrengen. Tezijnertijd volgen hierover meer details.

- Femme & Rick

* Leveranciers & sponsors

De AMI RAID controller werd geleverd door SWW Computer, de 2U kastjes werden via Silverpoint.nl aangeschaft, MSI Computer stelde ons de Socket A mobo's ter beschikking en AMD was bereid om de processors voor de webservers te sponsoren. Ook konden we weer rekenen op de hulp van onze server sponsor CompTech World. De moederplank die sinds december in de database server wordt gebruikt, is ter beschikking gesteld door SuperMicro BV. Verder zijn we Vuurwerk Internet natuurlijk erg dankbaar voor het ter beschikking stellen van bandbreedte en rackspace.

* Pics server upgrade 8 december

Voor de geïnteresseerden heb ik hieronder de foto's gepost die jullie nog te goed hebben van de vorige server upgrade op 8 december:

Server upgrade #3: Dual PIII (klein) Server upgrade #3: Appie Athlon 1 (klein) Server upgrade #3: Appie Athlon 2 (klein)
Server upgrade #3: Appie Athlon 3 (klein) Server upgrade #3: Appie ombouw 1 (klein) Server upgrade #3: Appie ombouw 2 (klein)
Server upgrade #3: Artemis (klein) All Your Base Are Belong to Us Server upgrade #3: Athena (klein)
Server upgrade #3: DIMMen (klein) Server upgrade #3: Ingang (klein) Server upgrade #3: NOC 1 (klein)
Server upgrade #3: NOC 2 (klein) Server upgrade #3: NOC 3 (klein) Server upgrade #3: NOC 4 (klein)
Server upgrade #3: Rack 1 (klein) Server upgrade #3: Rack 2 (klein) Server upgrade #3: Rack 3 (klein)
Server upgrade #3: Rack 4 (klein) Server upgrade #3: Rack 5 (klein) All Your Base Are Belong to Us
Server upgrade #3: Rack 6 (klein) Server upgrade #3: Rack 7 (klein) Server upgrade #3: Rack 8 (klein)
Server upgrade #3: RAID controller (klein) Server upgrade #3: Reliance chipset (klein) Server upgrade #3: SCSI bays (klein)
Server upgrade #3: Sun E450 (klein) Server upgrade #3: Swap bay (klein) Server upgrade #3: Switch (klein)

* Gerelateerde .plans

Volgende 22:01
Vorige 09:13

Reacties

«  1  2  3  »

Ik heb zelf de ami megaraid express200 de u2w versie. ding draait perfect!! succes

Opvallend dat in Athena de Adaptec wel zou werken. Zal we een typo zijn.

De 29160 is geen RAID controller.

Sorry, ik had eroverheen gelezen. Ik was er te snel van uitgegaan dat de Adaptec in de FreeBSD-machine geplaatst was.

En wanneer gaan deze upgrades gebeuren, want ik zie dit nergens staan. Overigens wel beter, want gisteren was de databaseserver erg brak bezig.

Binnen twee weken verwachten we de nieuwe server hardware te kunnen plaatsen in de server ruimte van Vuurwerk Internet.
Staat er :).

Sorry, het is nog vroeg.

* 786562 taradino

"All your base are belong to us".. ROTFL!! :D :D :D

They set up us the bomb!

gehehhe humor!

Kan je daar ook een accountje op krijgen als je lief vraagt? ;)

Vraagje, ik weet dat het niet echt nodig is om een videokaart erin te hebben en dat het ook best wel krap wordt. Maar waarom geen videokaart? Als er wat mis gaat, is dat wel heel erg handig toch? En voor die fl50 hoef je het niet te laten.

De 2U server die wij gebruiken, heeft dan wel een onboard videokaartje, das wel handig. Aangezien ie een raisercardje heeft, waar een netwerkkaart en een 'raidcontroller' (adaptec...) inzitten, en dus eigenlijk geen plek meer is. Maja, laten we maar hopen dat freebsd stabiel genoeg is, zodat je het niet nodig hebt :)

Maar waarom geen videokaart?
Configgen kan ook via seriële interface.

Hehe... Dat was ik effe vergeten :)

Maar nog een ding dan. Ik weet niet zeker of FreeBSD er ook over valt. Maar als een partitie per ongeluk dusdanig gaar geworden is, dat de filesystemcheck hem niet meer in zijn eentje durft te bewerken. Dan kan je bij linux dacht ik nog niet remote/serieel inloggen toch? Kan dat bij FreeBSD wel dan, of valt ie nooit over corrupte partities? Of wordt de seriele interface wel voor de filesystems geladen?

Dat is toch dat je via de ene server kunt inloggen op de console van de andere?

Vanaf wanneer werkte dat? al voor het booten? (zodat je dus ff met lilo met een andere kernel kan booten als de nieuwe mislukt is ofzo :)), dat zou best handig zijn. Dan zou je in principe dus gewoon een OS opnieuw kunnen installeren zonder fysiek bij dat ding te zijn.

Werkt dat hardware of software gestuurd?

Dit is precies de reden dat ik zo gek ben op SUN. De output loopt direct over een seriële connectie, dus je kunt hem al bedienen voordat er een OS op draait.

Overigens heeft intel een aantal boardje die dit ook plegen te kunnen. In ieder geval is er tevens een Linux-applicatie die je in staat stelt remote de bios aan te passen. Deze boarden ziet niet eens zo gek duur. Ik meen zo'n Hfl. 2.800,- voor een bare-bone (1U rackmount + Moederbord).

Ha, als ik het goed lees staat er binnenkort een Athlon Classis 800 te koop!!! Daar heb ik dus wel interesse in ;) Het lijkt me wel wat om die ingereden proc. rustig wat koetjes te laten grazen op zijn 'oude' dag.....

hee, daar dacht ik dus ook net aan. hehe

Een zeer welkome upgrade lijkt me. Vooral het forum trok het niet helemaal meer de laatste tijd. Mijn complimenten aan degenen die al die hardware los hebben weten te krijgen!

Geen dank }>

* 786562 Daniel

Kun je uit de doeken doen, wat de tegenprestatie van Tweakers.net is naar AMD toe, oftewel wat voor deal/relatie heeft T.net met AMD?

Da's vrij simpel

Als je op T.net en GoT rondsurft zie je regelmatig een AMD logo onderaan of aan de zijkant staan. Da's alles

Ik denk ( en weet zeker ) dat mede door Tweakers.net en GoT de AMD verkopen flink zijn gestegen!

Procentueel gezien op de totale verkoop, zal dat wel meevallen. Maar dat de verkoop onder tweaker.net-bezoekers van AMD processoren gestegen is, komt niet zozeer door het plaatsen van AMD-logootjes op de site.

Meer door de positieve mond tot mond reclame!

nu begrijp ik ook waarom iedereen (onderwie mijn eigen persoontje) best wel AMD minded is, het word ons gewoon met de paplepel ingegoten ;) ;)

Zie voor een snelle mysql / apache / mail benchmark tussen Linux 2.2.4 en FreeBSD 4.1.1 op http://www.byte.com/column/BYT20010130S0010.

Daar gebruiken ze ook een dual CPU config.

Wat ik me dan afvraag is of de vorige upgrade niet goed ingeschat is of dat het echt een probleem met mysql betreft. Zeker gezien het feit dat de processoren e.d. nu al weer vervangen worden. Verder hoop ik uiteraard wel dat de probs opgelost zijn. Niet alleen voor ons als gebruikers maar ook zeker voor de t.net crew aangezien die er ook wel moe van zullen worden van alle probs.
In ieder geval SUC6

Die twee 733MHz PIII's kunnen de load (op dit moment) met gemak trekken als MySQL van beide procs gebruik kan maken. De prijs van 1GHz PIII"s is met bijna de helft gedaald tov november. Artemis was al een behoorlijk dure klus vanwege en nog eens extra 1500 piek voor 1GHz PIII's zat er echt niet meer in.

Aangezien de server bij de komende upgrade toch uit elkaar moet en 2x733MHz in de toekomst onherroepelijk te weinig zal zijn, is het een goed idee om meteen de CPU's te upgraden. De upgrade is nog niet noodzakelijk, maar wel verstandig.

Bovendien zijn we nu al weer 3 maanden verwijderd van de vorige upgrade. In de tussentijd zijn de bezoekersaantallen met 30% gestegen. Met deze groei moeten we gewoon om de 3-4 maanden hardware bijplaatsen.

Gezien de ruilhandel (reclame <-> hardware) die T.net met AMD bedrijft, zal het waarschijnlijk wel de laatste Intel-upgrade zijn die doorgevoerd wordt, in afwachting van een 760MP server-plankje. ;)

Tja, Intel wil met geen mogelijkheid processors supplyen. Vaak genoeg geprobeerd maar voorbij het PR bureau komt er geen reactie terug...

Mja, Intel zit dan ook in geheel andere positie natuurlijk. Bovendien zal een site met als naam en doelgroep Tweakers (lees: overklokkers) in Nederland, nou niet echt onderdeel uitmaken van Intel's PR/Marketing-beleid.

Maar ook een hoop andere (internationale) Tweak/hardware-sites (denk aan Onkel Tom) zullen op deze 'muur' stuiten, denk ik. Ze zullen zich niet richten op sites die er een sport van maken hardware te openen, solderen, overklokken, of soms vage testen uitvoeren (dit laatste is overigens niet als kritiek bedoeld ofzo, meer een algemeen bedoelde overweging). Het zal wel 'Company-policy' zijn om dit soort 'sponsoring' in strakke banen te leiden. Begrijpelijk, maar wel jammer natuurlijk.

________________________________________
edit: typo

Anand heeft een stuk of 6 of 8 IIRC Xeon 550s van intel kado gekregen. Dat valt dus ook wel mee. Hij heeft waarschijnlijk een kennis/vriend "on the inside" ;)

Als ik het goed begrijp gaan jullie dus op Apache #3 en #4 IDE hd's gebruiken en geen SCSI meer er in zetten? Waarom?

Is duur, levert geen merkbare snelheidsverbetering op. De webservers doen niets anders dan PHP scripsels draaien en statische files uit de disk cache serveren. Daar heb je geen SCSI voor nodig.

RAID 1 moet dan toch wel aan naar mijn mening. Kost geen zak voor IDE en spaart je een hoop gezeik uit. Voor als de HD crashed en je dus weer daar heen moet

En waarom zou er raid in moeten???
Er staan al 4 servers, dus als 1 uitvalt maakt dat niks uit toch?
De kans dat er van 4 servers 1van4 harddisks uitvalt, is een stuk kleiner dan de kans dat er van 4 servers 1van8 uitvalt (bij wijze van spreken dan, ik weet dat er meer disks inzitten).
Kost je meer, en levert je weinig extra redundancy op. Als een disk kapot is, moet je er toch wel heen... Of je nou die server tijdelijk uitzet maakt dan ook weinig uit...

Ja daar valt iets voor te zeggen maar.. voor zo weinig extra geld.. paar honderd piek ben je al uit de brand...

Dus gewoon doen!

PS ik zou hier niet van kunnen slapen als ik deze setups op mijn geweten had... IDE in een drukke server... hgrehbrhbh

RAID met de goedkope Highpoint controllertjes werkt niet onder Linux en FreeBSD. Goede redundancy hebben die dingen volgens mij ook niet, als er een harddisk dood gaat is er wel een mirror maar kan het nog steeds gebeuren dat de controller niet verder wil werken met 1 dooie schijf. IDE RAID controllertjes die wel werken onder FreeBSD en Linux zijn weer een stuk duurder. Bij elkaar zou dat de prijs van een webserver met de helft verhogen, wat ik nogal onzin vind omdat de webservers op zich al redundant zijn. In de toekomst is het zaak om voldoende overcapaciteit te hebben om problemen in het geval van een dode server te voorkomen.

Een goede IDE schijf is betrouwbaar en voldoende snel. Het is tegenwoordig normaal om IDE in webservers te gebruiken, dus daar zal wel reden voor zijn. Sun, Cobalt, VA Linux enz. gebruiken allemaal IDE in hun low-end (server) systemen.

pardon?
http://www.freebsd.org/releases/4.2R/notes.html :

... It also has support for ATA "pseudo"
RAID controllers, including the Promise Fasttrak and HighPoint HPT370
controllers. ...

Controller werkt wel maar ondersteunt dan geen RAID.

Niet dat je die dingen ueberhaupt kunt classificeren als "raid". Er bestaan wel echte IDE raid controllers, maar die beginnen bij 500 piek en upwards. Dat is echt helemaal nergens voor nodig zolang je genoeg redundancy in de webservers zelf hebt.
«  1  2  3  »

Op dit item kan niet meer gereageerd worden.

Volgende 22:01
Vorige 09:13
VNU Media logo Hosted by True

© 1998 - 2009 Tweakers.net - Alle rechten voorbehouden - Uw Privacy - Algemene Voorwaarden

Uitgever van: