Door Daniel Kegel

Tweakers.net serverpark

14-12-2002 • 02:40

87

Tweakers.net Serverpark

Disclaimer: Onderstaande informatie is ernstig verouderd en beschrijft de situatie medio 2006. Het stuk blijft enkel bewaard uit nostalgische overwegingen.

Met de huidige omvang van de Tweakers.net zal het je niet verbazen dat deze site een half legertje aan servers nodig heeft om hoog te worden gehouden. Sinds mei 2000 wordt het websitetje gehost op eigen servers en daarvoor werd gebruik gemaakt van een dedicated server bij Rackspace. In een nog verder verleden draaide Tweakers.net op een virtual hosting accountje van Pair Networks, maar gelukkig voor Pair is dat al lang niet meer het geval . Na ruim een jaar door Vuurwerk Internet te zijn gehost, verhuisde Tweakers.net in juni 2001 naar True. In het najaar van 2004 volgde een verhuizing naar Redbus. Onze boerderij omvat inmiddels 15 servers, 2 netwerkswitches, 4 masterswitches en een rackmountable LCD-KVM switch met IP-connectiviteit.


* Colocatie en bandbreedte

De colocatie en bandbreedte voor onze servers wordt volledig gesponsord door True. De servers bevinden zich in de serverruimte van True in Redbus Interhouse te Amsterdam. Dankzij de samenwerking met True beschikt Tweakers.net over een supersnelle en bovenal zeer betrouwbare internetverbinding. True heeft vele Gigabits aan bandbreedte beschikbaar, waaronder Gigabit verbindingen naar de AMS-IX, level(3), BNIX, Sprint en Lambdanet, waarnaast er een aantal 100Mbit verbindingen zijn naar bijvoorbeeld Lipex, MFN en Dynegy. Weinig Nederlandse webhosts bieden zo'n uitgebreide netwerkvoorziening. Het True netwerk draait op Extreme Networks routers en core-switches van onder andere Force10. Op de locatie Redbus wordt door True gebruikgemaakt van twee Force10 E600 coreswitches die onze servers van een redundante uplink van 1 Gbit voorzien. Deze E600's zijn kruislings verbonden met True corerouters op Redbus en True glasvezelring, waardoor de kans op downtime als gevolg van een defecte router tot een minimum wordt beperkt.

Redbus Rack

* Software

Alle servers draaien een Linux-distributie: de servers draaien een AMD64 of 32-bits versie van Debian of Slackware. Bij vervanging van servers zal Slackware worden vervangen door Debian. Als webserver wordt gebruik gemaakt van Apache. Tweakers.net is geprogd in de scripttaal PHP en gebruikt als database backend MySQL 4.1 met InnoDB support. Voor bepaalde taken wordt PostgreSQL gebruikt.
InnoDB wordt gebruikt voor de tabellen die baat hebben bij row-level locking en versioning. Een voorbeeld hiervan is de messages-tabel van het forum, die veel gelijktijdige lees en schrijf queries krijgt te verwerken. De overige tabellen zijn van het standaard MyISAM-type. De webservers worden geloadbalanced door een twee zelf geconfigureerde loadbalancers. De meeste software op de loadbalancer komt van het Linux Virtual Server project. Intern zijn de servers aan elkaar geknoopt via HP Procurve 2824 switch die beschikt over 24 Gigabit Ethernet poortjes. Als externe switch wordt eveneens een HP Procurve 2824 gebruikt zodat de hele gigabit uplink volgestampt kan worden.

* Hardware

Aanvankelijk gebruikten we met name servers met AMD processoren, deze konden we vrij eenvoudig verkrijgen door een goede verstandhouding met de heren (en dames) van AMD. Inmiddels gebruiken we een mix van AMD en Intel, waarbij afwisselend het ene merk, en dan weer het andere wordt gebruikt. Met in introductie van de op de Core 2 Duo-technologie gebaseerde nieuwe Woodcrest-Xeons heeft Intel de in de afgelopen jaren ontstane achterstand op het Opteron-platform in één keer goedgemaakt en omgezet in een behoorlijke voorsprong. De nieuwe Xeons zijn sneller, goedkoper en zuiniger dan gelijk geklokte Opterons.
Tenzij AMD dus binnenkort iets nieuws uit de hoge hoed weet te toveren zullen Xeons de komende tijd het leeuwendeel van onze nieuwe investereringen uitmaken.

Sinds eind 2003 is er flink geïnvesteerd in professionele hardware. De combinatie van (soms) gammele desktophardware en zelf geassembleerde rackmounts leverde zoveel onderhoudsproblemen en frustratie op dat het niet langer verenigd kon worden met het runnen van een professionele website. Zelfbouwservers hebben naast een financieel voordeel bij aanschaf wel zo hun charme, maar op het moment dat je een groot aantal zwaar belaste servers moet onderhouden is het erg vervelend. De beheerskosten rijzen al snel totaal de pan uit.

Inmiddels zijn er geen zelfbouwsystemen meer in ons serverpark aanwezig. Natuurlijk worden tussentijdse upgrades voor zover mogelijk nog wel door onszelf uitgevoerd. De huidige boerderij bestaat uit een mix van door leveranciers als Melrow en Betterservers.nl geassembleerde systemen op basis van Appro en Supermicro barebone rackmounts, en kant-en-klaar systemen van Dell en HP. Nu we onder VNU-vlag opereren kunnen we gebruik maken van de soms zeer gunstige inkoopcondities die bij een multinational horen, zodat deze machines binnen ons (financiële) bereik komen. Het doel is om in de toekomst steeds meer gebruik te maken van A-merk servers van zo mogelijk hetzelfde type. Zo zullen binnenkort twee webservers worden vervangen door Dell Poweredge 1950's waardoor ze als vervanging van Apollo gebruikt zouden kunnen worden.

Voor de storage vertrouwen we op RAID-configuraties bestaand uit SCSI, SATA en SAS-schijven. Er worden verschillende schijven en controllers gebruikt, maar naarmate de tijd vordert zal een nieuwe standaard gezet worden. SCSI zal steeds verder in onbruik raken en vervangen worden door de flexibeler SATA en SAS-disks.
De Western Digital Raptor staat zeker in de nieuwere ADFD-smaak bekend als een zeer snelle en betrouwbare schijf. Door het kostenvoordeel ten opzichte van SCSI-disks van gelijke grootte kunnen er voor hetzelfde budget veel meer disks worden ingezet, wat zowel een hogere betrouwbaarheid als een hogere snelheid mogelijk maakt. Deze schijven worden in Aphrodite en Atlas aangestuurd door een SATA-RAID-controller van Areca. Deze tot voor kort relatief onbekende fabrikant produceert controllers op basis van Intel I/O-processors die zich kenmerken door extreem goede prestaties gecombineerd met een zeer uitgebreide featureset. Dat hier een wat hoger prijskaartje aan hangt nemen we dan maar voor lief.

*Netwerk-opzet

De opzet van het Tweakers.net-serverpark is vrij eenvoudig. Requests komen binnen via de loadbalancers (Anteros en Atropos), waarna ze worden doorgestuurd naar één van de vijf machines in de webserver-pool. Deze webservers zitten weer vastgeknoopt aan de twee main database-systemen, waarbij Apollo het GoT-forum verzorgt en Artemis de T.net-frontpage (Pricewatch, Nieuws etc.). Afbeeldingen en dergelijke worden geserveerd vanaf fileserver Atlas, terwijl Aphrodite de afhandeling van search-taken voor haar rekening neemt.
Naast deze productie-systemen is er nog een hele reeks aan ondersteunende servers. Webserver Asclepius is zodanig zwaar uitgevoerd dat deze ook ingezet kan worden als backup-database bij uitval van één van de productie-servers, Athena wordt gebruikt voor de lokale opslag van serverbackups en dan zijn er nog test/developmentserver Achelois, mailserver Adonis en IRC-server Arethusa.

*Uitbreidingen

Op dit moment wordt de vervanging van Apollo geconfigureerd. Bij deze server zullen voor het eerst database en verwerkingseenheid fysiek gescheiden worden. De Dell PowerEdge 1950-server wordt via een SAS-link aan een PowerVault MD-1000 disk-array geknoopt. In deze array hebben maar liefst vijftien 36 GB 15k rpm SAS-disks van Fujitsu een plekje gevonden. Samen met de 3 GHz Xeons en 16 GB geheugen ontstaat één van de snelste, zo niet dé snelste dual-processor server die op dit moment mogelijk is.
Als de nieuwe Apollo in gebruik is genomen zal een grote stoelendans worden uitgevoerd waarbij de oude hardware van Apollo (tijdelijk) als Artemis zal gaan fungeren, met een upgrade naar Opteron 280-processors. De oude Artemis wordt Asclepius en de oude Asclepius wordt doorgeschoven naar Achelois. Achelois wordt uit productie genomen.

  • Webservers

    Aeolus
    Processor Dual Intel Xeon 3,0 GHz
    Geheugen 1024MB PC2700 ECC Registered DDR SDRAM
    Moederbord Intel SE7520JR22D
    Chipset Intel E7525
    I/O Controller Intel ICH5
    Storage 80GB Sata Disk
    Netwerk 2x Intel 82546 Gigabit
    Video Onboard ATI Rage XL
    Rackmount MSI 1u
    Functie Webserver Tweakers.net & GoT


    Astraeus & Aphaea
    Processor Dual AMD Opteron 275 (dual core 2,2 GHz)
    Geheugen 2048MB PC3200 ECC Registered DDR SDRAM
    Moederbord Supermicro H8DAR-T
    Chipset AMD 8132
    I/O Controller AMD 8111 + Marvell 88SX6041
    Storage 2 x Western Digital Raptor 74GB
    Netwerk 2 x Broadcom 5704 GigE
    Video Onboard ATI Rage XL
    Rackmount Supermicro AS-1020A-TB 1U
    Functie Webserver Tweakers.net & GoT


    Argus
    Processor Dual Intel Xeon 2.8 GHz
    Geheugen 1024MB PC2700 ECC Registered DDR SDRAM
    Moederbord n.b.
    Chipset n.b.
    I/O Controller n.b.
    Storage n.b.
    Netwerk n.b.
    Video Onboard ATI Rage XL
    Rackmount n.b.
    Functie Webserver Tweakers.net & GoT


    Asclepius
    Processor Dual AMD Opteron 244 (1,8 GHz)
    Geheugen 4096MB PC2700 ECC Registered DDR SDRAM
    Moederbord n.b.
    Chipset n.b.
    I/O Controller n.b.
    Storage n.b.
    Netwerk n.b.
    Video Onboard ATI Rage XL
    Rackmount n.b.
    Functie Webserver Tweakers.net & GoT
  • Database servers

    Artemis
    Processor Dual AMD Opteron 246 (2,0GHz)
    Geheugen 4096MB PC2100 ECC Registered DDR SDRAM
    Moederbord Tyan Thunder K8S
    Chipset AMD-8000
    I/O Controller LSI Logic 320-2X 128MB BBU
    Storage 2x Seagate Cheetah 18XL 9,2GB SCSI RAID 1
    4x Seagate Cheetah 10K.6 36,7GB SCSI RAID 5 + hotspare
    Netwerk Broadcom BCM5704C dual channel gigabit
    Video ATi Rage XL
    Rackmount Appro 2128Hs
    Functie Database Tweakers.net


    Apollo
    Processor Dual Intel Xeon 3,0GHz
    Geheugen 16384 MB 667 MHz DDR2 FBD
    Moederbord n.b.
    Chipset n.b.
    I/O Controller Dell PERC5/E
    Storage 15x Fujitsu MAX3036RC, 36GB 15.000 rpm SAS
    2x Maxtor Atlas 10K V 73 GB 10.000 rpm SAS
    Netwerk n.b.
    Video n.b.
    Rackmount Dell PowerEdge 1950
    Dell PowerVault MD-1000
    Functie Database GoT
  • Fileserver

    Aphrodite
    Processor Dual Intel Xeon 3,8GHz
    Geheugen 8192 MB PC3200 ECC Registered DDR SDRAM
    Chipset n.b.
    I/O Controllers Areca ARC-1130
    Storage

    8 x Western Digital Raptor WD740GD

    Netwerk n.b.
    Video ATi Rage XL 8MB
    Rackmount Melrow QX312S 3U
    Functie Search-server


    Atlas
    Processor Dual Intel Xeon 3,4GHz
    Geheugen 6144 MB PC3200 ECC Registered DDR SDRAM
    Chipset n.b.
    I/O Controllers Areca ARC-1130
    Storage

    8 x Western Digital Raptor WD740GD

    Netwerk n.b.
    Video ATi Rage XL 8MB
    Rackmount Melrow QX312S 3U
    Functie Fileserver
  • Overig

    Arethusa
    Processor Dual Intel Xeon 2,4GHz
    Geheugen 1024MB PC2100 ECC
    Chipset ServerWorks GC-SL
    Storage 2 x Maxtor Diamondmax Plus9 80GB IDE
    Netwerk Broadcom BCM5704C dual channel gigabit
    Video Onboard ATI Rage XL
    Rackmount HP Proliant DL140 1U
    Functie IRC-server, crew-homedirs


    Achelois
    Processor Dual Intel Xeon 2,4GHz
    Geheugen 1024MB PC2100 ECC
    Chipset ServerWorks GC-SL
    Storage 2 x Maxtor Diamondmax Plus9 80GB IDE
    Netwerk Broadcom BCM5704C dual channel gigabit
    Video Onboard ATI Rage XL
    Rackmount HP Proliant DL140 1U
    Functie Developmentserver


    Adonis
    Processor Dual Intel Xeon 2,4GHz
    Geheugen 1024MB PC2100 ECC
    Chipset Intel 7500
    Storage n.b.
    Netwerk n.b.
    Video Onboard ATI Rage XL
    Rackmount Appro 1200X
    Functie Mailserver


    * Statistieken

    De pageview statistieken, server uptime en server load kunnen op deze pagina bekeken worden. De uptime geschiedenis van de webservers wordt in beeld gebracht door Netcraft.

    Tweakers.net Netcraft server uptimes mei 2000 - december 2002
  • Reacties (87)

    87
    85
    61
    5
    1
    5
    Wijzig sortering
    De link bij sponsors naar teranet werkt niet.
    Gefixt.
    Ik heb het hier neergezet zodat ze het kunnen veranderen!

    edit:
    Femme was sneller
    maaruh .... wat moet DIE fan aan de cpu cooler dan ??? .. zie niet echt het nut ervan in ...
    http://athena.tweakers.net/ext/i.dsp/1008728295.jpg

    voor de rest ..... :9~
    Het bleek dat er maar enkele millimeters ruimte waren tussen de koeler en het deksel van de server (2U) kastje. Hierdoor kon er niet voldoende koele lucht aangevoerd worden waardoor de 1.2 GHz Athlon het nogal warm kreeg, met allerhande wazige problemen als gevolg :P
    Door nu een fan aan de zijkant te monteren wordt er meer koele lucht door de heatsink geblazen en hopen we de koelproblemen opgelost te hebben. Vooralsnog lijkt het goed te helpen :)
    mischien dat dit wat is ...
    http://www.anandtech.com/showdoc.html?i=1532& p=8

    Maar er waren toch ook van die KOPEREN blokjes die aan weerszijden twee fannetjes hebben ??? zou je eens naar moeten zoeken ....

    Anoniem: 45695 @Daniel8 augustus 2002 00:17
    Wat dacht je van de PEP66T?
    Die heeft de fan standaard aan de zijkant.. :)
    Anoniem: 32714 3 januari 2002 22:51
    Hebben jullie nou nooit dat een schijf eruit knalt. Ik zie op een hoop servers alleen maar IDE?

    Op een paar andere servers zie ik dat je softraid1 gebruikt. Is Raid5 niet aan te bevelen? De server hoeft dan natuurlijk niet down bij een eventuele crash!
    Sinds we zelf hosten is er een Seagate en Quantum SCSI disk stuk gegaan. De IDE schijven hebben nog nooit problemen opgeleverd.
    Arthemis is de belangrijkste, ivm de darbase. En draait daarom ook 3x Seagate Cheetah X15 18,4GB SCSI RAID 5.
    De echt belangerijke servers, waar de databases op staan draaien dus op raid5 en raid 10. Voor de andere servers is raid minder belangerijk.
    Is het verschil tussen de 4GB Ram in Apollo tov de 2GB Ram in Artemis nu heel erg te merken?
    In zoverre... Hoe erg zijn de Ram statistieken, zitten ze atijd rond 60% in gebruik ofzo, of is er een heel duidelijk verschil tussen beide waar te nemen...

    (btw. Maar 2GB in Artemis omdat het geen registered is, of IS het registered, maar kregen jullie gewoon niet meer gesponsord :) )
    Meer dan 2GB konden we voorlopig niet krijgen omdat 1GB PC2100 repen nogal duur zijn. De databases op Artemis zijn veel kleiner dus die 2GB maakt niet veel uit. Het geheugen wordt op Apollo en Artemis voor de volle 100% gebruikt:
    Apollo:<font face='courier' size=-2><pre> total used free shared buffers cachedMem: 3961028 3955036 5992 0 41576 2145604-/+ buffers/cache: 1767856 2193172</pre></font>
    Artemis:<font face='courier' size=-2><pre> total used free shared buffers cachedMem: 2061652 2049252 12400 0 16608 965020-/+ buffers/cache: 1067624 994028</pre></font>
    Hmm...leuk verhaaltje, mooie fotos, ook.

    Is er geen bedrijfje wat een stuk of 8 19" server cases kan sponsoren? Dit is geen gezicht zo :-)

    Ga zo door, jongens! (en meisjes)
    Ga zo door, jongens! (en meisjes)
    Ik wil niet lullig doen, maar werken er ook "meisjes" bij tweakers.net?
    (No offence) :)
    Er zijn iig 2 vrouwelijke moderators (eh.. moderatrices? :P) op GoT :)
    Er zijn iig 2 vrouwelijke moderators (eh.. moderatrices? :P) op GoT :)
    Ow? Llewella en ..... ? :)
    Llewella telt voor 2 O+
    elvhenk
    Ik wil niet lullig doen, maar werken er ook "meisjes" bij tweakers.net?
    Ja natuurlijk, Femme! :D
    En toen was zijn account op mysterieuze wijze verdwenen }>
    Geen idee, maar om het politiek correct te houden...

    Inderdaad, ik ben ook wel benieuwd heo de werkverdeling is bij tweakers...zo te zien doet Femme vooral de hardware (en maakt achterlijke uren...artikel posten om half vier 's nachts, sheesh! :-)
    Er staat stiekem nog geen functie bij Atlas.

    Is dat nog steeds zo ontzettend top sekreet wattie gaat doen?
    Functie is nog niet ingevuld omdat Atlas nog niets doet.
    maar je hebt er sneaky toch al wel een functie voor? :) :o
    dus misschien komt er tijdelijk wel een ECCp }:O ?? :P
    damn MeesteR Femme

    you must really be proud when you look up to al these servers , i know i would be if i achieved what you have!
    dat is de crew warez server maar dat zetten ze er natuurlijk niet neer
    Kunnen jullie dit (de servers en de huur van de serverruimte e.d.) allemaal van het sponsorgeld betalen van jullie site? Of Betalen alle Hardwaresponsors de hardware volledig? Of stoppen jullie zelf ook een flinke duit in het zakje?
    Ik ben gewoon nieuwsgierig ;)
    Verder: Is het echt nodig om 4 Gig RAM in Apollo te douwen? Lijkt mij een beetje overdreven... :?
    Het meeste van T.net wordt gesponsord door Trueserver (de ruimte voor de servers en de trafiic http://gathering.tweakers.net/showtopic.php/392140) of beter gezegd: kijk hier maar eens http://www.tweakers.net/reviews/280. Daar staan alle sponsors in met bijbehorende uitleg.
    Verder: Is het echt nodig om 4 Gig RAM in Apollo te douwen? Lijkt mij een beetje overdreven...
    Voor het goed functioneren van GoT is het wel nodig. De 4GB RAM is lekker makkelijk zodat er niet veel tijd gaat verloren in het zoeken op de HD's omdat een groot gedeelte is gecached in het geheugen :)

    P.S. Het plaatje van Iris geeft nog onnodige informatie mee bij de tekst ;)
    Die 4 Gig aan RAM... hoeveel daarvan is eigenlijk besteed aan de MySQL server en hoeveel aan de cache?

    Ik krijg het geheugengebruik van MySQL eigenlijk nooit zo hoog en de performance blijft altijd perfect. Ok.... ik heb geen 1,2 miljoen pagehits per dag. :D
    De MySQL daemon kan niet meer dan 2GB RAM gebruiken door een of andere beperking in MySQL/glibc/Linux op 32-bit x86 hardware. Bij meer dan 2GB crasht de daemon. MySQL is dus zodanig geconfigureerd dat hij iets minder dan 2GB gebruikt.
    Alicia heeft 4 GB, Apollo ongeveer 3.5. Het zijn de db-servers van het Fok!forum en van GoT, en met zoveel queries is zoveel geheugen geen overbodige luxe. (Als je bedenkt dat het twee van de drukst bezochte fora zijn.)

    {edit}

    Tumdietum, ik zie net dat het nogal ver overtijd is. O-)
    Mooie machines!
    Ik heb net een server neergezet bij telecity (via 2fast) en die staat recht tegenover de tweakers.net servers :-)
    Ik heb nog even naar ze gezwaaid.
    Maar toch een vraagje, ik heb ook aan AMD gedacht maar er is mij verteld dat AMD CPU's toch een stuk warmer worden dan gelijkwaardige Intel CPU's en zeker in een 2U platte kast. Tweakers.net heeft hier natuurlijk ervaring mee, hoe warm wordt het? Voor mijn volgende server denk ik aan Transmeta of VIA CPU's. De transmeta's kan ik echter nergens los (of met mobo) kopen, klopt dat?
    Athlon XP V.S. P4 ... ze gaan zo'n beetje gelijk op nu.
    P3 v.s. Athlon...dat scheeld wel aanzienlijk.

    (correct me if i'm wrong please)
    Vooropgesteld dat je een goede heatsink/fan gebruikt is een Athlon in een 4U en 2U kast geen probleem, maar besteed wel aandacht aan de koeling (niet alleen proc maar ook casecooling). Een Athlon wordt nu eenmaal veel warmer dan een PIII.

    Een Athlon in een 1U kast zou ik niet zomaar doen, maar ook dit moet mogelijk zijn met wat aanpassingen en het gebruik van de juiste heatsinks. APPRO heeft een dual Athlon MP in een 1U rackmount met zware koeling gestopt (AnandTech heeft 'm als db-server draaien).
    Wat is die nieuwe Styx in de stats???????
    Styx is even de back-up server omdat Argus een beetje kaduuk is :)
    ja kan je wel zeggen dat er iets plat ligt ik krijg niets tevoorschijn nu
    Ontzettend interessant om eens te zien wat er zo achter de schermen aan hardware nodig is bij tweakers.net
    Zo zou ik ook wel eens willen weten hoeveel mensen eigenlijk een full-time baan aan tweakers.net overhouden. Jammer dat zo'n informatie er niet bij staat. Veel mensen realiseren zich niet wat er allemaal nodig is om een website op het net te houden. :)

    Op dit item kan niet meer gereageerd worden.