Geheugenupgrade + downtime Athena & Appie

Athena en Aphrodite, onze database- en webserver, krijgen morgen een geheugeninjectie van elk 256MB (voor een totaal van 640 en 768MB). Hopelijk is dit voldoende om de load problemen van de afgelopen weken op te lossen. Athena zit nu bijna permanent aan z'n maximaal mogelijke geheugengebruik, waardoor Appie niet optimaal kan presteren.

De upgrade heeft als gevolg dat beide servers rond 16:00u naar beneden worden gehaald. Ik heb geen idee wat de duur van de downtime zal zijn, maar ik kan me niet voorstellen dat Tweakers.net en Fok! erg lang dood zullen zijn.

Het plaatsen van de nieuwe database server gaat helaas nog niet lukken omdat de juiste RAID controller ontbreekt.

Reacties (63)

Femme,
Ik meen dat het forum brak is om onder meer de volgende redenen:
1) De Serverload is flink gestegen sinds het nieuwe forum, dit ligt ongetwijfeld aan het ontbreken van zaken als pre-rendering en queryoptimizations.
2) De gebruikte html staat vol fouten. In Netscape wordt de site niet correct weergegeven. Haal de site door willekeurige HTML validator en je krijgt me een meuk fouten waar je broek van afzakt.
3) De searchengine is compleet bout. Wat, hij practisch nonexistent. Gelukkig zijn er nog GOT members (dank aan Onno) die zelf searchengines draaien die wel goed werken...
4) Stomme fouten in de code (zoals de 255 reacties limiet) worden niet gefixt, maar omgezet in zogenaamd "handige features". Nu gaat een thread gewoon "handig, he?" dicht na 255 reacties.
5) [code] werkt niet goed.
6) Html wordt niet altijd goed teruggeconverteerd naar ubb code als je wilt reageren... (krijg je er bijv. \'s tussendoor enzo)
7) Gister bleek dat posts binnen een thread gesorteerd worden op datum/tijd ipv op ID (de tijd stond na de upgrade een uur vooruit, en nadat dat was gecorrigeerd kwamen nieuwe reacties dus boven oude)
De usericons zijn lange tijd een grote security (privacy) bug geweest. (zijn nog steeds?)

Deze hele lijst is al lang bekend op GOT, er wordt genoeg over geklaagd, maar er wordt simpelweg niks aan gedaan. De reden hiervoor is mij niet duidelijk.
Er zijn genoeg mensen (ook op GOT) die zo'n forum wel goed in elkaar kunnen zetten, voor zover ik weet zijn er al mensen die zoiets al draaiend hebben, en dan wel goed.

Dat is wat ik er brak aan vind.

1) Het is volstrekt logisch dat de serverload op Athena omhoog ging omdat alle forum threads nu in een database hangen, dus heeft Athena meer te doen. Dat heeft niets te maken met een zogenaamd inefficiënt ontwerp van het forum.

Tweakers.net groeit erg hard, zowel het aantal bezoekers en de omvang van de database. Logisch gevolg is dat de database server op een gegeven moment aan z'n geheugen limiet komt te zitten.

2 etc) Topix is nog steeds in ontwikkeling. In volgende versies worden de meeste fouten verbeterd. De search wordt verbeterd. Helaas is er op het forum een anti-Twakers.net clan aan het ontstaan die niet accepteert dat het bouwen van dit soort dingen tijd kan kosten.

7) is de nette manier waarop je forumpostings hoort te sorteren. Forum postings worden in chronologische volgorde weergegeven dus sorteer je op tijd. Dat er na een geheugenupgrade even rare dingen gebeuren wordt ons blijkbaar niet vergeven.

De usericons zijn externe plaatjes die niet van onze servers afkomen. Die dingen kun je op geen enkele manier beveiligen omdat die plaatjes niet eens in de buurt van onze servers komen. De security/privacy bug die jij noemt is al mogelijk zolang het forum bestaat, want al die tijd hebben bezoekers de mogelijkheid gehad om zelf plaatjes in hun postings op te nemen, dus ook plaatjes die dynamisch gegenereerd worden en IP's loggen e.d.

Het is volstrekt logisch dat de serverload op Athena omhoog ging omdat alle forum threads nu in een database hangen, dus heeft Athena meer te doen. Dat heeft niets te maken met een zogenaamd inefficiënt ontwerp van het forum.

Jawel, het kan gewoon veel efficienter. Door bijvoorbeeld threads te cachen in gewone html bestanden, en een thread alleen uit de db te trekken als er iets veranderd is. Zulk soort dingen leveren een extreem veel lagere belasting van je db server op.

2 etc) Topix is nog steeds in ontwikkeling. In volgende versies worden de meeste fouten verbeterd.

Je moet een forum grondig testen voordat je het online gooit, en niet zomaar op hoop van zegen een groot forum als GoT aan beta-software overleveren.
En als je dat zonodig wel doet, mogen bugfixes wel eens wat sneller komen. Hier op tw.n is het probleem dat email-adressen makkelijk massaal naar binnengetrokken kunnen worden bijv. effectief en snel opgelost door er een plaatje van de maken. Prima! Zo moet dat.
Maar op got verdwijnen de emailadressen gewoon, en komt er niks voor terug. Terwijl er dus een effectieve oplossing ligt, die ook zo te implementeren is.
En over de Netscape problemen die inmiddels al 2 maanden bekend zijn, in 10 minuten op te lossen zijn, maar nog steeds bestaan... tja... dat zuigt gewoon zwaar.

7) is de nette manier waarop je forumpostings hoort te sorteren. Forum postings worden in chronologische volgorde weergegeven dus sorteer je op tijd.

ID's hebben ook een chronologische volgorde lijkt me, en zijn niet afhankelijk van de tijd, en werken dus ook goed als er van zomer- naar wintertijd geswitcht wordt bijvoorbeeld. Sorteren op ID is dus gewoon handiger.

Ik ben het daar dus niet mee eens, ID's zijn bedoeld om records mee te indentificeren ... en niet om er sorteringen mee aan te geven.

Het moet voor een record geen fluit maken of hij ID 2 of ID 23435 heeft.

Nee, klopt als een bus.

Maar je weet wel (zonder verder iets van de DB te weten) dat ID 10 eerder gepost werd dan ID 20. Dus je weet zeker dat je als je sorteert op ID, dat je dan ALTIJD de goede volgorde te pakken hebt. Als er zoals gisteren een foutje in de tijd sluipt, weet je dat dus NIET.

Ik lees hier dus weer enorm veel database perikelen. Waarom testen we tweakers.net niet met een commerciële database als informix of oracle. Deze dbEngines nemen echt heel veel werk van je over. En zijn dus supersnel. Dan wordt er natuurlijk meteen geroepen, wat motte we daarvoor schuiven. Maar echt, zo duur zijn die DB's niet meer. Deze db's komen ook tot zijn recht in een smp omgeving. Maar ik ben ook we voorstander van een sparcServer van Sun, maar ik weet niet wat die moeten kosten.

Banderas .

Het probleem is een gebrek aan geheugen en dat los je niet op door Oracle te gaan draaien, want dan heb je nog meer geheugen nodig.

quote:
Je moet een forum grondig testen voordat je het online gooit, en niet zomaar op hoop van zegen een groot forum als GoT aan beta-software overleveren.
En als je dat zonodig wel doet, mogen bugfixes wel eens wat sneller komen.

Zeur niet! Microsoft doet niet anders!

Hi Femme. Ik denk dat het geheugen niet het grootste probleem is. Meer een probleem voor de korte termijn. En aangezien je zelf al zegt dat deze portaal groeit als kool is het probleem dus wel de database.
Ik denk dat Banderas voor de lange termijn wel gelijk heeft.
Maar Oracle is inderdaad eerder iets voor yuppen en niet voor tweakers. Maar informix is een ander verhaal, dat is echt een tweakerClub.

De vraag is hoe test je ff zo'n informix database voor op linux. Het zal vast niet zozijn dat je mySQL ff vervangt door informix, komt vast wel meer bij kijken.
Maar je maakt het wel schaalbaar, en dat is voor de toekomst(>1.000.000 hits p/d) wel lekker.

Maar echt, ook ik vind tweaker.net een enorm uitdagende goeduitziende coolPortal.
(Er zit nu al ziel in)

Downtime? 10 minuten, probeer a.u.b. daar op te mikken. Dat is volgens mij genoeg tijd voor mij om nou eindelijk eens die extra 27,3GB disk in mn server te knallen. Om een lange downtime te voorkomen raad ik aan gebruik te maken van een anti-statisch polsbandje.
Ik zal klaar staan met een ping loopje zodat ik op het juiste moment paraat sta voor mijn eigen upgrade.

Mocht de upgrade om welke reden dan ook langer dan 10 minuten duren, en kom ik enkele seconden na de upgrade niet in de httpd-logs voor, dan volg ik de cursus Omgaan Met Ontwenningsverschijnselen, folder op aanvraag bij de Jellinek kliniek te Amsterdam-Zuid.

Bij voorbaat dank.

en denk erom deze pagina goed onthouden voor de volgende prijsvraag

Uhhhh zie ik daar een Onstream TapeDrive? Werkt dat inderdaad lekker voor een website van deze omvang? Mij staat bij dat die Onstream nou niet echt reliable zijn voor dit soort serverwerk.....

Iemand?

dit ding werkt helemaal niet voor meer info lees hier: gathering.tweakers.net/showtopic/66247

Femme,

Mag ik niet mee? Kan ik ff die twee servers aanraken

LOL

Misschien een idee, net zoals de klaag muur ofzo

en dan kan je ff de servers van t.net aanraken en dan bidden daarvoor

misschien moeten ook alle tweakers naar de richting van de servers bidden

Kom op zeg, heb je nog nooit een rackmounted webservertje gezien? No need to kneel down, als je bij een willekeurige provider rondloopt hangt het vol met die knutseldozen.

De echte vette shit waar voor geknield moet worden zijn SGI server (indy's and up), Sun Sparc's, HP netservers, Compaq AlphaServers en IBM Netfinity 6500's enzo. dat is de shit...

Hm mik vond de Cisco 12000-series routers eik ook wel flink het bidden waard, net als de dikke Sun-bak en die SGi's. Ohw en dan de Dell PowerEdges niet te vergeten, die zijn ook wel errug prettig.

Dan even waarom we wel 2 uur nodig hadden:
Eén van de repen die we gingen plaatsen wilde niet passen, daarom moest een HD uit een bracket worden gehaald en geplaatst worden op de plaats waar eerder de floppy zat, het duurde allemaal wat lang. Maar uiteindelijk is het wel gelukt, gelukkig maar...

volgende keer plattegrondjes mee en 3D CAD tekeningen van de kasten om te kijken of alles past..?


wat ik me nou afvraag, was het koud daar binnen..?

Even voor diegenen die alles zitten af te kraken..

Als er iets is dat makkelijk verbeterd kan worden doet femme dat heus wel.. als JIJ het zo nodig beter kan dan ga je toch lekker zelf een tweakers.net kloon maken en ga je je daar lekker vermaken in je uppie...

We hebben hier verdomme een hele mooie en druk bezochte site en JIJ hebt er ook veel profeit van dus hou aub op te zeiken als er eens een klein dingetje niet werkt... moet je es kijken wat er allemaal wel perfect werkt

JIJ = iemand die het zit af te kraken

dit moest ik even kwijt....

Ik ben natuurlijk niet de enige die hiermee bezig is, maar ook Rick (configgen) en Floris (spullen regelen). Omdat Artemis zonder de juiste controller toch niet afgebouwd kan worden hebben we in de tussentijd wat nieuwe hardware geregeld. Er komt een 6U of 7U kast, een extra IBM SCSI bootdrive (of IDE als Linux echt niet wil booten vanaf de RAID controller), de procs worden 2x866MHz ipv 2x733, er komt een switch bij ivm uitbreiding in de toekomst en Floris heeft o.a. twee extra 512MB DIMMs geregeld voor een totaal van 1,5GB .

Op lange termijn (komende maanden) zijn er plannen om een load balanced webserver cluster in elkaar te klussen met evt MySQL database replication en failover als MySQL 3.23 stabiel genoeg is.

Wat betreft het forum: het forum is nu helemaal dynamisch en dat heeft veel voordelen. Zo kun je o.a. zelf instullen of je user icons wilt, op hoeveel postings de pagina's wordt gesplitst e.d. Dat hierdoor een hogere server load ontstaat is ons probleem en niet die van de bezoeker. Tweakers.net en Fok moeten ervoor zorgen dat de servers snel genoeg zijn. Helaas heeft de bouw van de nieuwe databasever veel langer geduurd dan we zelf hadden gewild (grotendeels buiten onze schuld om), waardoor er wat probleempjes zijn ontstaan. We gaan ervoor zorgen dat er genoeg overcapaciteit en redundancy komt om niet meer in de problemen te komen.

Je krijgt hem dus snel binnen.

Als dat nl. niet lukt, dan wil ik best voor je kijken wat ons bedrijf voor T.net kan betekenen.


[e]Kan deze even iets hoger worden gezet... was weer wat te snel [/e]

Ha die Snuffie, ik ga de vraag even op je terugspelen als je het niet erg vind. Natuurlijk zijn we geïnteresseerd, het is achter nu een beetje laat om nog voor de DBase server allerlei andere maatregelen te treffen. (Bijna alles is rond, alleen het 19" rack nog niet).
In de komende periode willen we ons gaan verdiepen in het load-balancing verhaal. Dit is als je het hardwarematig aanpakt een hele dure grap, daar zoeken we dus nog een sponsor voor, ik kan me niet echt voorstellen dat jij ons kunt voorzien van een Cisco loadbal;ancertje voor weinig (als je precies wilt weten hoe weinig, stuur mij een mailtje). Verder euh ja het gaat maar door he? De twee webservers upgraden en de DBserver plaatsen, daarna misschien nog een webservre erbij en dan zien we wel weer verder...

Senks voor de help alvast:
[e-mail]

Load balancing kan je zowel hard als software matig oplossen, denk bijv aan Citrix.

En Cisco, dat is geen probleem. Ik zal eens intern overleggen of ik tegen demo condities e.e.a. mag en kan leveren, maar dat lijkt me geen probleem.

Er zijn in deze genoeg mogelijkheden, als je maar goed zoekt. Zakelijk gezien is het heel interessant om e.e.a. tegen aantrekkelijke prijzen te leveren.

Ik zal je maandag vanaf mijn werk een mailtje sturen, als jij kan aangeven wat je precies nodig hebt.

Helaas heeft de bouw van de nieuwe databasever veel langer geduurd dan we zelf hadden gewild (grotendeels buiten onze schuld om), waardoor er wat probleempjes zijn ontstaan

Bedoel je hier dat het de schuld is van leveranciers die t.net gratis hardware leveren of zo?! Dat zou ik wel een beetje een foute statement vinden als je dat bedoelt. Ik hoop dat je bedoelt dat er leverings problemen zijn bij Adaptec zodat zij niet aan t.net's leveranciers kunnen leveren. En zij dus weer niet aan jou.

Sponsoring wil niet zeggen dat je alles meteen gratis krijgt. De problemen met de levering van Mylex en Adaptec controllers ligt idd bij de distributeurs.

Bandbreedte,Plek en plaatsing is toch voor niets van vuurwerk?
Nou ja een bannertje voor een bedrijf dat iedereen toch al kent (maar in mijn geval er nooit voor zou kiezen)

Ja, maar Vuurwerk levert geen hardware en daar hadden we het hier over.

Femme,

Neem anders contact met me op via mail, ik heb zeer veel mogelijkheden om zo'n adapter te realiseren binnen afzienbare tijd.

([e-mail])

Ik doelde hierbij op jou reactie dat niet alles gratis is bij sponsoring terwijl dit het duurste is

Je doet het prima, ik heb geen problemen met de site. Er zijn mensen die altijd lopen te zeuren en elk pietluttig foutje eruit willen hebben. Hier gaan ze het liefst tientallen uren in steken. En dan zijn ze wreed als ze een klein probleem opgelost hebben. De kosten die er voor evt. commercieel bedrijf aan vast zitten laten ze voor het gemak maar achterwege. In veel gevallen is het gewoon beter om er wat stevigere HW in te zetten, en daarmee de bottleneck op te lossen.

Je hebt altijd strevers die zich ontzettend goed vinden, en gewoon ontzetten jaloers zijn. Ik vind deze site lekker objectief, met een insteek naar "een hart voor IT".

Gewoon zo doorgaan knul De site groeit niet voor niets zo hard.

Ik denk dat als je de servers neer haalt voor zo'n doel dat je weinig negatief commentaar zult krijgen. Sterker nog, succes, alhoewel ik denk dat het niet echt grote problemen mag opleveren.

We merken het wel, en zo niet dan toch.

En ZO lang zal de downtime toch niet zijn ? ? plus, dan gaan de vaste Tweakers maar ff wat anders doen die paar minuutjes (ok optimistisch, paar uurtjes dan)... iets van tv kijken, bier zuipen, of eens aan hun computer tweaken... (nu mag ie eindelijk ff uit )

Of zal er dan toch eindelijk weer tijd zijn voor de vriendin? (of voor de vriend voor de vrouwelijke tweakers onder ons)...

Vrouwelijke tweakers? waarwaarwaarwaar?

Moet er niet nog een mooi logootje op de kasten van Tweakers.net? Ziet er nu kaal uit. (OK, er komt ook niemand behalve Vuurwerk-personeel, maar de foto's zien meer mensen.)

Zoals een Tweakers.net case badge

Ik neem de casebadges, Realgamer stickers m'n camera mee .

Waar ga je de casebadges plakken, want ik zie niet zo een vakje zoals die er wel is op de meeste computers. Gewoon op een hoek? Of op de tapestreamer

Waarom houden we gewoon geen nationale DOWNTIMEdag.
Dat om dan al onze servers thuis en bij prividers even te kunnen verzorgen zoals het anders niet mogelijk is

Prima idee!

Tevens kan distributed.net zijn servers dan ook op orde brengen, zodat de daarna goed verwerkt worden.

En kunnen alle energiecentrales ook even tot rust komen. Tto dat iedereen tegelijk zijn spul aanzet natuurlijk.

Energiecentrales willen maar een ding metalant; Produceren en verkopen. Ze willen uberhaupt geen rust. Waarom denk je dat elektrische energie 's avonds goedkoper verkocht wordt? Juist. Ze produceren op een constant niveau van overdag. Dan maar goedkoper verkopen in de hoop dat mensen hun energiebehoefte gelijkmatiger over de dag verdelen. Ik ben in iig 24/7 behalve met de wasmachine...

Misschien was deze niet gratis geheugenupgrade niet nodig geweest... Je had ook kunnen kijken waar die immense load vandaan komt. Ik denk dat de meeste GOT'ers wel een donkerbruin vermoeden hebben... . Ik ben van mening dat als dat RANZIGE BRAKFORUM eens even onder handen genomen zou worden door een stel echte programmeurs (en die zijn er zat, ook op GOT), de load met minstens 50% af zou kunnen nemen. Betere hardware als oplossing voor software is natuurlijk compleet .
Om het zo maar eens even te zeggen.

Volgens mij is dit forum veel minder brak dan dat verrotte UBB... Op de 'kan database verbinding niet tot stand brengen'-melding heb ik nog geen vage fouten gezien, die je bij UBB wel had.

Maar die upgrade heeft volgens mij niet echt geholpen, gisteravond heb ik zowat de hele avond plaatjes gemist bij t.net, alhoewel het forum het de hele tijd prima gedaan heeft. Moet er aan MySQL niets geconfigureerd worden om van dat extra geheugen gebruik te maken?

't is alleen maar duidelijker geworden dat meer geheugen noodzakelijk was/is. Die MySQL errors zijn als het goed is verleden tijd, maar de 640Mb die Athena nu heeft zit al helemaal vol. Dat je geen plaatjes gezien hebt komt waarschijnlijk omdat apache uitstond (die slikt heel wat geheugen).

En waar meen jij uit op te maken dat het forum brak is?