Tweakers.net downtime door dbase probs

Zoals je waarschijnlijk gemerkt hebt, heeft Tweakers.net afgelopen avond/nacht regelmatig plat gelegen vanwege database problemen. Deze begonnen vanmiddag al, toen er allerlei wazigheden optraden waardoor de load van Athena regelmatig explodeerde. Het dumpen en opnieuw importeren van de database verhielp deze problemen, maar hadden wel tot gevolg dat de indexen (indeces, whatever) van de reactie tabel lek gingen. Recente reacties waren hierdoor schijnbaar onvindbaar als er tegen de indexen werd gequeried. Nu komt dit wel vaker voor wanneer een dump wordt geïmporteerd, alleen liet het probleem zich niet op de normale manier oplossen.

Na wat aanklooien en het herhaaldelijk rebuilden van de indexen (wat lang kan duren op een tabel met 160.000 records) *lijkt* alles weer te werken. Reacties die na m'n dump van 22:55 zijn gepost, zijn helaas verloren gegaan.

Onze excuses voor de downtime.

In de komende weken zullen we in samenwerking met onze server sponsor CompTechWorld eindelijk gaan beginnen met het bouwen en configgen van 'Artemis', die dienst gaat doen als de nieuwe database-, mail- & reverse proxy server van Tweakers.net, Fokzine en Realgamer. Deze bak zal voorttuffen op (waarschijnlijk) twee PIII-733's met een SuperMicro plankje, een volle Gigabyte geheugen , twee Cheetah X15's, een DPT RAID controller en drie 100Mbit NICs. Als 't aan Rick ligt komt dit alles onder FreeBSD 4 te draaien.

Onze huidige hardware (twee keer Athlon op 800MHz) loopt ondertussen nog steeds zo stabiel als een huis. Appie dreigt komende nacht de 70-dagen barrière te doorbreken .

Reacties (46)

[qniens]

Zo ie zo mis ik hem denk ik,
waarom een mail proxy?
En ja, wat is een reverse proxy?

[hufkes]

reverse proxy? Tja, mijn boeren verstand zegt me dat dat een programmaatje is dat precies het tegenovergestelde van een proxy doet...
Alles doorlaten dus

[Femme]

Je moet 't lezen als 'database server', 'mail server' en 'reverse proxy server' .

De reverse proxy server balanced het verkeer tussen de twee webservers en hij gaat denk ik ook de statische files (GIFjes enz.) cachen zodat Apache niet voor dit soort simpele taken misbruikt wordt.

www.webtechniques.com/archives/1998/05/engelschall/

[Verwijderd]

Een reverse proxy is een proxy server die niet aan de kant van de gebruiker is maar aan de kant van de server. Zo krijgt hij alle aanvragen binnen van de webserver. Hij downt het van de server, slaat het op en stuurt het door. Werkt in principe het zelfde als een normale proxy. Dus als de volgende het opvraagd word de info opgehaald van de reverse proxy cahce zodat de webserver minder te verwerken heeft...

[qniens]

Maar de poll gif, cached die dan ook of worden die telkens weer gerefreshed in de proxy?

edit:

Posten gaat weer goed, daarom vroeg ik deze vraag ook eigenlijk

[Femme]

Het poll gifje verandert nooit (lengte staaf is gewoon img width=x).

[Verwijderd]

"Appie dreigt komende nacht de
70-dagen barrière te doorbreken"


Naaaah moet te doen zijn. Ik ken Linux dozen (apache en squid-proxy, medium tot heavy loads) die al anderhalf jaar staan te draaien. En ze geven geen krimp hoor

[RvdH]

Athena: 11:35pm up 65 days, 19:28, 7 users, load average: 0.19, 0.24, 0.19

Aphrodite: 11:35pm up 70 days, 19:31, 2 users, load average: 0.92, 1.31, 1.22

*trots*

[Femme]

Die ranzige server van Rackspace ging al op z'n bek toen ik een 200MB grote tar met het forum wilde uitpakken.

[tex5]

Waarom weer een Apache server gebruiken? Zoals in dat stukkie van webtechs staat komen ze daar op ongeveer 64 meg uit voor 1000 reqs per min.. dunno exact hoeveel _hits_ tweakers trekt tho maar denk meer.

Wel is Zeus geprobeerd? Heeft never meer geheugen nodig dan 6 meg ofzo, 4 meg met een erg laag aantal hits zoals die 1000 per min. Heb wat testen gedaan met Apache 2 met het dexter threaded systeem wat duidelijk vet beter werkt als het oude Apache systeem maar nog steeds vet onder de maat vergeleken met Zeus.

Check het is, www.zeus.co.uk . Die benchmarks daar zijn ook fun 6000 hits per _seconde_ op een Celeron 500 MHz en 128megs of RAM met *redhat*

En de performance tuning opties zijn ergggg erg vet.

[Femme]

Apache werkt wat beter met PHP lijkt me. 6000 hits per sec is ook een beetje zinloos aangezien je dat in praktijk situaties nooit haalt (we zitten nu op 50 per seconde).

[tex5]

Ah Dunno hoe het werkt met php, staat wel dat het php support maar of het zo werkt als met Apache dunno..

support.zeus.com/faq/entries/php4.html

Naja, idd, met 50 per sec is het nog lang niet nodig Maar hoe kan het dan zijn dat jullie dan nu al met squid bezig zijn etc, Apache moet dat toch makkelijk aankunnen?

[Femme]

Omdat we de load dan over meerdere servers kunnen verdelen.

[Verwijderd]

Wat ik als beginner niet snap is waarom iedereen met MySql blijft werken. Ik werk zelf oa. met Interbase en dit is ook free op Linux. Kijk eens op [url="http://www.mers.com,"]www.mers.com,[/url] hier draait 1.500.000 records aan news op linux/interbase perfect met free text searches etc. Waarom is MySql zo aantrekkelijk ?

[Coen Rosdorff]

Interbase steekt nogal schaamel af bij de gisteren gepubliceerde test van PostgreSQL

www.newsalert.com/bin/story?StoryId=CozDUWbKbytiXnZy

Met MySQL en Interbase was het niets eens mogelijk om die test te draaien.
Het transaction systeem dat in MySQL gaat komen is wel weer een positieve ontwikkeling : www.mysql.com/news/article-28.html

[Verwijderd]

Je vergeet iets, MysQL kan het niet draaien wegens een gebrekkige SQL implementatie en Interbase niet omdat de eerste public van 6 nog in beta is en er geen ODBC was.. Er is overigens vanaf RedHat 5.1 ofzo een free Interbase (al jaren) dus waarom nemen ze deze niet ?
Een beetje vreemde test ? Waarom proberen ze het niet tegen Oracle op Linux die al uit beta is ?

[Ulysses]

Als ik de Moderatie lijst zo zie, dan denk ik dat er wel meer verloren is gegaan als een paar reakties...
Zou het kunnen dat er ook een x-aantal Modpoints is verdwenen?

[FoolZero]

Ik was zelf vrij actief aan het surfen rond en om de downtimes, maar heb bij mij geen modpoint of karma verlies geconstateerd...

[Grrrrrene]

Qua mod-points was het gisteren bij mij wel een beetje magertjes, maar dat kan natuurlijk aan mij liggen. Ach, maakt toch ook niet zoveel uit? Als de schade maar beperkt blijft en alles nu weer werkt hoor je mij niet klagen...

[nospam]

FreeBSD 4 gaan gebruiken is goede zaak in ieder geval. Het is een perfect besturingssysteem voor deze taak, en door de efficiëntere implementatie van verschillende netwerkprotocollen kan dit een extra zetje zijn in de richting van de performance. Voor de rest is FreeBSD ook veel beter onderhoudbaar, en moet het met de ports collectie zelfs voor iemand die bijna geen rete verstand heeft van BSD of Unixen het mogelijk zijn om bepaalde onderdelen te upgraden indien nodig Wordt het dan trouwens FreeBSD 4.0 STABLE of FreeBSD 4.1 RELEASE/STABLE?

[RvdH]

Ik hoop dat tegen die tijd FreeBSD 4.0-STABLE beschikbaar is, anders zet ik 4.1 RELEASE op, om die later te upgraden naar 4.1-STABLE.

[nospam]

4.0-STABLE is al geruime tijd beschikbaar hoor Je zal hem alleen nooit als ISO kunnen downloaden, je moet eerst 4.0 RELEASE installeren, en daarna met cvsup en een make world de hele zooi upgraden. Als je dit van plan bent kan je het het beste doen net nadat je 4.0 RELEASE hebt geinstalleerd, want ook je /etc directory wordt upgedate, waardoor sommige configuratiefiles worden vervangen. Dat is natuurlijk geen probleem als je daar eerst ff een backup van hebt gemaakt, maar je moet ze dan toch nog 1 voor 1 terugzetten en/of aanpassen, afhankelijk van wat er verandert is. Als je nog geen echte grote "instellingen" hebt gedaan maakt dat dan niet zo uit. Trouwens ik dacht dat het ook al mogelijk was om te cvsuppen naar 4.1 STABLE als ik me niet vergis. (ff opgezocht), jep 4.1 STABLE is ook al beschikbaar. Ik denk dat je er wel uit kan komen via de manual, en anders ben ik altijd bereid om te helpen...

[IceStorm]

OK nou iig lijkt alles weer redelijk te werken ...

Maar uh volgens mij blijven 'we' nog steeds mySQL gebruiken omdat dat goedkoop/gratis is en dus niet zo duur in gebruik (duh )

Ennuh Daniel... was je er nog niet van overtuigd dat UBB niet helemaal optimaal is en het VAST ook niet leuk vindt als ie ff 30.000 draadjes opnieuw gaat indexen?

[Femme]

MySQL is erg snel en normaal gesproken ook stabiel, totdat dit soort grappen voorkomen. Er wordt veel aan ontwikkeld, dus er zit ook toekomst in (het omswitchen naar een andere database is ook niet iets wat je zomaar wil doen).

[Verwijderd]

Sorry voor de triplepost maar er gebeurde niks toen ik op de knop duwde gedurende 2 volle minuten.

En editen gaat ook al niet.

[Daniel]

Hmm, Appie al bijna 70 dagen uptime...

Valt niet tegen, hoewel ik gisteravond een goede poging heb gedaan de server toch plat te krijgen door per ongeluk alle 30.000 threads op GoT opnieuw te laten indexeren door UBB...
De load ging over de 70 heen

Gelukkig wist Rick mijn ass te redden door UBB een halt toe te roepen...thanx Rick

[Verwijderd]

de reden om Zeus niet te gebruiken is de prijs

php etc... support ie allemaal wel dus dat is het probleem niet.

[tex5]

Heh, ja wel prijzig maar wat denk je dat die Dual P3 733 met 2 x X15 kost?

De mensen over at Zeus zijn best wel open dus als tweakers beetje hetzelfde doet als met Vuurwerk/Comptechworld etc..