På väg ut ur vattenmassorna

Inte riktigt den introduktion som jag hade önskat:

Hej!

Jag har precis tillträtt som Kommunikations- och marknadschef på Surftown. Tanken är att jag ska arbeta med produktutveckling och vi planlägger just nu en rad nya spännande produkter i Surftown… och så kom regnet till Köpenhamn.

Lördag kl 22:00 ringde larmet på vårt primära datacenter som ligger placerat vid hamnen i Köpenhamn. Köpenhamn fick på en timme regnmängder som svarade för två månader – och det är inget system byggt för att klara av. Ståldörrar tillverkade för att så emot vatten är sönderslagna, all ström i byggnaden har gått och förväntas vara tillbaka igen på tisdag. Källaren blev rekordsnabbt fylld med vatten och i grannkällaren står en Maserati under 2 meter med vatten (surt! Men inte i förhållande till den rensning som många av oss nu står inför).

Oavsett allt detta fungerade vårt säkerhetssystem – så kl 02:00 i natt började nödströmsgeneratorn och producerade ström till… ingenting. Kortslutning i ledningar och elskåp stängde effektivt ner vårt datacenter. Sedan kl 06:00 söndag morgon har hemvärnet pumpat upp, upp till 30.000 liter vatten från källaren (per minut!) innan vi kl 14:00 kundefå tillgång till server-rummet och börja att flytta våra servrar, till säkerhet. Den sista delen av tömningen var firmabilarna, som tömdes på vatten vid kl 22 :-/

”Lyckligtvis” är vi igång med att bygga ut vårt senaste datacenter i Amager, så vi har mycket stor kapacitet av serverrack, ström osv. så att vi på ett effektivt sätt kunde flytta utrustning från ett datacenter till ett annat. Från kl 14 till 22 har vi flyttat 300+ servrar och återetableringen körs på fullt tryck i skrivandets stund. Här med följer en status på hur lång vi har kommit de första 24 timmarna och hur långt vi förväntar oss att komma inom nästa 24 timmar:

  • DNS-servrar: 100% Online
  • Webbservrar: 100% Online

Dessa servrar har inte drabbats av avbrott. En 10 Gbit förbindelse har under natten till söndagen varit nere på 1 Gbit, så svarstider kan ha varit påverkade. Dessvärre är en webbserver inte mycket värd om inte de underliggande fil- och databasservrarna är på plats. Och på dessa har vi upplevt störningar. Status pr söndag kväll kl 23:30:

  • Storageservrar: 77% online. Resterande återställs från back-up till ny hårdvara. Återställningen är tidskrävande då det är miljoner av småfiler och förväntas vara avslutad måndag morgon.
    Antalet påverkade: upp till 23.000 av våra kunder
    Normal drift: förväntat måndag kl 09:00
  • E-postservrar: 3 servrar är ska återställas från back-up till ny hårdvara. Ny hårdvara levereras på måndag morgon och alla e-postkonton kommer att fungera igen från omkring lunchtid under måndag, direkt efter installationen. E-postarkiv återställs efterföljande och kommer på så vis att löpande bli tillgängliga under efterföljande timmar.
    Antalet påverkade: Dessvärre okänt, då mailservrarna är Cloud baserade. Kort sagt, några fungerar och några fungerar inte för än på måndag.
    Normal drift: förväntas kl 12 måndag.
  • Databasservrar: 80% idag söndag. Resterande återställs från back-up under löpet av måndagen.
    Antal berörda: upp till 20.000 av våra kunder
    Normal drift: förväntas sent under måndagen
  • Supportsystem (ticketsystem): Surftown supportsystemet har gått ner. Det gör det svårt att ta emot eller skicka supportmails – men systemet ska vara klart igen måndag morgon kl 08:00. Systemet återställs från back-up under skrivandets stund.
    Antal berörda: Alla – beklagar.
    Normal drift: förväntas måndag kl 8.00

Vi kommer att fortsätta hålla alla informerade via vår blogg och twitter de kommande timmarna och dagarna. Jag hoppas att vi senast tisdag är helt tillbaka i normal drift, när nödvändiga införskaffningar och nödåtgärder blir genomförda under måndag.

Vi hoppas på er förståelse och ber verkligen om ursäkt för de problem som detta har medfört många av våra kunder. Vi är verkligen ledsna.

Som sagt heter jag Kresten – och det här är (nästan) min första dag på jobbet. Jag ser fram emot att  återkomma med en annan typ av information framöver… och överväger om vi borde byta namn och flytta till en mycket torr plats!

Bästa hälsningar

Kresten Bach Søndergaard
Kommunikationschef
Surftown

23 Comments

  1. Maria
    juli 4, 2011 @ 8:51 f m

    Hoppas att driften kommer i gång snarast…förstår förseningen men är beroende av att komma åt mina mail i vår egen drift på företaget.
    Hoppas på en snabb lösning.

  2. Översvämning på dogma.nu | dogmabloggen
    juli 4, 2011 @ 8:57 f m

    […] vår officiella hemsida dogma.nu nere och orsaken till det är översvämningarna i Köpenhamn! Mer om detta här >> Helt […]

  3. magnusschroder
    juli 4, 2011 @ 9:05 f m

    Hej, lycka till med driftsättning och återställning, vi ser fram mot att det blir klart!
    På sidan https://www.status.surftown.se/ står det om driftinformationen: ”Upprättat 03.07.2010 Kl. 18:35”.
    Fel år alltså. En detalj i sammanhanget, men lätt att tro att informationen är ett år gammal.
    Mvh
    Magnus

  4. Chatarina
    juli 4, 2011 @ 9:13 f m

    Väntar på att min mail ska börja ticka igång igen. Svårt att föreställa sig allt detta vatten. Finns det bilder???

  5. Gunnar Eysteinsson
    juli 4, 2011 @ 9:16 f m

    Detta är inget någon kunde förutspå. Ni har haft bra information på Twitter, facebook och på blogg. Jag hoppas min webbsida kommer igång snart, men jag har full förståelse för att detta kan ta tid.

  6. Äntligen tillbaka online efter översvämningen hos webbhotellet Surftown | Datorkanalen.se
    juli 4, 2011 @ 9:25 f m

    […] här skriver man på surftowns blogg nu idag: ”Lördag kl 22:00 ringde larmet på vårt primära datacenter som ligger placerat […]

  7. kemal
    juli 4, 2011 @ 9:30 f m

    Tragiskt för både er och mig, Inte kunnat logga in via webmail under hela helgen massa affärer som gått förlorat

  8. Micke, Accurato Media
    juli 4, 2011 @ 9:34 f m

    Hej!

    Tack för statusuppdateringarna.

    TIPS!
    Ange gärna vilket klockslag ni postat detta inlägg också, för ännu bättre koll på senaste nytt & därmed ökad service till era kunder.

    Lycka till och hoppas allting ordnar sig med servrar och allt.

    Vänliga hälsningar,

    Micke Åkesson
    Accurato Media
    http://www.accurato.se

  9. Mia Karacs
    juli 4, 2011 @ 9:35 f m

    Hej Kresten och välkommen till nya jobbet 🙂 Jag heter Mia, har varit kund hos Er i 5-6 år nu och har faktiskt inte vart annat än nöjd. Nu har jag inte haft mail eller hemsida fungerande sen i lördags, tänkte kontakta supporten men läste er blogg innan. Jag beslöt att vänta med supportärendet hahahah och hoppas på att få tillbaka min mail och hemsida de närmaste dagarna 🙂 Lycka till med både problemet för tillfället och det nya jobbet

    //Mia

  10. Simon
    juli 4, 2011 @ 9:36 f m

    Tack för bra uppdatering
    Om det hade hänt våra server så hade jag varit lika stressad så jag förstår dig.
    lycka till.
    /Simon

  11. Daniel Green
    juli 4, 2011 @ 9:37 f m

    Någon beräknad tid på när våra domäner, samt mejl (Framför allt mejl, så vi kan informera våra kunder om problemet och orsaken till avbrottet) kommer upp igen?
    http://www.serversideproductions.se och http://www.powergamer.se
    Vi sitter för närvarande och rullar tummarna här på kontoret!

  12. Hans J
    juli 4, 2011 @ 9:39 f m

    Tack för att ni håller oss informerade, det är mycket värdefullt när man inte kommer åt varken mail eller webbhotell. Genom er Twitterfeed fick jag redan på söndag förmiddag veta varför hela Surftown var nere.

    Hoppas ni får ordning på allt krångel som vattnet orsakat, naturens makter kan man inte göra något åt. Tack för god information och service!

  13. Daniel
    juli 4, 2011 @ 9:57 f m

    Nu, Kresten, kan det bara bli bättre! 🙂

  14. surftownse
    juli 4, 2011 @ 10:04 f m

    Ta en titt på vårt senaste blogginlägg. Vi har publicerat förväntade tider på när vi är tillbaks i normal drift. Tack för din förståelse!

  15. icke kemal
    juli 4, 2011 @ 10:36 f m

    kemal – Det där med dina förlorade affärer är det ingen som tror på utom du själv :-))

  16. icke kemal 2
    juli 4, 2011 @ 10:41 f m

    Haha word on that!

  17. Magnus
    juli 4, 2011 @ 12:53 e m

    Hört talas om webbshopar?

  18. Bo Kruse
    juli 4, 2011 @ 12:56 e m

    https://www.sydsvenskan.se/danmark/article1507071/Regnvader-lamslog-Kopenhman.html

    Det er ikke fra vores område, men viser ret godt hvor meget vand der er faldet. 2 måneders regn på få timer.

  19. Mohammed
    juli 4, 2011 @ 1:00 e m

    Jag brukar vara krävande att tekniken skall hålla mm, men just i detta fall så förstår jag Surftown och önskar de endast lycka till.

    Av egen erfarenhet från jobbet, så vet jag att endast återställningen av få databaser med några hundra GB kan ta upp till dagar överhettning>.

    Så jag LÅTER BLI just nu att ens ringa och störa Surftown i flytt arbetet..

    Synd att man inte har Noaks ark 🙂

  20. Ace
    juli 4, 2011 @ 1:20 e m

    Kan man på något sett få upp ett omdirigering/felmeddelande på sin hemsidesadress?
    Vår sida är fortfarande inte uppe. Vilka resurser ska man sätta in eller är det bara att vänta?

  21. Sysadmin
    juli 5, 2011 @ 8:50 e m

    Mailen fungerar, men vart är alla gamla mail och adressboken (webmail) ???!!! Kommer dessa att återskapas eller är det borta?

  22. RC Expert
    juli 6, 2011 @ 6:02 f m

    Jo. Vi flesta vet hur det såg ut i delar av Köpenhamn men hur såg det ut där just Surftown ligger, det är det intressanta och hur såg det ut

  23. » Nytt försök (då det gamla inlägget försvunnit efter restore)
    juli 6, 2011 @ 6:57 e m

    […] På väg ut ur vattenmassorna Postat 4 juli, 2011 av Surftown […]