Driftudmeldinger

Several TSM backup servers down - tsm2, tsm7, tsm9, tsm21 Nedbrud

Start: 1 hour ago
Beskrivelse af udmelding

Several TSM backup servers down. Maybe due to backend issues.

The following servers are down:
tsm2.zitcom.dk
tsm7.zitcom.dk
tsm9.zitcom.dk
tsm21.zitcom.dk

Our backup provider is working on the problem, and we will update when any news is available.

Several TSM backup servers down - tsm3, tsm8, tsm10, tsm12, tsm13, tsm14, tsm16, tsm18. Nedbrud Løst

Start: 3 hours ago 40 seconds ago
Beskrivelse af udmelding

Several TSM backup servers down. Maybe due to backend issues.

The following servers are down:
tsm3.zitcom.dk
tsm8.zitcom.dk
tsm10.zitcom.dk
tsm12.zitcom.dk
tsm13.zitcom.dk
tsm14.zitcom.dk
tsm16.zitcom.dk
tsm18.zitcom.dk

Our backup provider is working on the problem, and we will update when any news is available.

Opdateringer

  • 2 hours ago

    All servers are back online and ready for backup and restore operations.

    Please note that, in some cases, the previous TSM client session or scheduler service may hang. If this occurs, restarting the TSM scheduler services will resolve the issue.

    We apologize for any inconvenience.

Periodiske 500- og 503-fejl på Object Storage-platformen Nedbrud

Start: 3 days ago
Beskrivelse af udmelding

Årsag til hændelse: Under undersøgelse

Vi oplever i øjeblikket periodiske HTTP 500- og 503-fejl på vores Object Storage-platform. Enkelte requests kan fejle, mens platformen i øvrigt kører, og et retry vil som regel lykkes umiddelbart efter.

Vi fejlsøger fortsat aktivt på årsagen, sammen med software leverandøren.

Berørte kunder:
Kunder med følgende services er påvirket:

  • objXXXX.obj.storagefactory.io

Risiko for nedetid:
[LAV] – Enkelte HTTP-requests kan fejle; et retry vil som regel løse det.

Opdateringer

  • 2 hours ago

    Vi oplever fortsat periodiske HTTP 500- og 503-fejl på platformen, og der arbejdes fortsat på sagen sammen med software leverandøren.

    Her til morgen er der lavet adskillige konfigurationsændringer på platformen for at afhjælpe problemet.

    Vi kommer med den næste status i morgen, onsdag d. 23. september, kl. 10:00 - eller tidligere, hvis der er væsentligt nyt.

  • 20 hours ago

    Vi oplever fortsat små, periodiske HTTP 500- og 503-fejl på platformen, hvor et retry som regel løser requestet.

    Der arbejdes stadig på sagen sammen med software leverandøren, og platformen monitoreres løbende.

    Vi kommer med den næste status i morgen, tirsdag d. 22. september, kl. 10:00 – eller tidligere, hvis der er væsentligt nyt.

  • 22 hours ago

    Ingen væsentlig ændring siden sidste status: Vi ser fortsat sporadiske HTTP 500- og 503-fejl på platformen, og der arbejdes stadig på at finde og rette årsagen sammen med software leverandøren.

    Et retry løser som regel de requests, der fejler.

    Vi kommer med den næste status kl. 16:00 - eller tidligere, hvis der er væsentligt nyt.

  • 1 day ago

    Status på platformen: Antallet af HTTP 503-fejl er nu nærmest forsvundet, mens antallet af HTTP 500-fejl fortsat er faldende, men endnu ikke helt væk.

    Platformen monitoreres løbende, og der arbejdes videre på sagen sammen med software leverandøren.

    Vi kommer med den næste status kl. 14:00 - eller tidligere, hvis der er væsentligt nyt.

  • 2 days ago

    Problemet er endnu ikke løst, og der arbejdes fortsat på sagen sammen med software leverandøren.

    Omfanget er uændret: meget sporadiske HTTP 500- og 503-fejl, hvor et retry som regel løser requestet.

    Vi forventer at komme med den næste status i morgen, mandag d. 21. september, kl. 10:00 - eller tidligere, hvis der er væsentligt nyt.

  • 2 days ago

    Vi oplever stadig meget sporadiske HTTP 500- og 503-fejl på platformen, men på et væsentligt lavere niveau end tidligere.

    Platformen monitoreres fortsat, og sagen følges sammen med software leverandøren.

    Vi kommer med den næste status i morgen, søndag d. 20. september, kl. 11:00 - eller tidligere, hvis der er væsentligt nyt.

  • 2 days ago

    Vi arbejder fortsat aktivt på sagen i tæt samarbejde med software leverandøren.

    Den tidligere udmeldte forbedring holder: Antallet af HTTP 503-fejl er faldet markant og ligger nu på et meget lavt niveau, mens der fortsat opstår periodiske HTTP 500-fejl. Software leverandøren arbejder videre på at finde og rette årsagen hertil.

    Fejler et enkelt request, lykkes et retry som regel umiddelbart efter, og de fleste kunder vil derfor ikke bemærke noget til fejlene.

    Platformen monitoreres fortsat løbende.

    Vi kommer med en ny status igen kl. 21:00 – eller tidligere, hvis der er væsentligt nyt.

  • 2 days ago

    Vi arbejder fortsat på sagen.

    Der er allerede indført adskillige tiltag på platformen i samarbejde med software leverandøren, og det har haft en tydelig effekt: Antallet af fejlede requests (HTTP 500 og 503) er markant reduceret i løbet af dagen, men fejlene er endnu ikke helt væk.

    Fejlsøgningen fortsætter, og platformen monitoreres løbende.

    Vi kommer med en ny status igen kl. 18:00 – eller tidligere, hvis der er væsentligt nyt.

Udfald på GPU-as-a-Service Nedbrud Løst

Start: 9 days ago 9 days ago
Beskrivelse af udmelding

Vi har i nat oplevet udfald på vores GPU-as-a-Service platform. Følgende maskiner var berørt:

  • node73.gpufactory.io
  • node90.gpufactory.io
  • node91.gpufactory.io
  • node101.gpufactory.io
  • node115.gpufactory.io

Udfaldet startede kl. 02:30, og maskinerne er online igen fra kl. 04:10.

Vi beklager de gener, dette måtte medføre.

Object Storage-platformen ustabil Nedbrud Løst

Start: 14 days ago 13 days ago
Beskrivelse af udmelding

Årsag til hændelse: Platform ustabil/utilgængelig

Vores Object Storage-platform er på nuværende tidspunkt meget ustabil, og betragtes som værende utilgængelig.

Platformen blev midlertidig stabiliseret ca 10:02, dog er problemet genopstået ca 11:04.

Vi fejlsøger fortsat aktivt på årsagen, sammen med leverandøren.

Berørte kunder:
Kunder med følgende services er påvirket:

  • objXXXX.obj.storagefactory.io

Risiko for nedetid:
[Høj] – Platformen er utilgængelig.

Næste opdatering:
12:00 – eller tidligere, hvis der er væsentligt nyt.

Opdateringer

  • 12 days ago

    Platformen har kørt stabilt i 24 timer - vi anser derfor problemet for værende løst.

  • 13 days ago

    Platformen kører fortsat stabilt med workaround. Vores leverandør arbejder på en permanent løsning, med mindst mulig påvirkning af driften for øje.
    Vi fortsætter med at overvåge platformen (udvidet), så vi hurtigst muligt kan fange eventuelle problemer.
    Vi melder tilbage med en status så snart det er muligt.

  • 13 days ago

    Platformen er stabil med workaround implementeret, i samarbejder med leverandøren (kl 11:14)
    Vi arbejder på at finde en permanent løsning, sammen med leverandøren
    I mellemtiden holder vi ekstra øje med platformen, så vi kan reagere hurtigt hvis nødvendigt

  • 13 days ago

    Platformen er igen stabiliseret (ca. 11:14), dog fejlrettes der stadig.
    Vi kommer med en status igen kl 13:00

Incident TSM16.zitcom.dk backup server down Nedbrud Løst

Start: 15 days ago 14 days ago
Beskrivelse af udmelding

TSM16.zitcom.dk Backup Server is currently down.
Scheduled backups and restores via TSM16 are currently unavailable.
Restores can still be performed directly from the target server.
We are actively troubleshooting the issue in coordination with our backup supplier. Next update will be provided as soon as new information is available.

Opdateringer

  • 14 days ago

    The server is back online, and backup and restore services are fully available again.
    Sorry for the inconvenience.

Problemer med Veeam Cloud Connect platform Nedbrud Løst

Start: 19 days ago 19 days ago
Beskrivelse af udmelding

Vi ser i øjeblikket problemer med vores Veeam Cloud Connect platform, der betyder at backup og restore pånuværrende ikke kan køre igennem korrekt.

Følgende services er berørte:

  • veeamrepoX.hostedservices.nu

Følgende abonnemter er berørte:

  • CloudRepo
  • AgentRepo

Vi er ved at undersøge sagen og kommer med en opdatering senest kl. 11:00 eller før hvis der er nyt i sagen

Opdateringer

  • 19 days ago

    Vi hører fra flere kunder at systemet igen ser ud til at kører som skal.

    Vi monitorer forsat incident resten af dagen.

Opgradering af firewall Planlagt arbejde

Start: in 5 days - Forventet slut: in 5 days
Beskrivelse af udmelding

Årsag til afvikling: Opdatering af firewall
Vi opgraderer vores firewall for at få rettet sikkerhedshuller og fejl.

Kunder med følgende services kan blive påvirket under servicevinduet i form af manglende netværksadgang til og fra servere og services:

  • Shared webhosting
  • Shared mail
  • Hjemmesideprogram
  • Enterprisecloud.nu

Dandomain - services der benytter følgende ip ranges:
94.143.8.1 - 94.143.15.254
194.150.112.1 - 194.150.115.254
194.255.15.1 - 194.255.15.30
194.255.46.1 - 194.255.46.254

Risiko for nedetid:
[MELLEM] Den berørte del indgår som del i et redundant setup, hvorfor vi forventer at kunne udføre opdateringen med få sekunders nedetid.

Opgraderings proces:

  1. Der bliver taget backup af den eksisterende firmware + konfiguration.
  2. Opgradering af firmware.
  3. Monitorering af systemerne

Fallback-plan:
Mere end 30 minutters nedetid igangsætter følgende fallback-plan:

  1. Gammel firmware installeres igen
  2. Backup af konfigurationen indlæses

Haste opdatering - Veeam Service Provider Console Planlagt arbejde Løst

Start: 5 days ago - Slut: 4 days ago
Beskrivelse af udmelding

Årsag: Kritisk sårbarhed

Services: Følgende services vil være berørt under servicevinduet

Indvirkning:

  • Kontrolpanel vil være sporadisk utilgængelig i hele servicevinduet.
Opdateringer

  • 4 days ago

    Veeam Service Provider Console opdateringen er fuldtendt og igen tilgængelig

Opgradering af Object Storage platform Planlagt arbejde Løst

Start: 7 days ago - Slut: 3 days ago
Beskrivelse af udmelding

Årsag til afvikling: Opgradering af Object Storage platform

Vi opgraderer backend til en nyere version.

Kunder med følgende services er berørt af denne opdatering:

  • objXXXX.obj.storagefactory.io

Der kan være korte udfald på enkelte requests som de bagvedliggende noder opgraderes.

Vi beklager de gener det kan medføre.

Opgradering af Veeam Cloud Connect til version 13.1 Planlagt arbejde Løst

Start: 7 days ago - Slut: 6 days ago
Beskrivelse af udmelding

Vi opgraderer vores resterende Veeam Cloud Connect platform til Veeam version 13.1.

Bemærk, at Veeam Backup & Replication servere der ikke kører version 12.3.2.X eller nyere, ikke længere er supporteret af Cloud Connect'en efter opgradering til version 13.1.

Vigtig information om servicevinduet

  • Tidspunkt: Mellem kl. 07:00 og 21:00
  • Backup & Restore: Grundet arbejdet der skal udføres for at få de resterende servere i Cloud Connect platformen, vil backup & & restore være utilgængelig i det meste af service vinduet. Når platformen er opgraderet kommer der en opdatering herpå, og backup & restore vil være tilgængelig igen herefter.

Berørte abonnementer:

  • CloudRepo
  • AgentRepo

Services: Følgende services vil være berørte under servicevinduet

  • Veeam Cloud Connect: veeamrepo*.hostedservices.nu
Opdateringer

  • 6 days ago

    Opgraderingen er fuldendt og platformen er online igen

Infrastructure upgrade of TSM Backup Servers Planlagt arbejde Løst

Start: 13 days ago - Slut: 12 days ago
Beskrivelse af udmelding

Our TSM Backup service provider will be performing scheduled maintenance on TSM backup servers. During this period, backup operations will be unavailable.
Restore operations will still be possible from target servers. The following backup servers will be affected:
TSM27.zitcom.dk
TSM20.zitcom.dk
TSM24.zitcom.dk
TSM1.zitcom.dk
TSM10.zitcom.dk
TSM12.zitcom.dk
TSM14.zitcom.dk
TSM16.zitcom.dk
TSM3.zitcom.dk
TSM7.zitcom.dk
TSM9.zitcom.dk

Konfigurations rettelse på Object Storage platform Planlagt arbejde Løst

Start: 20 days ago - Slut: 20 days ago
Beskrivelse af udmelding

Årsag til afvikling: Konfigurationsrettelse på Object Storage-platformen

For at rette periodiske 500-fejl i særligt belastede perioder retter vi en række indstillinger på Object Storage-platformen. Dette kræver, at vi genstarter services på noderne én ad gangen.

Under genstarten kan enkelte HTTP-requests fejle med en HTTP 500-fejl. Et retry vil som regel løse dette umiddelbart efter.

Berørte kunder:

Kunder med følgende services er berørt af denne konfigurationsrettelse:

  • objXXXX.obj.storagefactory.io

Risiko for nedetid:

[LAV] – Services genstartes én node ad gangen, hvorefter de øvrige noder overtager trafikken, indtil den genstartede node er klar igen.

Opgradering af Veeam Cloud Connect til version 13.1 Planlagt arbejde Løst

Start: 21 days ago - Slut: 19 days ago
Beskrivelse af udmelding

Vi opgraderer vores Veeam Cloud Connect platform til Veeam version 13.1.

Bemærk, at Veeam Backup & Replication servere der ikke kører version 12.3.2.X eller nyere, ikke længere er supporteret af Cloud Connect'en efter opgradering til version 13.1.

Vigtig information om servicevinduet

  • Tidspunkt: Mellem kl. 10:00 og 16:00
  • Backup & Restore: Vil være utilgængeligt i ca. 4 timer fra opstart af arbejdet.

Berørte abonnementer:

  • CloudRepo
  • AgentRepo
  • CloudLic

Services: Følgende services vil være berørte under servicevinduet

  • Veeam Cloud Connect: veeamrepo*.hostedservices.nu
  • Veeam Cloud Connect: veeambilling2.hostedservices.nu
Opdateringer

  • 19 days ago

    Migrering aflyst og dermed også upgrade til 13.1

    Beklageligvis må vi aflyse migreringen af Cloud Connect serverne til ny OS grundet større implikationer på Veeam Service Provider Console enden.

    Det er flere og store implekationer i migreringen af Cloud Connect serverne end først ansat, der kræver et større forbedredelse arbejde for at kunne udføre migreringen.

    De gamle servere er taget online igen, og er igen tilgængelig på kunde siden.

    Vi beklager meget for de gener der har måtte være med opgraderingen i går og i dag.

    Når vi har en fuldendt plan for migreringen, vil der komme en ny drift umelding.

  • 20 days ago

    Problemer med opgradering. Løsning rullet tilbage

    Der er problemer med det underliggende OS på de servere som hoster CloudRepo og AgentRepo.

    Vi har taget en beslutning om at rulle serverne er tilbage til før upgrade, for at undgå yderligere nedetid på løsningen i dag.

    Derfor er der planlagt et nyt service vindue i morgen mellem 10:00 og 14:00, hvor løsningen migreres til nogen nye servere og efterfølgende opgraderes til version 13.1

    Vi beklager for de gener dette måtte have.

  • 20 days ago

    Følgende abonnementer og services er online igen:

    • CloudLic
    • Veeam Cloud Connect: veeambilling2.hostedservices.nu

    Følgende abonnementer og services er fortsat offline pga. opgraderingen, og nedetid for opgraderingen er udvidet til kl. 18:00.

    • CloudRepo
    • AgentRepo
    • Veeam Cloud Connect: veeamrepo*.hostedservices.nu

Konfigurations rettelse på Object Storage platform Planlagt arbejde Løst

Start: 24 days ago - Slut: 24 days ago
Beskrivelse af udmelding

Årsag til afvikling: Konfigurationsrettelse på Object Storage-platformen

For at rette periodiske 500-fejl i særligt belastede perioder retter vi en række indstillinger på Object Storage-platformen. Dette kræver, at vi genstarter services på noderne én ad gangen.

Under genstarten kan enkelte HTTP-requests fejle med en HTTP 500-fejl. Et retry vil som regel løse dette umiddelbart efter.

Berørte kunder:

Kunder med følgende services er berørt af denne konfigurationsrettelse:

  • objXXXX.obj.storagefactory.io

Risiko for nedetid:

[LAV] – Services genstartes én node ad gangen, hvorefter de øvrige noder overtager trafikken, indtil den genstartede node er klar igen.

Planlagt Opgradering af infrastruktur på OnPay betalingsløsning Planlagt arbejde Løst

Start: 27 days ago - Slut: 27 days ago
Beskrivelse af udmelding

Planlagt opgradering af infrastruktur Kunder med følgende services kan blive påvirket under servicevinduet i form af manglende netværksadgang til servicen: Betalingsgateway.
Risiko for nedetid: Høj. Selvom de berørte dele indgår som del i et redundant setup, kan platformen være utilgængelig, da kritiske komponenter opdateres. Forventede længste udfald er på 1 min.