Publickey Smart Edition β3

Microsoft Azure、DNSの設定変更に失敗して全世界的にサービス障害。日本は十連休中だったのが不幸中の幸いか

2019年5月 9日


Microsoft Azureは、2019年5月2日午後7時43分から午後10時35分まで(日本時間 2019年5月3日午前4時43分から午前7時35分まで)の約3時間、DNSの名前解決に問題が発生。

ほぼ全世界的に、Microsoft AzureをはじめOffice 365/Microsoft 365やMicrosoft Dynamicsなど同社サービスに対する接続ができなくなるという大規模な障害を起こしました。

fig 障害発生から数時間後のdowndetector.comの画面。まだ世界中で影響が残っていることが示されている

この大規模障害の原因は、同社サービス用のDNSのメンテナンス作業のミスが原因だったと発表されました(中間報告の段階では既存のDNSからAzure DNSへのマイグレーション作業に失敗したと報告されていました。現在の報告では計画メンテナンス作業での失敗だとされています)。

報告内容の原因の部分を引用します。

Root cause: As part of planned maintenance activity, Microsoft engineers executed a configuration change to update one of the name servers for DNS zones used to reach several Microsoft services, including Azure Storage and Azure SQL Database. A failure in the change process resulted in one of the four name servers' records for these zones to point to a DNS server having blank zone data and returning negative responses.

根本原因: マイクロソフトのエンジニアが、計画されたメンテナンスの一環としてAzure StorageやAzure SQL Databaseなどを含む複数のマイクロソフトサービス群にアクセスするために使用されるDNSゾーンのネームサーバの1つについて設定変更を行った。この変更作業の失敗により、4つのネームサーバのレコードのうち1つが空白のゾーンデータを持ったDNSサーバを指定することとなったため、不在応答が返るようになった。

The result was that approximately 25% of the queries for domains used by these services (such as database.windows.net) produced incorrect results, and reachability to these services was degraded. Consequently, multiple other Azure and Microsoft services that depend upon these core services were also impacted to varying degrees.

その結果、これらのサービス群(database.windows.netなど)で用いられるドメインへのクエリの25%で誤った結果が生成され、サービスへのリーチャビリティが低下。これらコアサービスに依存する他のAzureやマイクロソフトサービスにももさまざまな程度の影響が出た。

エンジニアはすぐに値を元に戻して解決をはかったものの、キャッシュされた情報により問題が長引いたものもあったと。

Mitigation: To mitigate the issue, Microsoft engineers corrected the delegation issue by reverting the name server value to the previous setting. Engineers verified that all responses were then correct, and the DNS resolvers began returning correct results within 5 minutes. Some applications and services that accessed the incorrect values and cached the results may have experienced longer restoration times until the expiration of the incorrect cached information.

対応策:エンジニアはネームサーバーの値を以前の設定に戻すことでデレゲーションの問題を修正。すべての応答が正しいことを確認し、DNSリゾルバは5分以内に正しい結果を返し始めた。不正な値にアクセスして結果をキャッシュしたいくつかのアプリケーションおよびサービスは、キャッシュされた不正な情報が期限切れになるまで問題が長引いたものもあった。

マイクロソフトは今後こうした障害を起こさないための施策として、ネームサーバ更新時のチェック体制の追加、設定変更後の振る舞いを予測するための実行前モデリングによる結果予測、問題を迅速に検出するためのゾーン毎、ネームサーバ毎のモニタリングの追加、変更による影響をさらに小さくするためのステージドロールアウトを可能にするDNSネームスペースの設計改善などを行うとしています。

今回の障害により同社のサービスに依存している世界中のサービスに影響がありましたが、日本では十連休中の、しかも日本時間では早朝だったこともあって国内のサービスに大きな影響はなかったように見られるのが不幸中の幸いでした。

ただ、障害対応のために連休中の早朝に叩き起こされたシステム管理者の方々にとっては大変迷惑だったはずです。お疲れ様でした。



≫次の記事
「Nutanix on AWS」、AWS上にNutanixシステムを構築できる新サービス「Xi Clusters」発表。ハイブリッドクラウドの構築が容易に
≪前の記事
Visual Studio 2019正式リリース/Googleが新サービス「Anthos」公開。Kubernetesベースでマルチクラウド/大手クラウドに不満のMongoDB、RedisらがGoogleと戦略的提携、ほか。2019年4月の人気記事


新着記事

Home PC版Homeへ

お知らせ:Publickey Smart Editionは、現在ベータ版として無料で試験運用中です。