Amazon S3、データの整合性確認を最大90%高速化。新たなオブジェクトのチェックサムアルゴリズム追加で

2022年3月1日

Amazon Web Services(AWS)は、オブジェクトストレージサービスを提供しているAmazon S3の新機能として、新たなチェックサムアルゴリズムによってより簡単かつ迅速にAmazon S3に保存するオブジェクトの整合性をチェック出来る機能を発表しました

Amazon S3ではすでにMD5がチェックサムとして利用されていますが、今回、広く使われている4種類のチェックサムアルゴリズム、「SHA-1」「SHA-256」「CRC-32」「CRC-32C」を追加。オブジェクトをAmazon S3にアップロードする際に、このチェックサムを用いてデータの整合性を迅速に確認できるようになりました。

チェックサムが検証され、一致したときのみアップロードを受け付け

この新機能に対応した最新のAWS SDKを用いると、新たに追加されたチェックサムアルゴリズムを用いてあらかじめAmazon S3に保存するオブジェクトのチェックサムを計算しておき、それをオブジェクトのアップロード時にHTTPのTrailerヘッダ内にチェックサムを格納して送信。Amazon S3は実際にアップロードされるオブジェクトのチェックサムを検証し、一致したときのみアップロードを受け付ける、ということが可能になります。

さらにマルチパートアップロードでは、AWS SDKはクライアントサイドの並列処理を利用することで、各パートのチェックサムを計算するようになりました。各パートのチェックサムをまとめたチェックサムも計算され、アップロードが完了する時点でAmazon S3に送信されます。

Amazon S3に送信されたチェックサムは、その後メタデータとしてオブジェクトと一緒に保存され、必要に応じて取得可能となります。

あわせて読みたい

AWS クラウド




タグクラウド

クラウド
AWS / Azure / Google Cloud
クラウドネイティブ / サーバレス
クラウドのシェア / クラウドの障害

コンテナ型仮想化

プログラミング言語
JavaScript / Java / .NET
WebAssembly / Web標準
開発ツール / テスト・品質

アジャイル開発 / スクラム / DevOps

データベース / 機械学習・AI
RDB / NoSQL

ネットワーク / セキュリティ
HTTP / QUIC

OS / Windows / Linux / 仮想化
サーバ / ストレージ / ハードウェア

ITエンジニアの給与・年収 / 働き方

殿堂入り / おもしろ / 編集後記

全てのタグを見る

Blogger in Chief

photo of jniino

Junichi Niino(jniino)
IT系の雑誌編集者、オンラインメディア発行人を経て独立。2009年にPublickeyを開始しました。
詳しいプロフィール

Publickeyの新着情報をチェックしませんか?
Twitterで : @Publickey
Facebookで : Publickeyのページ
RSSリーダーで : Feed

最新記事10本