Amazon MemoryDBのベクトル検索機能が正式リリース。数百万のベクトル埋め込みを保存し、数ミリ秒でベクトル検索を実現

Amazon Web Services（AWS）は、Amazon MemoryDBのベクトル検索機能が正式版となったことを明らかにしました。

機械学習や生成AIとの組み合わせにおいて、テキストや画像などを「エンベディング」（埋め込み）と呼ばれるベクトルで表現した上で、そのデータを保存し、取得、検索するなどのベクトルデータベースの機能は、いまさまざまなデータベースへの実装が進んでいます。

今回、ベクトル検索機能が正式版となったAmazon MemoryDBは、オープンソースとして実装されたインメモリのキーバリューストアであるRedis互換のインメモリデータベースです。

その名前の通りデータ操作はメモリ上で行われるため、超高速にデータの保存や読み出しが可能である点が最大の特徴です。数ミリ秒でのクエリと更新を実現します。

この高速性を活かして、大規模言語モデルにおけるRAG（Retrieval-Augmented Generation）のためのリアルタイムなセマンティンクサーチの実現（下図）や、大規模言語モデルに対するプロンプトへの回答をキャッシュしておくことで、似たようなプロンプトに対してキャッシュから返答することで大規模言語モデルの計算量を減らすことなどの実装に役立つと説明されています。