AWS、高速起動にこだわった軽量なJavaScriptランタイム「LLRT」（Low Latency Runtime）をオープンソースで公開。AWS Lambdaでの利用にフォーカス

Amazon Web Services（AWS）は、実験的な実装としてサーバレス環境のAWS Lambdaで使うことにフォーカスした軽量なJavaScriptランタイム「LLRT」（Low Latency Runtime）をオープンソースで公開しました。

LLRTはRustで開発され、JavaScriptエンジンにはQuickJSを採用しています。

LLRTの最大の特徴は、現在のJavaScriptランタイムにおいて性能向上のために搭載されているJITコンパイラをあえて搭載せず、よりシンプルで軽量なランタイムとして実装することで高速に起動することにこだわっている点です。

これにより（Node.jsやDenoやBunなどの）既存のJavaScriptランタイムと比較して起動速度が10倍高速で、AWS Lambdaでのコスト低減効果が最大で2倍になっていると説明されています。

AWS Lambdaでは、小さな関数となったJavaScriptコードが何らかのイベントをトリガーにして起動され、処理が終わればすぐに終了する、という動作を何度も繰り返します。

AWS Lambadaの料金はランタイムの起動にかかる時間も含まれるため、ランタイムの起動が遅いと、何度も起動と終了を繰り返すたびにその起動にかかる時間分の料金が発生してしまいます。そのためAWS Lambadaにおけるランタイムは、より高速に起動することが重視されます。

一方で、コードの実行そのものは短時間ですぐに終了してしまうため、コードの実行速度の優劣がそこまで大きなコストの差にならない可能性が高いわけです。

JITコンパイラは複雑でランタイムを肥大化させてしまう

LLRTがこのようなAWS Lambadaでの使用にフォーカスした結果、JITコンパイラを搭載しないという決断に至った背景についてはREADMEの中で次のように説明されています。少し長いのですが、分かりやすい内容ですのでそのまま引用します。

Node.js, Bun, and Deno represent highly proficient JavaScript runtimes. However, they are designed with general-purpose applications in mind. These runtimes were not specifically tailored for the demands of a Serverless environment, characterized by short-lived runtime instances. They each depend on a (Just-In-Time compiler (JIT) for dynamic code compilation and optimization during execution. While JIT compilation offers substantial long-term performance advantages, it carries a computational and memory overhead.

Node.js、Bun、そしてDenoは、非常に高性能なJavaScriptランタイムですが、これらはさまざまな用途のアプリケーションを念頭に置いて設計されています。つまりこれらのランタイムは、ごく短時間だけ実行されるインスタンスを特徴とするサーバレス環境の要求に合わせて特別に作られてはいないのです。これらのランタイムはそれぞれ、実行中のコードの動的なコンパイルと最適化をJITコンパイラに依存しています。JITコンパイルは、長時間に実行されるアプリケーションでは性能面で非常に有利ですが、計算量とメモリ消費の点で大きなオーバーヘッドを伴います。

In contrast, LLRT distinguishes itself by not incorporating a JIT compiler, a strategic decision that yields two significant advantages:

A) JIT compilation is a notably sophisticated technological component, introducing increased system complexity and contributing substantially to the runtime's overall size.

B) Without the JIT overhead, LLRT conserves both CPU and memory resources that can be more efficiently allocated to code execution tasks, thereby reducing application startup times.

これらのJavaScriptランタイムとは対照的に、LLRTはJITコンパイラを組み込まないことで次のような差別化を図っています。

A）JITコンパイルは非常に高度な技術であるためシステムの複雑性を増大させ、ランタイム全体のサイズを拡大させてしまう。

B）JITコンパイラのオーバーヘッドをなくすことで、LLRTはCPUとメモリのリソースを節約し、効率的にコードを実行する処理に割り当ててアプリケーションの起動時間を短縮できる。

LLRTはNode.jsのAPI仕様に基づいているため、Node.jsで動作するコードからの移行は容易とされていますが、完全互換ではなく全てのAPIが実装されているわけではないため、詳しい互換性についてはAPIドキュメントなどを参照する必要があります。

llrtは実験的実装としてベータ版の状態ですが、GitHubのREADMEにはAWS Lambdaでの試し方なども載っているため、興味のある方は参照してみてください。