Fly.io、AIエージェント向け高速実行基盤「Sprites」を発表
- •Fly.ioがAIエージェントのタスク向けに、1秒未満で起動する使い捨てコンピューター「Sprites」を導入。
- •ウォーム状態のコンテナプールとS3ストレージの活用により、従来の1分におよぶ起動遅延を解消。
- •SQLiteとLitestreamを用いた新アーキテクチャにより、300ミリ秒での高速な状態保存と復元が可能。
テックブロガーで開発者のSimon Willisonが、Fly.ioの共同創業者であるThomas Ptacekから得た「Sprites」に関する知見を共有した。これは使い捨て型コンピューティングへの新たなアプローチである。AIエージェントが信頼できないコードを実行するなどのタスク向けに設計されており、従来の仮想マシンが抱えていた遅延問題を解決する。マシンが起動するまで1分待つ代わりに、ユーザーは1秒未満で「Sprite」を利用できる。この速度は、すべて同じ標準化されたコンテナを実行する「ウォーム」状態のマシンプールを維持することで実現された。 基盤となるストレージシステムは革新的で、「リードスルー・キャッシュ」モデルを採用している。従来のシステムはローカルのNVMeドライブに依存しているが、Spritesはこれらのドライブをオブジェクトストレージに保存されたデータの一時的なキャッシュとして扱う。データの場所を管理するため、システムはローカルのSQLiteデータベースで駆動する独自のメタデータレイヤーを使用する。このメタデータは、データベースの変更をレプリケートしてマシンの故障時でも情報を失わないようにするツール、Litestreamによって保護されている。 このアーキテクチャにより、約300ミリ秒で完了するチェックポイントと復元を含む高速な操作が可能になった。これは、コンピューターの状態をほぼ瞬時に保存し、再開できることを意味する。「使い捨て」のインフラに注力することで、Fly.ioは安全なコード実行環境を提供する。これは言語モデルが生成したコードを実行するコーディングツールにとって不可欠だ。この構成により、高いパフォーマンスを維持しつつ、有害な可能性のあるコードがホストシステムに影響を与えるのを防いでいる。