リクルート（エージェント型AI基盤）

チャット型は現行の業務フローがベースのため生産性改善は10〜20%にとどまる。一方でエージェント型は業務プロセスそのものに編み込まれ、リードタイムを10分の1、20分の1に変える。だからこそ部分導入では効かず、全員が使えることが必要条件だと判断した。

Claude Code のランチャーから LiteLLM を経由し、Amazon Bedrock 上のクローズドモデルと自社 GPU サーバー上のオープンウェイトモデルの双方を扱える共通基盤を構築した。想定外のトークン利用によるコスト爆発を防ぐため、オープンウェイトモデルでコストを固定費化し、LiteLLM で月間上限に達したら利用不可にする制御を入れた。勉強会や非エンジニア向けの GUI ランチャーで利用を促進した。

全員に配る前提で設計すると、コスト上限の制御と非エンジニア向けの入口をセットで用意する必要がある。