ビジネス向け AI エージェント

エージェントがインフラに求めるもの

エージェントとは「モデル → ツール → モデル」のループであり、本番で壊れるものの大半はモデルへのアクセス層で壊れます。上限に達した、プロバイダーがエラーを返した、その工程だけ安いモデルや強いモデルが必要になった——私たちの API が引き受けるのはその部分です。

エージェントを動かすモデル

価格は入力 100 万トークンあたり、安い順です。表は稼働中のカタログから読み込まれるため、実際にキーで呼べるものとずれることはありません。

何が作られているか

企業が着手することの多い 4 つの形です。網羅的な一覧ではなく、作業規模の目安と考えてください。

エージェントの接続方法

統合とは、すでに書いてあるコードの base URL とキーを差し替えることです。当社独自の SDK は不要で、OpenAI と Anthropic の形式に対応しているため、エージェントのフレームワーク・ツール・プロンプトはそのまま使えます。

1. 1

   キーを取得する

   登録して残高を入金し、管理画面で API キーを作成します。1 本のキーでチャットもメディアも含む全モデルを利用できます。

2. 2

   base URL を切り替える

   OpenAI または Anthropic のクライアントに当社のアドレスとご自身のキーを設定します。ツール、記憶、呼び出しチェーンなどエージェントの残りは変更不要です。

3. 3

   工程ごとにモデルを割り当てる

   その工程に必要なモデルを model フィールドで指定します。モデル別・キー別の消費は管理画面の統計に表示されます。

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["API_KEY"],
    base_url="https://api.api-stock.com/api/v1",
)

response = client.chat.completions.create(
    model="gpt-6-luna",
    messages=[{"role": "user", "content": "..."}],
    tools=tools,
)

curl https://api.api-stock.com/api/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-luna",
    "messages": [{"role": "user", "content": "..."}]
  }'

よくある質問