トークン(AI)とは — AI が文を数える単位
4 分で読む
AI サービスや API の料金表を見ていると、「100 万トークンあたり ○○ ドル」「入力トークン」「出力トークン」といった言葉が必ず登場します。
トークンとは文字数と何が違うのか、日本語 1 文字は何トークンになるのか、そして API 連携でよく聞く「アクセストークン」とは同じものなのか。
IT連携マップ編集部が 3 大 AI 製品での実機計測データをもとに、ゼロから分かりやすく解説します。
日本語 1,000 字は何トークンになるのか?
トークンとは、AI モデルが文章を読み書きするときに数える「文字のかたまり」です。
日本語でも英語でも、「1 文字 = 1 トークン」ではありません。何文字が 1 トークンになるかは、モデルによって違います。
IT連携マップ編集部は 2026 年 10 月に、総務省「令和7年版 情報通信白書」の日本語 1,000 文字と、全く同じ内容を英訳した英文(383 単語)を 3 つの主要 AI エージェントに送信し、実際に何トークンとして消費されたかを測定しました(各 3 回の中央値)。
| AI エージェント(搭載モデル) | 日本語 1,000 文字 | 同一内容の英文 383 語 | 1 文字あたりの平均トークン換算 |
|---|---|---|---|
| Claude Code(Claude Fable 5.1) | 863 トークン | 723 トークン | 約 0.86 トークン / 文字 |
| Codex(GPT-5.6 Terra) | 715 トークン | 506 トークン | 約 0.72 トークン / 文字 |
| Antigravity CLI(Gemini 4 Argon) | 525 トークン | 521 トークン | 約 0.53 トークン / 文字 |
測ってわかった 2 つの重要な事実
- 同じ日本語 1,000 文字でも、モデルによってトークン数が最大 1.6 倍違う Gemini 4 Argon(525 トークン)は、Claude Fable 5.1(863 トークン)より約 39% 少ないトークン数でした。文をトークンに区切る方法(トークナイザー)が、モデルごとに違うためと見られます。
- 言語による消費効率の違い Codex(GPT 系)では、同じ内容を伝えるのに日本語(715 トークン)は英語(506 トークン)の約 1.4 倍のトークンを消費します。一方、Gemini 4 Argon では日本語(525 トークン)と英語(521 トークン)でほぼ差がありませんでした。
そのため、文字数だけで費用や制限を見積もることはできず、使うモデルで数えたトークン数で計算する必要があります。
料金とコンテキストウィンドウの大きさは、どうトークンで決まるのか?
料金・使用量・コンテキストウィンドウは、文字数ではなくトークン数で決まります。
| 指標 | トークンとの関係 |
|---|---|
| API の従量課金料金 | 送った「入力トークン数」と、書いた「出力トークン数」のそれぞれに、100 万トークンあたりの単価が掛けられます。入力と出力で単価が違います |
| 使用量(定額のプラン) | 送ったトークンと書いたトークンが多いほど、早く使用量制限に達します |
| 参照できるテキストの量(コンテキストウィンドウ) | 「100 万トークン」のように、トークン数で決められています |
| プロンプトキャッシュの割引 | 先頭の共通部分を再利用できたトークンは、料金が通常の 1 割以下になります(プロンプトキャッシュとは) |
Anthropic の文書は、90 万トークンのリクエストも 9 千トークンのリクエストも、1 トークンあたりの単価は同じだと書いています。 出典を開く確認 2026-10-18Claude API Docs(pricing)原文
A 900k-token request is billed at the same per-token rate as a 9k-token request.
また、AI エージェントはチャットで 1 言話しかけるたびに、背後でシステム指示やツール定義をまとめて送信するため、「質問文のトークン数」より「毎回一緒に送られる物のトークン数」の方がずっと大きくなる点に注意が必要です(コンテキストとは)。
認証のトークンとは何が違うのか?
IT やクラウド連携の分野では、セキュリティ用語としても「トークン」という言葉が頻出します。これらは名前が同じだけで、別の物です。
| 用語 | 意味と役割 | 実際の使われ方(文例) |
|---|---|---|
| トークン(AI) | AI モデルが文の量を数える単位。料金もこれで数える | 「プロンプトの入力トークン数が 2 万を超えた」 |
| トークン(認証) | クラウドや API に接続するときに、本人であることを示す文字列(認証情報) | 「OAuth アクセストークンの有効期限が切れたので更新する」 |
「トークンの漏洩に注意」と言うときは認証トークン(鍵)を指し、「トークンの消費を節約する」と言うときは AI の計算トークンを指します。認証トークンの管理については API トークンはいつ切れ、取り消せるか で詳しく解説しています。
ここから先は調査の詳細です(約 1 分)。上のカードだけで決められます。調べた 1 件ずつの記録は IT連携マップ に、出典 URL と調査日つきで公開しています。
調査の詳細
IT連携マップ編集部は 2026 年 10 月に、同一の日本語テキストと英訳テキストを用意し、Claude Code 2.1.302、Codex 0.163.0、Antigravity CLI 1.4.2 の 3 製品で、各製品の記録(usage)からトークンの増え方を測りました。
検証パラメータ
| 項目 | 詳細条件 |
|---|---|
| 日本語検証テキスト | 総務省「令和7年版 情報通信白書」第Ⅰ部第1章第2節本文の先頭 1,000 文字(図表・注記を除去) |
| 英語検証テキスト | 上記 1,000 文字と同じ内容を英語にした 383 語の文章 |
| 測定方法 | ① ベースプロンプト Reply with the word ok. のトークン数を測定 → ② 対象テキストを付与して再送 → ③ その差分を入力トークン純増数として算出 |
| 試行回数 | 各製品 3 回試行(中央値を採用) |
Codex の 1 回は、文を付けない場合の入力トークンがほかの 2 回より 390 少なく、差が大きく出ました(日本語 1,105・英文 896)。表は 3 回の中央値なので、この回の数は入っていません。
自身の環境でトークン数を計測するコマンド
各エージェントの CLI 出力を JSON モードに設定することで、正確なトークン消費ログを取得できます(自分で測るコマンド)。