プロンプトや資料の文章を貼り付けるだけで、主要なAIモデル系統ごとのトークン数の目安と、 コンテキストウィンドウの使用率をその場で確認できます。
テキストを入力
0文字入力中
文字数
0
空白除く 0
単語数(目安)
0
行数
0
日本語文字数
0
文字種の内訳
モデル別トークン数の目安
コンテキストウィンドウ使用率
GPT-4o系基準:約0 / 128,000 トークン(0.0%)
ADVICE
このツールが示す数値は文字種の比率に基づく概算です。正確な値は各社公式のトークナイザーでご確認ください。
トークン数とは?文字数・料金・上限を左右する「AIの単位」を解説
トークンとは、AIモデルが文章を処理する際の最小の処理単位です。1文字=1トークンとは限らず、英単語の一部("-ing"や"-tion"など)が1トークンになったり、逆に日本語の1文字が複数のトークンに分割されたりします。API利用料金の多くはこの「トークン数」に応じて課金されるため、プロンプト設計やコスト管理を行ううえで欠かせない指標になっています。
本ツールは、入力した文章がGPT-4o系・GPT-4/3.5系・Claude・Gemini・Llama/Mistral系のモデルでおよそ何トークンになるかを、文字種(日本語・英数字・記号)ごとの平均的な比率から目安計算します。あわせて文字数・単語数・行数、選択したコンテキストウィンドウに対する使用率も確認できます。
「プロンプトが長すぎないか事前に確認したい」「日本語と英語でどれくらいトークン数が変わるか比較したい」といった場面で、公式トークナイザーを開く前のラフな確認用としてご活用ください。
こんなシーンで便利です
長文プロンプトが上限に収まるか事前に確認したい時
システムプロンプトや資料の貼り付けが多いプロンプトを作成する際に、選択したモデルのコンテキストウィンドウに収まりそうかをその場で確認できます。
日本語と英語でのトークン消費量の違いを比較したい時
同じ内容を日本語で書いた場合と英語で書いた場合とで、トークン数がどれくらい変わるかを比較し、プロンプトの言語選択の判断材料にできます。
API利用料金のおおよそのイメージをつかみたい時
料金は基本的にトークン数に比例するため、想定するプロンプトのトークン数を先に把握しておくことで、API利用コストの規模感を事前にイメージしやすくなります。
RAGや長文資料を分割する際の目安を知りたい時
長い資料をチャンク分割してAIに読み込ませる際、1チャンクあたりのトークン数の目安を確認しながら、分割サイズを検討する用途にも活用できます。
使い方は簡単 4ステップ
- テキストエリアに、トークン数を確認したい文章を入力または貼り付けます。
- 画面下部に、GPT-4o系・GPT-4/3.5系・Claude・Gemini・Llama/Mistral系ごとの目安トークン数が自動で表示されます。
- 確認したいコンテキストウィンドウの上限(8K〜1Mなど)を選ぶと、上限に対する使用率がバーで表示されます。
- 文字種の内訳(日本語・英数字・記号など)や文字数・単語数・行数もあわせて確認できます。
※入力した文章はブラウザ内でのみ処理され、外部のサーバーやAPIへ送信されることはありません。
ご利用時の注意点
- 本ツールが表示するトークン数は、文字種ごとの平均的な比率に基づく概算の目安です。実際のトークン数とは異なる場合があります。
- 各モデルの正式なトークナイザーは非公開または頻繁に更新されるため、料金計算や上限判定など正確性が求められる用途では、必ず各社公式のトークナイザーやAPIレスポンスの数値でご確認ください。
- コードやJSON、URL、絵文字を多く含む文章は、通常の文章と比べてトークン消費量の傾向が変わることがあります。
- 完全無料・安全:入力した文章は一切外部へ送信されない、通信が発生しないブラウザ完結型を採用しています。
主要モデル系統別・トークン換算の目安表
1トークンあたりの文字数の目安です。数値はモデルの世代やバージョンによって変動するため、あくまで傾向を把握するための参考値としてご覧ください。
| モデル系統 | 英数字(目安) | 日本語(目安) | 備考 |
|---|---|---|---|
| GPT-4o系(o200k_base) | 約4文字/token | 約1.8文字/token | 旧世代より日本語効率が改善 |
| GPT-4/3.5系(cl100k_base) | 約4文字/token | 約1文字/token | 日本語は英語の3〜4倍消費しやすい |
| Claude系 | 約3.8文字/token | 約2文字/token | 英語はやや細かく分割される傾向 |
| Gemini系 | 約4文字/token | 約2.5文字/token | 大規模語彙で日本語効率が高め |
| Llama/Mistral系 | 約3.3文字/token | 約1文字/token | 語彙数が少なく日本語効率は低め |
※上表はあくまで目安であり、モデルのバージョンアップや語彙の変更によって数値は変動します。正確な値は各社公式のトークナイザーでご確認ください。
トークン数を理解して、プロンプト設計とコストを最適化する
AI活用が広がるほど日常的な確認作業になる「トークン数」について、仕組みと実務での付き合い方を解説します。
結論:トークン数は「料金」と「コンテキスト上限」を決める最重要指標
多くのAI APIは、入力(プロンプト)と出力(生成文)それぞれのトークン数に応じて課金されます。
また、モデルには一度に処理できるトークン数の上限(コンテキストウィンドウ)があり、これを超えるとエラーになったり、古い内容が処理対象から外れたりします。
つまりトークン数は、「いくらかかるか」と「そもそも入力できるか」という2つの実務上の制約を同時に決める指標であり、プロンプトを設計するうえで欠かせない確認項目です。
なぜ日本語は英語よりトークンを消費しやすいのか
多くのトークナイザーはByte-Pair Encoding(BPE)という方式で、学習データ中に頻出する文字の並びを1つのトークンにまとめていきます。
英語は学習データの中心となる言語であるため、"-ing"や"tion"のような頻出パターンが効率よく1トークンにまとまりますが、日本語は文字がUTF-8のバイト列として扱われる関係で、1文字が複数トークンに分割されることがあります。
そのため同じ内容でも、日本語のプロンプトは英語に比べてトークン数が数倍になるケースがある、という特性を理解しておくことが重要です。
GPT・Claude・Geminiで何が違うのか
各社のモデルは、それぞれ独自の語彙(トークン辞書)を持つトークナイザーを使用しています。
語彙数が多いモデルほど、より長い文字列を1トークンにまとめられるため、同じ文章でもトークン数を抑えやすい傾向があります。
英語の文章では各モデル間の差は比較的小さい一方、日本語やコードを含む文章では差が広がりやすいため、複数モデルを併用する場合は、モデルごとにトークン数の目安を確認しておくと料金試算のズレを防ぎやすくなります。
トークン数を抑えるための実務的なコツ
同じ意図を伝える場合でも、冗長な前置きや重複した説明を削るだけでトークン数は大きく減らせます。
長いURLやコードをそのまま貼り付けるのではなく要点だけを記載する、絵文字や装飾的な記号を減らす、といった工夫も有効です。
長文の資料をAIに読み込ませる場合は、全文を一度に渡すのではなく、必要な範囲だけを抜粋してチャンク単位で渡すことで、コンテキストウィンドウの上限や料金を効率よく管理できます。
よくある失敗と対策
文字数とトークン数を同じ感覚で見積もり、上限を超えてエラーになる
「日本語1000文字くらいなら余裕がある」といった感覚で長文プロンプトを作成し、実際にはトークン数が想定より大きく膨らんでコンテキストウィンドウの上限を超えてしまう失敗です。
💡 対策・解決策を見る▼
1つのモデルの感覚で他モデルの料金やトークン数を見積もってしまう
GPTでの感覚のまま「だいたい同じくらいのトークン数だろう」と考えて別モデルの料金を見積もり、日本語やコードを含む文章で想定より高額になってしまうケースです。
💡 対策・解決策を見る▼
長文資料をそのまま貼り付け、コンテキスト上限や料金を圧迫する
参考資料やマニュアルをそのまま丸ごと貼り付けてしまい、必要な情報以外の部分までトークンを消費して、上限や料金を無駄に圧迫してしまう失敗です。
💡 対策・解決策を見る▼
記号や絵文字を多用したプロンプトでトークン数が想定より増える
見た目を整えるために装飾的な記号や絵文字を多用した結果、想定していたよりもトークン数が増えてしまい、コストや上限に影響が出てしまう失敗です。
💡 対策・解決策を見る▼
英語で書けば十分な指示を日本語で長く書き、トークンを浪費する
シンプルな指示で十分な場面でも日本語で丁寧に長文の説明を書いてしまい、英語で簡潔に書く場合に比べて数倍のトークンを消費してしまう失敗です。
💡 対策・解決策を見る▼
よくある質問(FAQ)
Q.このツールが表示するトークン数は正確な値ですか
A. いいえ、あくまで目安の概算値です。各モデルの正式なトークナイザー(分割辞書)は非公開のものも多く、本ツールは文字種(日本語・英数字・記号など)ごとの平均的な文字数/トークン比率から計算しています。正確な値が必要な場合は、各社が公式に提供しているトークナイザーツールやAPIのレスポンスでご確認ください。
Q.なぜ日本語は英語よりトークン数が多くなりやすいのですか
A. 多くのAIモデルのトークナイザーは英語を中心に学習されており、英単語の一般的な語幹(-ing、-tionなど)が1トークンにまとまりやすい一方、日本語は文字単位でのbyte分割が発生しやすく、1文字が複数トークンに分かれることがあります。モデルや世代によって差はありますが、同じ内容でも日本語は英語よりトークン消費量が多くなる傾向があります。
Q.GPT・Claude・Geminiでトークン数はどれくらい違いますか
A. 英語の文章であれば各モデル間の差は比較的小さい(数%〜10%程度)ですが、日本語やコード、記号を多く含む文章では差が広がりやすく、モデルによって20〜30%程度変わることもあります。本ツールでは主要なモデル系統ごとに目安を並べて表示し、傾向を比較しやすくしています。
Q.入力した文章は外部に送信されますか
A. 送信されません。本ツールはすべての計算をブラウザ内のJavaScriptだけで完結させており、入力した文章が外部のサーバーやAPIに送信されることは一切ありません。機密情報を含むプロンプトでも安心してご利用いただけます。
Q.コンテキストウィンドウの使用率とは何ですか
A. AIモデルには一度に処理できる情報量の上限(コンテキストウィンドウ)があり、モデルによって8,000トークン程度のものから100万トークンを超えるものまで幅があります。本ツールでは、入力した文章のトークン数が選択したコンテキストウィンドウ上限に対して何%を占めるかを表示し、プロンプトや資料が上限内に収まるかどうかの目安を確認できます。
Q.トークン数を減らして料金や上限を節約するコツはありますか
A. 同じ内容でも、冗長な言い回しを削る、記号や絵文字を減らす、長いURLをそのまま貼らずに要点だけ記載する、といった工夫でトークン数を抑えられます。また日本語よりも英語で指示を出したほうがトークン消費量が少なくなる傾向があるため、長文プロンプトを扱う場合は英語での記述も選択肢になります。
あなたの声で、
このツールをより鋭く。
「こんな機能が欲しい」「ここを直してほしい」といったご意見や、新しいツールのリクエストを募集しています。エンジニアが直接目を通し、開発の参考にさせていただきます。