トークンとは?

読み:とーくん / 分野:AI・生成AI
生成AIが文章を処理するときの単位です。

トークンとは、生成AIが文章を理解・生成する際に使う処理の最小単位です。日本語では1文字や単語の一部が1トークンになることが多く、英語とは数え方が異なります。

使われる場面

AIチャットボットやLLM(大規模言語モデル)の利用料金は、多くの場合トークン数に応じて決まります。

入力した文章と、AIが出力した文章の両方がトークンとしてカウントされます。

また、一度に処理できる文章量にも上限があり、これも「トークン数の上限」として決められています。

長い文章を要約させたり、大量の資料を読み込ませたりする際には、このトークン数の制限に注意が必要です。

注意点・よくある誤解

「1文字=1トークン」ではない点に注意しましょう。

日本語は英語に比べて1文字あたりのトークン数が多くなる傾向があり、同じ内容でも料金や処理量に差が出ることがあります。

また、プロンプト(AIへの指示文)が長くなるほどトークン数が増え、コストや処理速度に影響します。

社内でAIを活用する際は、トークン数を意識して指示文を簡潔にまとめると、費用を抑えやすくなります。

関連する用語

ほかの用語を探す

AI・IT・ビジネス用語集のトップへ戻る

著者:デジタルレクリム株式会社 代表取締役 | AIマーケティング専門家

中村匠吾(なかむら しょうご)は、デジタルマーケティングとAI活用を専門とする経営者。20代前半からウェブ制作業界でキャリアを積み、デジタルレクリム株式会社を設立。「デジタルの力で企業と顧客を結ぶ」を理念に、AI・ChatGPTを活用したマーケティング手法で企業のDX推進を支援。2024年11月、著書『もしも、Chat-GPTがあなたの仕事の悩みを解決してくれたら ~杏奈と探る、AIとの付き合い方~』(デザインエッグ社)を出版。

著者:デジタルレクリム株式会社 代表取締役 | AIマーケティング専門家をフォローする

Webとテクノロジーで、
貴社のビジネスを次のステージへ

AI活用・Web制作・SEO・広告運用など、まずはお気軽にご相談ください。

無料相談・お問い合わせ
  • 初回相談無料
  • オンライン対応
  • 貴社に最適なご提案