入出力、キャッシュライフ:AIトークンの請求書の名前。

結果から始めましょう。これらの言葉には、本当にあなたに費用がかかる言葉が2つだけあります。「キャッシュフト」と「アウトプット」トークン。残りはメモです。

私は2ヶ月で3回請求され、それは同じことです:私はお金を節約していると思います、そして私は同じ接頭辞のための完全な価格を支払います。これは、少なくとも1つの質問に答えることができる1つです...なぜ1つの単語だけを述べたとき、私は請求書に8,000トークンを持っているのですか?

I.トークン。なぜ中国は高価ですか?

トークンはモデルテキスト処理の最小単位です。言葉ではありません。言葉ではありません。皮切りで切ります。お問い合わせ同じ文では、ブロックカットの回数はモデルとコードの違いがあります。

お問い合わせ o200k_base 実際に複数のグループを測定し、差が期待よりも大きいコード:

テキスト	文字数	トークン番号	キャラクター/トークン
クイックブラウンボックスは、怠惰な犬の上にジャンプします。	44	10	4.4
その怠惰な犬の上にジャンプクイックブラウンフォックス.	15	16	0.94
お問い合わせ	5	4	1.25
CVE-2026-109618の特長	15	8	1.88

問題を見る同じ文では、英語と中国語の16の10トークン。英語の4文字について1つの単語、1つのトークンお問い合わせ

「1トークン≈4文字」は英語の言語体験です。中国語の半分以上を下回ります。

偽造性があります:CVE-2026-109618 この数字で、15文字は8トークンを焼く。数値とハイフンは、非常にひどく切断されます。見た目よりもはるかに高価です。

2つ、1つの要求、4つの段落。

最初は請求書を調べてみると、高価ではありませんでした。たった1ワードですが8,000トークンです。お問い合わせすると、自分がやった以上にクリアになった。

リクエストの入力は通常4枚で行われます。

パラグラフ	英語名	それは何ですか?	変更しますか?
システムヒント	システム/包含	誰が、ルール、出力形式ですか?	基本的には同じです。
ツール定義	そうは思っていません。	関数 JSON スキーマと説明	非常にまれに。
対話の歴史	メッセージ/歴史	各質問のラウンドと回答の前に、それらをすべて取ります。	だけ追加
このラウンドの質問	申し訳ございません。	というのは、	毎回。

初めて怖かったです。ツールは、1,200トークンの量を定義しますお問い合わせパラメータの説明機能、JSON Schema は特別な場所を取るために拡大します。 20個のツールを書いてみると、定義で2,000を食べることができます。この部分に単語を入力しませんでしたが、常に課金されます。

その背後にある重要なポイントがあります。最初の3つの段落は「追加および非修正」であり、各回4段落が変更されます。それは偶然ではありません。キャッシュがヒットできるかどうかを判断します。

3: 入力、出力、および出力。

これらの3つの関係の公式キャリブラーは以下の通りです。

トークン(入力/ポリシートークン)を入力します。: 上記の4つの段落を含むすべての送信。
ソリューション: モデリング。注意...あなたが見たテキストだけではありません。
トークン(トークンの受け取り): 推論モデルは、それが答えを与える前に考えるものです。見ませんが...出力価格お問い合わせ

3つ目は、多くの人が自分の手札を倍増させるための本当の理由です。理論モデルで一種のジョブを実行し、回答で20語の単語が表示され、請求書は900以上です。その880 目に見えないトークン、それはそこにすべてです。

だから、矛盾を持っているのは普通です:答えが短いほど、より安くなります。

出力価格は、通常、入力価格の約5倍(各世帯の下の表を参照)です。これは、完全性の原則を説明する:入力で解決できます。お問い合わせ答えテンプレート、フォーマット例、システムヒント(より低い)で、高価な方法でそれ自体を整理しません。

Cacheline と unattractive: これは記憶されるべき全テキストのセクションです

彼らは何ですか?

モデルは読み込まれるとき中間としてカウントされます。この部分は最も高価です。

Prompt キャッシュはプレフィックス状態です。次回は同じ接頭辞を満たし、直接使用して再計算しなくなります。

2つの単語がありました。

キャッシュヒット: このプレフィックスはキャッシュに見つかりました。この部分は入力され、押された。割引。料金について
キャッシュミス: 見つけることができません。価格を再計算するだけです。

ヒットした言葉は、考えるよりも厳しいです。

キーは「プレフィックス」という言葉です。同じ質問をしてもらっていません。

私は実験をした:私は151トークンシステムのヒントを取った、それを異なる場所に変更し、それが再使用することができるどのくらいを見て、。

変更点	再使用可能なプレフィックス	パーセンテージ
末尾に文を追加	150 / 151	99%
途中で単語を変更します。	50 / 151	33%
最初はもう1つのスペース	0 / 151	0%
単語から始める	0 / 151	0%

「はじめにもう1つのスペース」を参照してください。元の価格で1つのスペース、キャッシュ、スクレイピング、再計算された151トークン。

バグではなく、それは原則です。キャッシュは最初から蓄積された状態であり、最初のトークンの変更であり、バックはすべて死にます。

すぐに適用できるルールがあります。定数のコンテンツは前面と最後の変数のコンテンツです。

flip の最も一般的な方法は、システムヒントの先頭に現在の時刻、要求された ID、ランダムにソートされたフィールドを入力することです。これは、毎回新しいキャッシュのようなものです。これらのフィールドは、最後に移動するか、単に入れていないかです。

簡単な閾値のカップルがあります。

最小限の長さがあります。Too はプレフィックスがキャッシュをまったく与えません。 OpenAIはGPT-5.6以降1,024トークンです。Anthropicは512 / 1,024 / 2,048 / 4,096でモデルによって分離されています。十分な長さがない場合、間違っていません。沈黙。量子フィールドを戻すことでのみ確認できます。
生存時間があります。OpenAI のデフォルト 30 分 (最大 12 時間); Anthropic のデフォルト 5 分、最大 1 時間。そして、この時間...リクエストから始める回答の終了からカウントするわけではありません。回答が4分で実行されている場合、5分のスロットは1分のウィンドウしかありません。
お待ちしています。キャッシュエントリーが最初のリクエストを待ちます戻り開始それからそれは利用できます。同じ秒で10リクエストが送信され、10件すべてが見逃されました。
モデル変更、ツール変更、推論スロット変更プレフィックスの変更とヒット率はゼロです。

ヒット率とは?

思わないでください。どちらの家族も彼らにボリュームフィールドを与えました:

OpenAI  : usage.prompt_tokens_details.cached_tokens
Anthropic: usage.cache_read_input_tokens / cache_creation_input_tokens

Anthropic、特別な直観的:両方とも 0 を返す。つまり、キャッシュに到達しなかった。- プレフィックスが最小限ではないため、通常。

V. 価格構造: 読むためにより多くのお金を書く

キャッシュは無料で、多くの人が見逃しています。キャッシュに書き込まれる最初の時間は、価格を上げる必要があります。割引をする前に読んでください。

オペレーション	オープンAI	アンソロフィック
正常な入力	1x (ベースライン)	1x (ベースライン)
キャッシュライティング。ショートスロット	1.25×30分	1.25 x (5分)
長期的を書くキャッシュ	2.5×(12時間)	2x(1時間)
キャッシュ読み取り(カテゴリ)	0.1 x 1(GPT-6.1は0.05 xです)	0.1 x 1(パートモデル 0.025〜0.05×)
ソリューション	5xについて	5xについて

通常の 0.1 x 読み込み、1.25 x は 2 つの本を書く:

一度書いて下さい+一度再使用して下さいキャッシュ 1.25 + 0.1 = 1.35 x 1;no キャッシュは 1 + 1 = 2 x です。都道府県 32 パーセント.
一度書いて下さい+9回を繰り返して下さい: キャッシュ1.25 + 0.9 = 2.15 x;not キャッシュは 10x です。都道府県 78パーセント

つまり:1つのケースでは、キャッシュがほとんどまたは少し失われていました。貯蓄が実質的に10回以上繰り返されたときだけでした。「一時一時一時会話」は問題です。

方法によって:キャッシュの書き込みは、番号ではなくトークンセグメントに基づいています。ブレークポイント自体は自由であり、あなたが実際に持っているどのくらいの時間に依存するお金。

VI. PUNISHMENTS, システム教育, 分

2つの用語は、多くの場合、インターメットが使用されますが、それらは費用と権限の面で異なります。

お名前 (必須)	スタッフ	誰が書いたのか?	優先順位	手数料の帰属
システムヒント	Stymprompt/機関	プラットフォームまたはアプリケーション開発者	最も高い	トークンを入力
開発者メッセージ	それを行うことができないつもりはないです。	開発者を適用する	ダウン(ユーザー)	トークンを入力
ユーザーヒント	事業案内	エンドユーザ	上記2未満	トークンを入力
アシスタントメッセージ	ここにいる理由はありません。	モデルは自分自身を生成します	お問い合わせ	出力トークン

2つの簡単なポイント:

「広告」という言葉は大きな言葉です。一般的には、モデルに送信するすべてのテキストの指示を指し、「システムヒント」は、最も前方かつ最優先事項であるものです。「広告が長すぎる」に関しては、システムが定義するのに長すぎると、実際の問題はよくあります。
役割も高価です。すべてのメッセージは1つの層です {"role":...,"content":...}レイヤー自体はトークンとしてカウントされます。たくさんのメッセージがあると、何千ものものものがあります。

そのため、クリーンアップ対話が機能しています。つまり、天才ではなく、はい。歴史の一部を切り離す。お問い合わせしかし、順番に, クリアした後に注意することが重要です, 以前に保持された対話の歴史的プレフィックスは必要ありません.

手順したピットの7つまたは7つ、結論をコピーします。

中国語の予算を推定するために「文字」という言葉を使用してください。お問い合わせ中国語は1つの単語に近く、短く2回です。準備完了です。 tiktoken 利用目的の達成、または利用停止
似ている質問をすれば、ヒットしてもらえると思います。できません。最初のトークンから完全に一致する必要があります。
システムヒントの先頭にタイムスタンプを入れます。これは最も一般的なキャッシュキラーです。終わりに移動します。
短い回答を見るのは安いです。推論モデルの思考プロセスは、出力価格にコストをかけ、20ワードに答え、900トークンを充電することは正常です。
ワンタイムの対話のためのキャッシュ。再使用は32パーセントしか保存されませんが、複雑さとデバッグコストの層を追加します。それは少なくとも3回価値があります。
測定フィールドを見ずにヒット率を推測できます。2。 cached_tokens / cache_read_input_tokens クリアなコードで返されます。
また、キャッシュを使用してスピードを上げるよう求めた。最初の応答が始まるまでキャッシュは利用できず、同じ秒のリクエストは大まかに見逃せません。

VIII. 何をしたかのリスト

本日は変更可能です。

システムヒントとツールを定義する変化するすべて。メッセージの最後に移動します。
ツールプレス固定注文アレンジ順序はプレフィックス、プレフィックスの変更を変更します。
最初のカウント:システム+ツール定義のトークンの数を入力します。 2,000以上が最適化する価値があります。

半日分の料金です。

"consistent +変数のセグメント"に長いシステムヒントを分解し、一定のセグメントの最後にキャッシュブレイクします。
実際のトラフィックでラウンドを実行します。レコード。 cached_tokens 全入力の割合。 30%未満は、プレフィックス設計の問題を示します。
出力側も押します:「出力のみ」は説明できません。出力価格は入力の5倍です。

お問い合わせ

キャッシュの9番目のチップを記述しないでください。キャッシュは、明確ではなく、お金です。
キャッシュのロジックをワンオフスクリプトに追加しないでください。
キャッシュが異なるモデル間で使用できると想定されていません。スイッチングモデルはキャッシュをゼロヒットで変更しています。

最後に。

これらの言葉は最後までとりあえず、ひとつのことを言う。モデルは「どれだけ読み込まれるのか」と「どれだけ書いてるのか」をチャージし、キャッシュは「読む」を割引できる唯一の仕組みです。

それでは、ヒントが美しいのは、まさにそんなことではありませんか?常に変化しないものの山を置きます。お問い合わせお問い合わせ

節約できないお金のほとんどは高価ではありません。プレフィックスは毎回変更されます。

私は最も実用的な行動であなたを残します:次回私は異常な請求書を見たり、モデルの価格が増加する疑いはありません。 cached_tokens その列。ゼロではなく、数学やダブルで支払うかどうかを決定します。