Въведете, изход, кеш живот: името на табелката AI.

Да започнем с резултатите:Има само две думи в тези термини, които наистина ви струват повече: "Cacheft" и "output" символ.Останалите са техните бележки.

Бил съм таксуван три пъти за два месеца и това е едно и също: мисля, че спестявам пари и плащам пълната цена за същата представка. Тук можеш да отговориш на поне един въпрос...Защо имам 8000 жетона на сметката, след като казах само една дума?

Аз. Тоукън. Защо китайците са по-скъпи?

Тоукън е най-малката единица за обработка на текст. Това не е дума. Това не е дума.Това е парче от семантиката.Не знам. В същото изречение броят на нарязаните блокове може да се различава от модела към кода.

Ще го взема. o200k_base Кодът действително измерва няколко групи и разликата е по-голяма от очакваното:

Текст	Брой знаци	Токен номер	Символ/ток
Бързо кафявата кутия прескача мързеливото куче.	44	10	4.4
Бързо кафявата лисица прескочи това мързеливо куче.	15	16	0.94
Здравей, свят.	5	4	1.25
CVE-2026-109618	15	8	1.88

Виж проблема.В същото изречение, 10 жетона на английски и 16 на китайски.Около 4 знака на английскиЕдна дума, един знак.Не знам.

Това е много недружелюбно за китайските потребители: "1 символичен символ" е английски език опит.Ще подценяваш повече от половината на китайски.

Има контраинтуиция:CVE-2026-109618 Този номер, 15 символа изгарят 8 жетона. Числата и тиретата са нарязани много лошо.Така че е много по-скъпо, отколкото изглежда.

Две, една молба, четири параграфа.

Първият път, когато погледнах сметката, не беше скъпа.Само една дума, но 8000.Не знам. Тогава стана ясно, че повече от теб.

Входът на заявка обикновено се прави на четири парчета:

Точка	Английско наименование	Какво има?	Ще се промени ли?
Системен подсказка	Система / включване	Кой си ти, правилата, форматът на продукцията?	Общо взето е същото.
Определение на инструмента	Не мисля.	Функция JSON Schema и описание	Много рядко.
История на диалога	Съобщения / история	Всеки кръг от въпроси и отговори пред вас, вземете ги всичките.	Добавяне само
Въпроси за този рунд	Съжалявам, сър.	Онова нещо, на което се обади.	Всеки път.

Първият път, когато бях уплашен, беше.Инструментът определя сумата от 1200 жетонаНе знам. Функция с описание на параметрите, JSON Schema се разширява, за да заеме специално място. Написал си 20 инструмента, можеш да изядеш 2000 по дефиниция.И не си написал дума в тази част, но винаги е заредена.

Зад него има ключова точка:Първите три параграфа са - и немодифицирани, а четвъртият параграф се променя всеки път.Не е съвпадение. Тя определя дали кешът може да бъде ударен.

Трето: вход, изход и този в изхода.

Официалният калибър на тези три отношения е следният:

Въведете символ (внасяне / политика символи)Всичко, което изпращате, съдържа четирите абзаца по-горе.
Изход: Моделиран. Внимание...Не само съобщението, което видя.
Тоукън (отмятане на символи): Модният модел е това, което той мисли, преди да даде отговор. Не виждаш, но...На производствени цениНе знам.

Третата е истинската причина много хора да удвоят сметките си. Работя с един модел и виждам 20 думи в отговора, а сметката е повече от 900.Този 880 невидим символ, всичко е там.

Нормално е да има противоречие:Колкото по-кратък е отговорът, толкова по-евтино е по-малко.

Изходната цена обикновено е около пет пъти по-висока от входната цена (вж. таблицата по-долу за всяко домакинство). Това обяснява принципа на почтеност:Може да се реши с вход. Не го изпускай.Поставете шаблона за отговор, примерът формат, в намека на системата (по-ниско), така че да не се организира по такъв начин, че да е скъпо.

Кешлайн и непривлекателен: това е частта от целия текст, която трябва да се запомни

Какви са те?

Моделите се считат за междинни, когато се четат. Тази част е най-скъпата.

Бърз кеш е предварително определен щат.Следващият път, когато се срещнем със същата представка, ще я използваме директно и няма да преизчислим.

Имаше две думи:

Кеш ударТази представка е намерена в кеша. Тази част е въведена и натисната.Отстъпката.Такси.
Съжалявам.Не мога да го намеря. Просто преизчисли цената.

Условията на удара са по-трудни, отколкото си мислиш.

Ключът е думата "представка."Не става въпрос за същия въпрос.

Направих един експеримент: взех 151 символичен намек, смених го на различни места и разгледах колко може да се използва повторно.

Промени	Представка за повторно използване	Процент
Добавяне на изречение в края	150 / 151	99%
Промени думата по средата.	50 / 151	33%
Още едно място в началото.	0 / 151	0%
Започни с една дума.	0 / 151	0%

Виждаш ли това "още едно място в началото"?Едно място, кешове, скрап, преизчислени 151 жетона на първоначални цени.

Това не е буболечка, това е принципът: Кеш е състояние на натрупване от самото начало, първата символична промяна, и гърба е всички мъртви.

Така че има правило, което може да се приложи веднага:Постоянното съдържание е отпред, а променливата - в последното.

Най-често срещаният начин за обръщане е да вмъкнете текущото време, поискано ID, произволно сортирани полета в началото на намека на системата. Това е като нова кеш всеки път.Тези полета или се преместват към края, или просто не се пускат.

Има няколко лесни за пренебрегване прагове.

Има минимална дължина.Твърде кратък представка не дава кеш. OpenAI е GPT-5.6 и по-късно 1,024 жетона; Anthropic се разделя по модел, както в 512 / 1,024 / 2,048 / 4,096. Ако не е достатъчно дълго, не е грешно.Тишина.Можеш да видиш само като върнеш квантовото поле.
Има време за оцеляване.OpenAI по подразбиране 30 минути (до 12 часа); Anthropic по подразбиране 5 минути, до 1 час. И този път...Старт по заявка, без да броим от края на отговора -- ако отговорът е след четири минути, 5-минутният слот има само една минута прозорец.
Ще се чакаме един друг.Входът на кеша чака първото исканеЗапочвай да се връщаш.Значи е свободна. Десет искания бяха изпратени в една и съща секунда, и всичките десет бяха пропуснати.
Променени модели, променени инструменти, променени разсъждение слотове.Представката се променя и скоростта на удара е нула.

Каква е цената?

Не предполагай. И двете семейства им дадоха поле за обем:

OpenAI  : usage.prompt_tokens_details.cached_tokens
Anthropic: usage.cache_read_input_tokens / cache_creation_input_tokens

Антропията, специалната интуиция:И двамата са върнали 0, което означава, че дори не са достигнали кеша.- Обикновено защото представките не са минимални.

V. Цена структура: писане на повече пари, за да прочетете по-малко

Кеш не е свободен и много хора са го пропуснали.Първият път, когато пишете в кеша, трябва да повишите цената, а след това да я прочетете, преди да направите отстъпка.

Операция	OpenAI	Anthropic
Нормален вход	1x (изходящи)	1x (изходящи)
Кеш пише. Къс слот	1, 25 x (30 минути)	1, 25 x (5 минути)
Дългосрочен запис на кеш	2, 5 x (12 часа)	2x (1 час)
Cash Read (Категория)	0, 1 x(GPT-6.1 е 0, 05 x)	0, 1 x(партиен модел 0.025 год.)
Изход	Около 5x	Около 5x

Вземете нормалните 0.1 х четете, 1.25 х пишете две книги:

Запис веднъж + повторна употреба веднъжКеш 1. 25 + 0. 1 = 1, 35 x; не кеш е 1 + 1 = 2 x.Провинция 32 процента.
Напишете веднъж + повторете девет пъти: Кеш 1. 25 + 0. 9 = 2. 15 x; не кеш е 10х.Провинция 78%.

Това означава:В един случай кешът беше едва или дори леко изгубен; само когато беше повторен повече от десет пъти, спестяванията бяха реални.Тези временни разговори са просто проблем.

Между другото:Кеш писането се основава на символичен сегмент, а не на номера.Самата граница е безплатна и парите зависят от това колко време всъщност имате.

VI. Наказания, наказания на системата, мин.

Двата термина често се използват сбъркани, но те са различни по отношение на разходите и властта.

Име	Английски	Кой го е написал?	Приоритет	Определяне на таксите
Системен подсказка	Стимпромпт / институции	Platformer или Application Developer	Най-високо	Въведете символ
Съобщение за разработчик	Не съм сигурен, че ще мога да го направя.	Прилагане на разработчик	По-ниска (над потребителите)	Въведете символ
Потребителски намек	Това си е наша работа.	Крайен потребител	По-малко от двете горе	Въведете символ
Асистент съобщение	Няма причина да си тук.	Моделите се генерират.	Не знам.	Изходен запис

Две лесни точки:

Думата "реклама" е голяма дума.Той се отнася по принцип до всички текстови инструкции, които изпращате на модела, а "системен намек" е този, който е най-напред и най-висок приоритет. Когато става въпрос за "рекламите са твърде дълги," истинският проблем често е, че системата е твърде дълга, за да ги определи.
Ролята също е скъпа.Всяко съобщение е един слой {"role":...,"content":...}Самият слой се брои за символ. Когато има много съобщения, ще бъдат хиляди неща.

Така че диалогът за почистване работи - не гениално, да.Отрежи тази част от историята.Не знам. Но от своя страна е важно да се отбележи, че след като се изясни, няма да са необходими историческите преимущества на проведения преди това диалог.

Седем или седем от дупките, върху които стъпих, копирайте заключенията.

Използвай думата "символ" за оценка на китайския бюджет.Грешка. Китайците са близо до една дума, а ти ще си два пъти по-нисък. Готово е. tiktoken Дефиниране или гледане назад към използването.
Мислех, че ще ме ударят, ако задам подобен въпрос.Не мога. Трябва да е напълно последователно от първия знак.
Вмъква времева марка в началото на намека на системата.Това е най-често срещаният убиец. Премести се към края.
Евтино е да виждаш кратки отговори.Разумният процес на мислене на модела се струва на изходна цена, отговор 20 думи, такса 900 символ е нормално.
Кеш за един път диалог.Повторната употреба е спестила само 32 процента, но е добавила слой от сложност и разходи за отстраняване на грешки. Заслужава си поне три пъти.
Можете да познаете скоростта на удара без да гледате измерване поле.Две. cached_tokens / cache_read_input_tokens Всички се върнаха с ясен код.
Също така поиска да използва кеша, за да увеличи скоростта.Кешът няма да бъде наличен, докато не започне първият отговор, а молбите за същата секунда до голяма степен се пропускат.

VIII. Списък на стореното

Можем да се променим днес.

Определяне на намеци и инструменти на систематаВсичко, което се променя.Премести се към края на съобщението.
Натискане на инструментиФиксирана поръчкаПодредете се. Редът променя представката, представката се променя.
Първо преброяване: Напишете броя на символите в дефиницията на системата + инструмент. Повече от 2000 си струва оптимизацията.

Струва половин ден.

Разглобяване на дълга система намек в "състоятелен + променлива сегмент," с кеш пауза в края на постоянния сегмент.
Тичай с истински трафик. Запис. cached_tokens Процент на общите входящи количества. По-малко от 30% показват представка проблеми с дизайна.
Натиснете и страната на изхода: "само изход" не е позволено да се обясни, цената на изхода е пет пъти вход.

Не го прави.

Не пишете бакшиш за кеша.Кешът е пари, не яснота.
Не добавяйте към еднократните скриптове логиката на кешовете, които са по-сложни от спестяванията.
Не се приема, че кешовете могат да се използват в различни модели.Сменянето на моделите променя кеша, с нула попадения.

Най-накрая.

Тези думи са взети до края и казват само едно:Моделът таксува "колко чете" и "колко пише," а кешът е единственият механизъм, който може да намали "четене."

Значи не е толкова красив намека, нали?Сложи тази купчина неща, които не се променят всеки път. Да вървим.Не знам.

Повечето пари, които не можеш да спестиш не са много скъпи. Представката ти се променя всеки път.

Ще ви оставя с най-практично действие: следващия път, когато видя ненормален законопроект, не се съмнявайте в увеличението на цената на модела. cached_tokens Тази колона.Не е нула, решава дали плащаш за математика или двойно.