全部收藏

文章收藏

AI缓存

首次公开 站主来源:网页 · 2026-10-18 收藏

AI缓存是什么

查看原文
#AI

我的推荐语

AI缓存是什么

AI 整理笔记

站主审核后发布

01一句话概括

本文以 DeepSeek V4 Flash 等模型为例,解释大模型输入缓存的收费原因、作用、有效期和激活方式,并汇总科技动态、文章、工具、AI 相关资源、图片、言论及往年主题。 留言围绕AI带来的效率提升、工作压力和生活变化,以及荷兰与中国的发展差异展开讨论,同时涉及技术项目、网站更新、艺术创作、教育观点和部分生活经验。 片段围绕 OpenCode Go 与本地大模型的使用成本比较展开讨论,并延伸到国内外生活水平、技术工人收入及中国社会节奏急切等话题。

02讨论的问题

大模型为什么对输入 Token 收费,以及输入 Token 缓存命中的价格为何远低于未命中价格。;输入缓存如何减少多轮对话和长程任务中的重复计算。;不同模型提供商的缓存保存期限有何差异。;AI Agent 如何通过定期请求保持缓存有效,以及激活请求的成本和频率如何权衡。;新型交通摄像头、声波灭火、无舷窗飞机和地球最长视线等工作或现象。;若干任务执行工具、上传脚本、Canvas 页面、Android 服务器、电梯算法等技术文章。;若干 AI 工具、开发工具、数据库工具和在线资源的功能与特点。 AI节约的时间是否会转化为更多工作,而不是更多休息。;中国与荷兰在发展速度、生活压力、收入和便利性方面的差异。;中国人在付出较多时间代价后,生活水平或收入收益是否增加。;AI技术对工作分工、岗位要求和就业压力的影响。;网站推送与实际访问更新不一致的问题。;吹口哨练习器是否能够扩展到其他乐器练习。;激光或低频声波是否适合用于高层建筑火灾扑灭。;AI艺术、色彩还原和艺术专业门槛的问题。;对不同观点进行思考与主观争论的区别。;手机作为服务器和用于搭建Obsidian同步服务的问题。;本地运行大模型是否能够真正节省成本。 问题:公司使用云端大模型还是本地运行大模型更省钱? 片段中的观点:发言者认为本地运行更省钱,并指出此前比较的是一个人的使用成本,而本地大模型可供多人同时使用。 适用范围:该判断仅对应片段所述场景,具体是否更省钱未提供完整成本核算。;问题:国外普通收入者的基层技术工人是否因人工服务费用高而收入较高? 片段中的观点:有发言者认为,国外普通收入者需要自行处理很多事情、难以负担部分人工服务费用,但这是否说明基层技术工人收入较高,片段中没有提供进一步论证或数据。;问题:中国当前的社会变革与个人生活节奏是否过于急切? 片段中的观点:有发言者将中国描述为“急切变革的国度”,并以自身感受说明阈值提高后难以接受停下脚步,因而希望慢下来、重新关注呼吸和生命意义。;问题:Meta 的 CTO 是否可信? 片段中的观点:仅出现“meta 的 CTO 是认真的吗?”的反问,没有提供所指的具体言论或背景。

03主题结构

AI 缓存知识:文章主体,先说明模型输入收费的原因,再解释输入缓存的作用、缓存时间期限和保持缓存有效的方法。 科技动态:介绍带蓝牙识别的交通摄像头、声波灭火、没有舷窗的飞机和地球最长视线。 文章:汇总任务执行工具、GitHub 文件上传脚本、Canvas 页面、Android 手机服务器和电梯算法等文章。 工具:介绍 Docker 沙箱、CertMate、crontab guru Dashboard、trash-cli、LeePanel、MarkCard Studio、日全食 3D 模拟器和 DBX。 AI 相关:介绍 Cloudflare OS、乡音阁、chat.md 和 Parse。 资源:介绍昆虫世界、图解分布式系统原理和吹口哨练习器。 图片:展示回形针收藏和古典雕像彩绘。 文摘:摘录一位在荷兰和中国生活过的人对两国生活方式差异的比较。 言论:收录 Andrew Bosworth、扎克伯格、Dax Raad 和亚里士多德的观点。 往年回顾:列出第 361、311、261 和 211 期的往年主题。 AI与工作生活:AI节省的时间可能被老板用于安排更多任务。;测试、前端、后端等岗位可能承担更多职责。;有人认为AI会让人更累,也有人认为农村和农耕时代并不存在种子埋下后完全休息的状态。;关于国内工作压力、灵活就业和生活保障的讨论。 荷兰与中国的发展比较:有人认为荷兰生活节奏较慢、生活较节俭,而中国变化迅速、急切且竞争激烈。;有人质疑将上海与荷兰某个地方进行比较,认为样本选择会影响结论。;有人将荷兰较高收入与欧洲过去的殖民和原始积累联系起来。;也有人认为中国普通人在生活便利性方面可能具有优势。;关于便利是否由多数人享受,以及福利和收入差距如何比较,存在不同看法。 技术与内容讨论:有读者反馈微信公众号推送后,网站没有显示最新文章,但修改网址后可以访问。;有读者对缓存机制的描述提出疑问,并提供了DeepSeek官方文档链接。;有读者认为“昆虫世界”可能是低质量的视频编码或AI生成产物。;有读者询问token工厂概念,但片段未提供相关解释。 生活与文化观点:有人将农耕时代描述为人和庄稼共同生长,因此人们可以休息。;其他留言认为农耕时代还需要松土、灌溉、拔草、施肥、收割和留种。;有人提到徭役、赋税、抓壮丁、起义、革命、强盗、山贼和土匪等情况,以补充对农耕社会的看法。;有读者分享使用手机搭建Obsidian笔记同步服务器的经验。 教育与讨论方式:有人引用观点称,不接受某种想法但仍愿意思考,可能是受过良好教育的表现。;其他留言认为抬杠可能是不客观思考后输出片面观点。;有人区分了从客观角度看问题与带有强烈主观意见参与讨论两种方式。 艺术创作:有留言批评某些色彩还原或AI相关艺术作品缺乏对深浅和阴影的理解。;有人认为艺术创作存在门槛,专业人士在表现效果上可能更合适。 主题:大模型运行成本 内容:先列举 OpenCode Go 用户平均每天运行 DeepSeek Flash v4 的费用,以及本地运行所需硬件和回本时间,再提出公司层面的本地运行成本可能更低的判断。;主题:国内外普通人的生活与收入 内容:引用关于国外普通人自给程度较高、国内人工服务更便利的观点,并讨论人工服务费用与基层技术工人收入之间的关系。;主题:Meta CTO 相关反问 内容:出现一条针对 Meta CTO 的简短质疑,但没有具体说明质疑对象或理由。;主题:中国社会节奏与个人感受 内容:发言者将中国社会形容为迅捷、急躁,并描述个人在竞争和阈值提高后不愿停下脚步的状态。;主题:评论表单及分享入口 内容:末尾显示发表评论所需的姓名、邮箱、个人网址等字段,以及微博、Twitter、GitHub 和 Email 分享入口。

04主要观点与论证

观点:模型输入需要收费。 论证:大模型会将提示词分解成 Token,将 Token 转成向量值,并计算所有 Token 之间的注意力关系;这一过程消耗较多算力,因此模型公司对输入 Token 收费。;观点:输入缓存可以降低重复计算。 论证:多轮对话和长程任务中,每一轮可能重复提交以前已经处理过的输入输出内容;缓存此前计算结果后,后续可以直接使用,从而减少不必要的算力消耗并加快处理。;观点:缓存命中价格较低与重复计算减少有关。 论证:文章称缓存命中后基本不消耗计算资源,因此收取的费用主要对应储存空间,而不是重新执行完整的模型计算。;观点:缓存存在有效期。 论证:文章列出的测试期限为 Anthropic 5 分钟、DeepSeek 10 分钟、OpenAI 10 分钟至 30 分钟逐步失效、Google 1 小时内逐步失效;缓存长期不使用会被服务器删除。;观点:AI Agent 可以通过定期请求激活缓存。 论证:有些模型提供专门的缓存激活接口;没有专门接口时,可以让 Agent 自动重复发送以前的提示词。文章称部分 Agent 会每隔 30 秒发送请求,并据此建议改为每 4 分钟激活一次。;观点:缓存激活频率需要在价格和有效性之间权衡。 论证:文章以 DeepSeek 的 10 分钟期限举例:若每隔 30 秒激活,10 分钟内可能发送 20 个请求,长期会产生费用;由于当前列出的最短期限为 5 分钟,30 秒一次可能过于频繁,因此提出每 4 分钟一次的建议。;观点:声波灭火具有潜在用途,但推广受到物理条件限制。 论证:强烈低频声波被描述为能够阻碍氧气流入并加速热量散发;但装置需要较大体积的喇叭,且声波会迅速衰减,必须靠近火源,因此难以用于连片大火。;观点:荷兰和中国的生活方式各有长处和不足,不能简单判断哪个更好。 论证:文摘比较了两国在科技、公共服务、生活成本、交通、住房、支付方式和公共服务等方面的差异,最后得出两种生活截然不同、各有长处和不足的结论。 观点:AI节约的时间不一定转化为个人空闲,可能被用于增加工作量和产品开发。 论证:留言者将AI效率提升与“更多产品”“科技越发达人越累”联系起来;另一位留言者具体描述测试、前端和后端人员承担跨岗位任务,并提到自费购买token以维持工作的经历。;观点:国内自由支配时间的成本可能很高。 论证:留言者认为拥有较多自由时间可能需要付出失去工作、从中产阶层滑落或影响后续就业机会等代价;但片段没有提供具体数据或案例来源。;观点:荷兰与中国的发展差异不能仅依据局部案例直接概括。 论证:有留言者认为上海与荷兰某地的比较可能存在样本选择问题,并提出将上海与中国其他地区比较也可能产生类似结论。;观点:荷兰的较高收入与欧洲历史上的殖民和原始积累有关。 论证:留言者认为欧洲过去通过掠夺、殖民积累了大量原始资金,因此其后来的发展具有特定历史基础;同时提到东方巨龙曾受到打压。相关历史细节在片段中未展开论证。;观点:中国普通人可能享受到较多生活便利,但便利的分配是否公平存在争议。 论证:一条留言认为便利主要让少数人享受;另一条留言反驳称,在基本生活质量有保障的前提下,国内普通人可以使用外卖、餐饮和维修等便利,而国外普通收入者需要自行处理许多事务。;观点:农耕时代并不意味着人可以把劳作完全交给庄稼生长。 论证:多条回复列举松土、灌溉、拔草、施肥、收割、取种、徭役和赋税等劳动或负担,说明留言者对“农耕时代可以休息”的说法持怀疑态度。;观点:艺术创作和色彩还原具有专业门槛。 论证:留言者认为相关创作者可能主要依据雕像表面、历史资料和出土信息推断颜料,却缺乏对深浅、阴影等艺术表现的理解,因此作品效果可能不理想。;观点:能够考虑自己不接受的想法,体现某种教育或讨论素养。 论证:Tom引用了类似观点;其他留言将其与“抬杠”区分开,认为客观分析与带有强烈主观意见参与讨论不同。 观点:公司使用本地大模型可能比云端服务省钱。 论证:片段先按单个用户比较云端套餐与双 DGX 本地运行成本,随后指出本地模型能够多人同时使用,因此单人比较不足以代表公司的总体使用成本。 论证状态:结论仅为观点;片段没有展示多人使用后的单位成本,也没有列出设备、电力、维护、折旧和利用率等完整成本。;观点:国外普通收入者需要自行处理很多事情,可能难以负担人工服务费用。 论证:发言者以国外普通人的日常服务和国内便利生活作对比,并据此联系到基层技术工人的收入。 论证状态:片段只呈现类比和推断,没有提供具体国家、职业、收入或人工服务价格数据。;观点:中国社会的快速、急躁特征可能使人无法接受放慢脚步。 论证:发言者称这是其今年的具体感受,并以“阈值拉高以后无法接受停下脚步”解释自身状态。 论证状态:属于个人感受,未提供社会调查或统计证据。;观点:人们需要适时慢下来,关注呼吸和生命意义。 论证:发言者认为大部分人因过于急切而忘记了生命在于呼吸,并提出何时能够稍微慢下来的疑问。 论证状态:片段未进一步展开。

05事实、数据和例子

06结论及适用范围

结论:输入缓存能够减少多轮对话或长程任务中的重复计算,并显著降低命中缓存时的输入价格。;缓存并非永久保存,具有时间限制;缓存期限取决于模型提供商及其具体机制。;AI Agent 可以通过专门的激活接口或重复发送提示词来延长缓存有效状态,但激活请求本身会产生费用,因此需要选择合适频率。;文章介绍的声波灭火、无舷窗飞机等技术或产品具有特定设计目标,但分别受到声波衰减、设备体积、火源距离等条件限制。;荷兰和中国文摘的结论是两国生活方式不同,各有长处和不足,不能简单判断哪个更好。 适用范围:AI 缓存部分适用于理解多轮对话、长程任务和大模型输入 Token 计费中的缓存命中机制。;缓存保存期限和激活频率仅依据文章列出的提供商及测试信息,不能据此推定所有模型、所有账户或所有地区均适用相同期限和价格。;科技动态和工具部分是对文章所列产品、项目或资源的摘要,片段未提供完整产品规格、测试方法、上线状态或实际性能数据。;荷兰与中国文摘仅适用于该文摘作者所述的个人经历和比较,不构成对两国整体状况的完整评估。 结论:片段中的留言普遍关注AI提高效率后可能增加工作压力,而非必然增加个人休息时间。 适用范围:主要适用于对留言者个人工作体验和观点的概括;片段未提供普遍性调查或统计数据。;结论:关于荷兰与中国发展差异,留言者提出了生活节奏、收入、历史积累、样本选择和福利分配等多个讨论角度,但未形成一致结论。 适用范围:仅适用于本段留言所表达的观点,不能据此确认荷兰、中国或任何国家的整体情况。;结论:留言者对农耕时代能否让人休息持否定意见,认为当时仍需要持续劳动,并可能面临多种社会负担。 适用范围:仅适用于这些留言对农耕时代的描述;片段未提供历史研究或统计支持。;结论:技术内容方面,读者对缓存时间、翻译数字和AI生成作品质量提出了疑问或负面评价。 适用范围:仅适用于相关留言所指的技术文档、翻译和产品评价;片段未提供完整上下文或验证材料。 结论:片段主张公司本地运行大模型可能更省钱。 适用范围:只能作为片段中基于单人云端费用、双 DGX 成本和多人使用可能性提出的初步判断;不能据此确认所有公司、所有模型负载或所有使用规模下的成本结论。;结论:片段认为国外普通人的服务自给程度与人工服务负担可能同基层技术工人收入相关。 适用范围:原文未明确国家、职业和比较基准,因此只能视为讨论性观点。;结论:发言者认为社会与个人都处于过于急切的状态,并希望能够放慢脚步。 适用范围:这是个人感受及其评论,不构成对中国社会整体状况的统计结论。

07不确定信息

片段没有说明文章引用的测试文章名称、测试条件、账户或套餐,因此无法独立验证所列缓存期限和价格。;片段没有说明缓存价格是否适用于所有模型、所有地区、所有用户和所有上下文长度。;片段没有说明缓存命中费用的完整计费规则,也未说明缓存存储空间费用的具体计算方式。;片段没有说明每 4 分钟自动激活缓存的建议是否适用于所有模型提供商。;片段没有提供声波灭火装置的型号、功率、灭火效果数据、上市时间或商业推广进度。;片段没有提供无舷窗飞机的制造商名称、机型、试飞数据或实际燃油节省数据。;片段没有提供最长视线计算所使用的算法细节、观测条件或测量误差。;片段没有完整介绍各项文章、工具和资源的功能验证、适用范围或使用限制。;片段没有说明荷兰与中国文摘的原始出处、作者身份背景或数据来源;文中内容属于个人叙述和比较。;由于这是第 1 / 3 段,不能据此判断后续两段是否会补充、修改或反驳本段内容。 原始文章的具体标题、主题和完整内容未提及,因此无法确认留言所讨论的技术或荷兰、中国比较的完整语境。;这是第2 / 3段,其他两段内容未提及,不能据此判断全文立场或最终结论。;Meta公司的CEO和CTO姓名、相关事迹及其聪明程度未提及。;荷兰与具体地区、上海与中国其他地区之间如何比较,留言未提供完整数据或选择标准。;荷兰人保持较高收入的具体原因,片段没有提供可验证的论证。;欧洲殖民和原始积累与当前收入之间的因果关系,未在片段中展开或证实。;AI导致员工工作量增加、跨岗位工作以及自费购买token的说法属于个人经历,未提供公司、样本或统计证据。;DeepSeek缓存机制的官方说明与文章中“十分钟”说法的具体差异,片段未提供完整上下文。;OpenCode Go、DeepSeek Flash v4、双DGX架构和2.4年成本回收的计算过程及数据来源未提及。;“低频声波灭火已被证明无效”的判断及其视频内容,片段仅提供链接和评论,未作事实核验。;激光灭火的可行性和安全性未提及。;“昆虫世界”是否确为低质量的视频编码或AI生成产物,片段未提供定义或证据。;农耕时代劳动、赋税、徭役及相关社会状况的历史真实性、普遍性和具体背景未提及。;关于中国普通人生活便利、福利制度和收入差异的说法未提供数据支持,且存在相互矛盾的留言。;关于“35灵活就业”的具体含义和适用群体,片段未解释。;最后一条关于本地运行大模型的留言在开头处截断,其完整观点未提及。 1.14 美元日均费用的数据来源、样本规模、统计周期和套餐使用强度未提及。;双 DGX 的具体型号、采购价格、运行费用、维护费用和并发性能未提及。;每天费用“翻上10倍”具体指相对哪个费用,以及 24 年回本周期的计算过程未提及。;“同样的功能”具体包含哪些模型能力、吞吐量和服务等级未提及。;本地大模型允许多人同时使用时的实际人数、硬件瓶颈和单位成本未提及。;本地运行是否在公司的实际负载下更省钱,片段未提供完整证明。;国外普通收入者、基层技术工人及国内生活便利之间的比较未指定国家,也没有统计依据。;关于 Meta CTO 的反问没有对应的具体发言和事件背景。;有关中国社会“急切变革”的说法属于发言者描述,片段未提供可核验资料。;此片段未提及前后段落所引用的完整上下文,因此不能确认被引用观点的完整含义。

08事实

事实:文章标注作者为阮一峰,日期为 2026 年 8 月 14 日,标题为《科技爱好者周刊(第 408 期):你需要知道的 AI 缓存知识》。;事实:文章以 DeepSeek V4 Flash 为例,称缓存命中的输入价格为 2 分钱,未命中的输入价格为 1 元。;事实:文章称缓存命中的输入价格约为未命中输入价格的五十分之一。;事实:文章列出的缓存保存期限为:Anthropic 5 分钟、DeepSeek 10 分钟、OpenAI 10 分钟至 30 分钟逐步失效、Google 1 小时内逐步失效。;事实:带蓝牙识别的交通摄像头可以识别车牌号和蓝牙设备,并将蓝牙设备的 MAC 地址与车牌绑定;还可以捕捉钥匙卡、宠物芯片中的 RFID 标签以及车内 WiFi 的 SSID。;事实:文章称强烈的低频声波频率范围为 30Hz 至 60Hz,并描述一家美国创业公司制造了声波灭火装置,已演示厨房灭火。;事实:文章介绍一种没有舷窗的私人飞机,用连续的液晶显示屏播放飞机外部高分辨率摄像头拍摄的景象。;事实:文章称皮克丹科瓦峰海拔约 6000 米,从该峰向南可以看到中国昆仑山脉深处,距离约 530 公里。;事实:Docker 沙箱将 Docker 容器作为沙箱,使 AI Agent 在其中运行并与底层系统隔离。;事实:DBX 是轻量级跨平台数据库管理工具,支持 79 余种数据库,并可接入 AI 与 MCP。;事实:乡音阁目前支持 16 种方言和 63 个音色。;事实:Parse 免费额度为每分钟 5 个请求。;事实:MarkCard Studio 提供 16 套内置主题,可自动分页和排版,并导出整套图片或 PDF。;事实:日全食 3D 模拟器可模拟 2026 年 8 月 12 日日全食,并显示指定地点开始日食、食甚和结束的时间以及天空样式。;事实:文摘中,作者自称是荷兰人,曾在中国生活八年,之后回到荷兰定居。;事实:文摘中,作者提到荷兰很多家中没有空调,汽车较小且较旧,公共交通质量较差,商店周日关门,并使用现金或银行卡支付。;事实:文摘中,作者提到荷兰公共厕所较少,私人保姆或清洁工较少,物价较高,因此二手物品市场规模更大,物品更常被回收、修理或延长使用。;事实:文摘中,作者将荷兰概括为规模较小、技术水平较低、拥有充裕时间、居民生活节俭的社会,将中国概括为急切变革、迅捷而急躁、人们争取机会的社会。 内容:片段开头有一条留言称Meta公司的CEO和CTO都非常聪明。 来源:zhangsan 性质:个人评价,片段未提供论据。;内容:有读者反馈微信公众号推送了文章,但网站没有看到最新文章,修改网址后可以访问。 来源:沐雨 性质:个人使用反馈,片段未说明网站或具体问题原因。;内容:valor引用DeepSeek官方文档称,缓存构建耗时为秒级,缓存不再使用后会自动清空,时间一般为几个小时到几天,并质疑与文中所称十分钟不一致。 来源:valor 性质:留言中引用的文档信息;片段未提供对文档内容的独立核验。;内容:有留言称OpenCode Go套餐用户平均每天花费1.14美元运行DeepSeek Flash v4;同样的功能在本地运行需要双DGX架构,即使每天费用翻十倍,也需要2.4年收回成本。 来源:阿猫 性质:留言者对翻译内容的更正及其所引用的成本说法;片段未提供原文、成本计算过程或独立验证。;内容:有留言提到孙悦的《祝你平安》于1994年发行。 来源:水兽 性质:留言中提供的信息,片段未进一步说明歌词内容。;内容:有留言者使用手机搭建Obsidian笔记同步服务器,并发现可以打开dashboard。 来源:LI,YANLIN 性质:个人使用经历,片段未说明具体配置或结果。;内容:最后一条留言提到本地运行大模型,并指出“有很多理由在本地运行大模型,但省钱不在其中”。 来源:Eric 性质:留言开头,片段在此处截断,后续内容未提及。 内容:截至所述时间,OpenCode Go 套餐用户的平均每天花费被陈述为 1.14 美元,用于运行 DeepSeek Flash v4。 性质:发言中陈述的数据,原文未说明数据来源、统计周期或样本范围。;内容:片段声称同样的功能在本地运行需要使用双 DGX 架构。 性质:发言中陈述的技术条件,原文未说明具体型号、配置或测试方法。;内容:发言者声称,即使本地运行每天费用翻上 10 倍,也需要 24 年才能收回成本。 性质:发言中陈述的回本结果,原文未提供计算公式或成本构成。;内容:有发言者认为本地大模型可以让多人同时使用。 性质:发言中的判断;片段没有给出并发能力或实际使用人数。

09数据

数据:DeepSeek V4 Flash 缓存命中输入价格为 2 分钱。 上下文:文章用于说明缓存命中的输入价格。;数据:DeepSeek V4 Flash 未命中输入价格为 1 元。 上下文:文章用于与缓存命中价格进行比较。;数据:缓存命中价格约为未命中价格的五十分之一。 上下文:文章对两种价格差异的概括。;数据:缓存保存时间:Anthropic 5 分钟、DeepSeek 10 分钟、OpenAI 10 分钟至 30 分钟逐步失效、Google 1 小时内逐步失效。 上下文:文章根据所引用文章的测试列出。;数据:低频声波频率为 30Hz 至 60Hz。 上下文:声波灭火部分。;数据:皮克丹科瓦峰海拔约 6000 米,视线距离约 530 公里。 上下文:最长视线部分。;数据:DBX 支持 79 余种数据库。 上下文:工具介绍部分。;数据:乡音阁支持 16 种方言、63 个音色。 上下文:AI 相关工具介绍。;数据:Parse 免费额度为每分钟 5 个请求。 上下文:Parse 工具介绍。;数据:MarkCard Studio 提供 16 套内置主题。 上下文:工具介绍。 数据:2026年8月14日至2026年8月19日 说明:片段中显示的留言日期范围。;数据:49条留言 说明:用户提供的留言数量标注。;数据:OpenCode Go套餐用户平均每天花费1.14美元 说明:阿猫留言中引用的数据,片段未说明统计来源。;数据:每天费用翻上10倍 说明:阿猫留言中的成本情景描述,不是经过验证的统计结果。;数据:2.4年收回成本 说明:阿猫认为原文应表达的成本回收时间;片段未提供计算依据。;数据:缓存构建耗时为秒级 说明:valor引用DeepSeek官方文档时提供的信息。;数据:缓存自动清空时间为几个小时到几天 说明:valor引用DeepSeek官方文档时提供的信息。;数据:《祝你平安》1994年发行 说明:水兽留言中提供的信息。;数据:30层楼以上 说明:oppo关于激光灭火设想中提及的建筑高度,不是实际测试数据。

10例子

以 DeepSeek 为例,若两次输入间隔不超过 10 分钟,文章称缓存仍可能有效并收取 2 分钱;若超过 10 分钟,缓存被删除,下一次输入需要重新计算并收取 1 元。;以每 30 秒发送一次缓存激活请求、缓存期限为 10 分钟的情况为例,文章称会发送 20 个激活请求,长期费用可能不低。;声波灭火装置的演示是在厨房中由喇叭对着灶头释放低频声波,火焰随后熄灭;但文章同时指出该装置体积较大、需要靠近火源且声波衰减快。;无舷窗飞机通过液晶显示屏播放外部摄像头画面,文章称其设计目的包括减轻重量、减少空气阻力和降低燃油消耗。;荷兰与中国文摘比较了银行客服、公共厕所、外卖、支付方式、旧物使用和公共服务等待时间等生活细节。 lorcan描述AI可能导致测试承担产品工作、前端承担UI工作、后端承担项目经理工作,并称公司老板不购买API,需要自费购买token。;MarkXu提到已有吉他调音软件,并认为单音识别效果较好,但和弦识别仍较难。;一条留言者认为“昆虫世界”可能是低质量的视频编码或AI生成产物,但片段没有展示该项目的具体生成过程。;Tom将“不接受某种想法但仍愿意思考”与教育联系起来,并提到“越是穷人越爱抬杠”的类似说法。;关于荷兰与中国,Matt提出如果荷兰人并不比中国人更富有,问题可能会朝相反方向发展,并询问荷兰人为何在发展速度、科技新旧程度较低的情况下仍能保持较高收入。

11数据和例子

类型:费用数据 数值:1.14 美元/天 对象:OpenCode Go 套餐用户运行 DeepSeek Flash v4 的平均花费 限制:来源与统计口径未提及。;类型:成本倍数 数值:10 倍 对象:与前述使用成本比较时的本地每日费用倍数 限制:原文表述为“即使每天费用翻上10倍”,具体基准未进一步说明。;类型:回本周期 数值:24 年 对象:本地运行大模型收回成本所需时间 限制:计算过程、设备采购价和运营成本未提及。;类型:硬件配置 数值:双 DGX 架构 对象:本地运行相同功能所需的系统 限制:DGX 的具体代际与配置未提及。;类型:生活场景举例 例子:普通人在国内可以享受外卖、下馆子、维修等便利;在国外可能需要自行处理几乎所有事情。 限制:没有指定国家,也没有提供具体个案。;类型:日期与时间 例子:2026年8月20日19:21、2026年8月21日09:21、2026年8月25日13:50、2026年8月27日12:57。 限制:片段没有明确每条内容与相邻日期之间的对应关系。

我的补充

站主尚未添加个人补充。

(1)模型输入的收费原因

大家知道,使用大模型的时候,需要先有提示词。

大模型会将提示词分解成 Token,再将 Token 转成向量值,然后计算所有 Token 之间的注意力关系。

这一步非常消耗算力,因此模型公司会对输入 Token 收费。你的提示词越多,输入 Token 的费用就越高。

(2)输入缓存的作用

对于多轮对话和长程任务,每一轮都需要把以前步骤的输入输出结果,提交给模型。

我们可以想到,这些每一轮额外增加的提示词是不变的,以前都已经处理过了。模型完全不必要对这些"前缀"每次进行重复计算,只要把以前的计算结果缓存起来,下一次再取出来用就行了。

这就是为什么需要缓存,它可以大大节省不必要的算力消耗,加快模型处理。

这也是它便宜的原因,因为只要命中缓存,基本不消耗算力,收取的费用实际上是储存空间的费用。

(3)缓存的时间期限

缓存有时间期限,长期保存并无意义。如果一段时间没有用到这些缓存,服务器就会把缓存删除。

根据前面引用文章的测试,各家公司的缓存保存时间不一样。

Anthropic:5分钟
DeepSeek:10分钟
OpenAI:10分钟~30分钟逐步失效
Google:1小时内逐步失效
以 DeepSeek 为例,在10分钟以内,缓存就是有效的,命中缓存只收取2分钱。如果对话的间隔特别久,下一次输入跟上一次之间超过了10分钟,缓存就被删除了,模型收到上一轮的提示词,就不得不重新计算,收取的费用就变成了1元。

(4)保持缓存有效

由于缓存命中与未命中之间,有巨大的价差。用户的 AI Agent 工具往往会想办法,尽可能延长缓存的保存时间。

当用户长时间不操作、也不退出的时候,大多数 AI Agent 会每隔30秒,自动向服务器发送一个请求,让缓存保存激活状态。

有些模型有专门的缓存激活接口,还有一些没有。这时可以用笨办法,Agent 自动重复发送一次以前的提示词,确保缓存激活。

不过,激活请求也会产生费用。每隔30秒发送一次,如果10分钟没有输入,就会发送20个激活请求。时间一长,费用也不低。

前面说过了,现在各家模型的实际缓存期限,最短也有5分钟,因此30秒一次的激活请求,似乎频率太高了。所以,最新的建议是,可以改成每4分钟自动激活一次缓存。

AI缓存知识周刊信息图.png

整理信息

模型
MiniMax-M3.1-Flash-Preview
整理时间
2026-10-18T07:22:54.817Z
内容状态
已完成本次接收原文的逐段整理;发布前请检查。
标记
AI 辅助整理并由站主审核

READERS' NOTES

访客评论 (0)

评论经站主审核后公开;邮箱仅用于管理,不会显示。

正在加载评论…

返回收藏列表