主题聚合
检索
搜索、依据接地和上下文组装的工作流。
跟进此话题
站内关注 · 站外订阅话题图谱
16 个节点 · 42 条连接- 本话题的内容
- 话题外的邻居
- 渊源 · 续作 · 延伸
- 必备 · 借助
- 释义 · 印证
已发布技术信号
6 条DeepSeek V4.1 Flash 新版 1017：更强也更省
DeepSeek 推出 V4.1-Flash-1017 模型，在代码与智能体任务基准上提升的同时压缩了任务运行时间和输出长度，官方称为「性能—费用的帕累托改进」。配套 Harness 升级至 0.2.1 版本，并开放自研 Search 与 Fetch 两个搜索 API，每千次成功请求 5 元，11 月 1 日前免费。
谷歌开放新嵌入模型：图片音频文字同一个空间
Google 10 月 6 日发布开放权重的 EmbeddingGemma 2：基于 Gemma 4，共 740M 参数，文字、图片、音频、视频与代码嵌入同一个空间，视觉与音频编码器可选，只处理文字时只需 270M。上下文 8K，是上一代的 4 倍。代码检索 MTEB 从 68.76 升到 78.68，多语言文本几乎持平。
Pinterest 数百亿向量检索：量化与 SSD 的取舍明细
Pinterest 的搜索平台 Manas 在 80 个集群上服务数百亿嵌入向量。在 1 亿条向量上的离线基准里，标量量化把 HNSW 索引从 121GB 压到 50GB、召回几乎不掉；乘积量化压到 32GB，召回从 93.7% 掉到 77.3%。上线后服务成本降低 20% 到 30%。搬到 SSD 时，SPANN 加乘积量化的吞吐是 DiskANN 的 3 倍、延迟三分之一，召回低 5%。选哪种，取决于你的召回下限，不取决于压缩率。
Jev：只输出概率、不输出文字的决策模型
TypeSafe AI 发布 Jev，自称 System One 模型：输入文本或半结构化的「状态」，不生成文字，只对是否题、选择题、评分题返回带置信度的数字。只按输入计费、输出免费，每百万输入 token 0.042 美元。它适合一切能写成分类的任务，包括检索重排；代价是连「解释一下」都没有，只剩一个浮点数。厂商的「快 194 倍、便宜 445 倍」来自自制评测，它自己承认处在收益高端。
智能体记忆不是开关，是要按模型标定的剂量
IBM Research 把 ALTK-Evolve 铺到八个模型上评测：智能体从自己的历史轨迹里蒸馏出可复用的行为指引，推理时注入回上下文，不更新任何权重、不需要人工标注。结论反直觉——同一套指引在不同模型上的最佳用量完全不同，而决定用量的不是参数规模：745B 的 GLM-5 一分没涨，117B 的 gpt-oss-120b 用最省的策略涨了 16.1 个点，代价只有 5% 的 token。
LFM2.5-Encoders：能在 CPU 上跑长文档的小编码器，长上下文比 ModernBERT 快 3.7 倍
Liquid AI 发布两个开源编码器 LFM2.5-Encoder-230M 与 350M：在 GLUE、SuperGLUE 和多语任务上追平更大的编码器，支持 8,192 token 上下文，长上下文场景下在 CPU 上比 ModernBERT-base 快约 3.7 倍。它针对的是被生成式模型遮住的那一半生产负载——意图路由、策略检查、PII 识别、文本分类，这些任务整天在跑、大多跑在 CPU 上，且输入越来越长。