做个出色的 Emoji 搜索，真不需要杀鸡用牛刀
最近业内热议 Linear 将新型分类推理模型 Jev 引入 Emoji 选择器，体验提升显著。但开发者 Max Leiter 指出：别把所有分类与检索任务都当成需要大模型推理的“钉子”。
在针对 4,668 个 Emoji（包含 Unicode 与社区自定义表情）的实测基准测试中：
• 成本与延迟差距巨大：Jev 每次检索需将整个候选池灌入上下文（单次耗费近 6 万 tokens），成本比 Embedding 高出 1,000 到 10,000 倍，延迟约为 2 倍，且存在服务不稳定的风险；其检索效果虽有微弱提升，但并不具压倒性优势。
• 纯向量检索更高效：利用
• 选型建议：
• 已知集合匹配（如 Emoji、文档检索）：优先使用 Embedding 向量检索。
• 已知标签分类：使用小型分类器或微调模型，成本更低、速度更快。
• 何时使用 Jev 等推理模型：仅在结果依赖复杂上下文理解、需要逻辑推理而无法单纯依靠向量空间距离解决时，才值得投入高昂成本。
原文链接：https://maxleiter.com/blog/embedding-emoji-search
#人工智能 #向量检索 #架构设计 #工程实践
最近业内热议 Linear 将新型分类推理模型 Jev 引入 Emoji 选择器，体验提升显著。但开发者 Max Leiter 指出：别把所有分类与检索任务都当成需要大模型推理的“钉子”。
在针对 4,668 个 Emoji（包含 Unicode 与社区自定义表情）的实测基准测试中：
• 成本与延迟差距巨大：Jev 每次检索需将整个候选池灌入上下文（单次耗费近 6 万 tokens），成本比 Embedding 高出 1,000 到 10,000 倍，延迟约为 2 倍，且存在服务不稳定的风险；其检索效果虽有微弱提升，但并不具压倒性优势。
• 纯向量检索更高效：利用
text-embedding-3-large 搭配 pgvector，或直接在浏览器端运行约 35 MB 的小模型（bge-small-en-v1.5）配合二进制向量（Binary Embeddings），就能实现低成本甚至零成本、毫秒级响应的语义检索。• 选型建议：
• 已知集合匹配（如 Emoji、文档检索）：优先使用 Embedding 向量检索。
• 已知标签分类：使用小型分类器或微调模型，成本更低、速度更快。
• 何时使用 Jev 等推理模型：仅在结果依赖复杂上下文理解、需要逻辑推理而无法单纯依靠向量空间距离解决时，才值得投入高昂成本。
原文链接：https://maxleiter.com/blog/embedding-emoji-search
#人工智能 #向量检索 #架构设计 #工程实践
Max Leiter's website
You don't need Jev for good emoji search | Max Leiter
or: semantic emoji search with embeddings
