AI 开发者周刊#007：LogicGame、CodeRefine、Anthropic Claude 系统提示词...

这里分享对开发者有用的人工智能技术和信息，每周五发布。

前沿技术

LogicGame^[1]

智谱 AI 提出了一个名为 LogicGame 的新型评估基准，旨在测试大型语言模型（LLMs）在理解和执行复杂规则、多步计划等逻辑推理能力方面的表现。与传统基准不同，LogicGame 提供了多种游戏场景，这些场景包含一系列规则和初始状态，要求模型理解并应用预定义的规则来解决问题。这些游戏场景设计有别于依赖预先知识的评估方法，它们专注于通过预定义规则来区分逻辑推理与知识应用，从而使得对 LLMs 的规则推理能力进行纯净评估成为可能。LogicGame 考察了从简单规则应用到复杂推理链的不同难度级别，为评估模型对规则理解和多步执行能力提供了精确的指标。

Kvcache.ai^[2]

Kvcache.ai 是一个专注于大规模语言模型（LLM）服务优化的项目，通过将各种模态的数据转换为 KVCache，实现了诸如缓存、调度、压缩和卸载等优化策略。包含两个子项目：KTransformers 和 Mooncake。

三元组生成框架 EATQA^[3]

论文针对生成性问答（GQA）系统中存在的幻觉问题提出了一种新型的证据增强三元组生成框架 EATQA。该框架通过鼓励模型预测所有可能的 (问题、证据、答案) 三元组组合，并通过交换源对和目标标签来理解它们之间的逻辑关系，即在给定的问题-证据（QE）、证据-答案（EA）和问题-答案（QA）对中分别预测答案（A）、问题（Q）和证据（E）。此外，该框架在推理阶段桥接了证据的知识分布差距，以提炼证据中的知识。EATQA 框架确保模型学习到查询、证据和答案之间的逻辑关系，这不仅提高了证据生成和查询回答的质量，而且在两个挑战性的 GQA 基准数据集上超越了其他基于大型语言模型（LLMs）的方法和幻觉减轻方法。

CodeRefine^[4]：从研究论文到功能代码

CodeRefine 是一个利用大型语言模型（LLMs）自动将研究论文方法论转化为功能代码的新颖框架。

PolyRouter^[5]

PolyRouter 是一款多大语言模型（LLM）查询系统，通过整合各领域的 LLM 专家，并动态路由查询到最合适的专家，提高了查询效率和性能，同时降低了成本。

开发利器

kotaemon^[6]

一个开源的干净且可自定义的 RAG UI。适用于想要对其文档进行 QA 的最终用户和想要构建自己的 RAG 管道的开发人员。

Anthropic Claude 对话机器人的系统提示词^[7]

TB-OCR-preview-0.1^[8]

TB-OCR-preview-0.1 是一个端到端的 OCR 模型，能够同时处理文本、数学公式和标记语言格式，输出干净的标记语言文本。该模型支持 4-bit 加载，只需约 2.8GB VRAM，且性能损失微乎其微。

Cerebras Inference^[9]

Cerebras Inference 是迄今为止最快的 Llama3.1 推理 API：8B 为 1,800 个令牌/秒，70B 为 450 个令牌/秒。我们比 NVIDA GPU 快约 20 倍，比 Groq 快约 2 倍。同时也保持了很高的性价比。

Llamaranker^[10]

新的 SOTA reranker，基于 Llama3-8B-Instruct 构建，并具有易于解释的线性和校准评分，不仅功能强大，而且速度极快。

AI 产品

CompanyGPT^[11]

专门用于公司查询的 AI 搜索引擎。

Magic Patterns^[12]

该插件能够将任意网页的HTML转换为React代码或Figma设计，并且可以通过AI进行编辑和自定义。不论是获取现有设计，还是导入编辑，都能大大提升开发和设计效率。

PackPack^[13]

AI 驱动的浏览器标签管理工具。

Ragie^[14]

Ragie 是一个为开发者提供的全面管理的 RAG 即服务平台，通过简单的 API 和 SDK 集成，支持与多种数据源直接连接，提供高级特性如 LLM 重排、摘要索引、实体提取等，帮助开发者快速构建和部署前沿的生成式 AI 应用。

Structai^[15]

Structai 是一个能够提升用户与 AI 交互体验的工具。帮助用户快速捕获项目结构和选定文件内容，以便在人工智能工具中粘贴，从而获得更智能、上下文感知的帮助。

文章-观点

Anthropic Artifacts^[16]

文章深入介绍了 Anthropic 如何开发和推出 Artifacts 功能，不仅详细描述了 Artifacts 的开发过程，还为我们提供了对 Anthropic 工程团队运作方式的洞察。文章强调了小团队、快速迭代和利用 AI 工具在现代软件开发中的重要性，对团队 AI 产品构建非常有参考价值。

Llama 微调指南^[17]

Meta 发布了三篇详尽的 Llama 微调指南，涵盖了从预训练到微调的多种方法，如参数高效微调（PEFT）、检索增强生成（RAG）和上下文学习（ICL），为资源有限的开发者提供了实用的微调策略和具体操作指南。