AI 开发者周刊#002：大模型是什么？误将工程成就当成人类语言能力

这里分享对开发者有用的人工智能技术和信息，每周五发布。

大模型是什么？误将工程成就当成人类语言能力^[1]

论文探讨了大型语言模型（LLMs）的语言能力，并指出人们对LLMs的理解存在误解。文章认为，LLMs的语言能力是基于两个错误的假设：语言完整性和数据完整性。然而，从认知科学的具身视角来看，语言并非一个独立且完整的事物，而是一种参与和实践的方式。LLMs缺乏人类语言行为的三个关键特征：具身性、参与性和脆弱性，这使得它们无法像人类一样成为真正的语言主体。

Llama 3.1 & Mistral Large 2

Llama 3.1^[2] 系列模型是Meta发布的迄今为止最强大的开源大型语言模型。Llama 3.1 405B 模型在通用知识、可控性、数学、工具使用和多语言翻译方面具有卓越的性能。此外，Llama 3.1 还提供了 8B 和 70B 模型，这些模型均支持多语言、更长的上下文长度（128K）以及更强的推理能力。Meta 还改进了模型的许可协议，允许开发者使用 Llama 模型的输出来改进其他模型。

Mistral Large 2^[3] 是 Mistral AI 宣布推出了新一代的旗舰模型（大小为123B），该模型在代码生成、数学能力和推理能力上具有显著提升，同时提供了更强的多语言支持和高级函数调用能力。Mistral Large 2 具有 128k 上下文窗口，支持法语、德语、西班牙语、意大利语、葡萄牙语、阿拉伯语、印地语、俄语、中文、日语和韩语等数十种语言，以及 Python、Java、C、C++、JavaScript 和 Bash 等 80 多种编码语言。

Llama 3.1 和 Mistral Large 2 由于其出色的性能可以和GPT-4o、Claude 3.5等顶级闭源模型相抗衡，再次展现了OSS的能力。

Planning for Agents^[4]

这篇博客深入探讨了Planning（规划）对于Agent的意义，以及如何改进它。

文中提到了除了通过添加检索步骤或优化提示指令来确保 LLM 获取到足够的信息以进行有效的推理和规划，还可以调整应用的认知架构，包括采用通用认知架构和特定领域认知架构，以改善智能体的推理能力。同时也介绍了使用 LangGraph 工具来实现这一目标。

我们从1年的大模型构建中学到了什么？^[5]

O’Reilly 网站发布的文章“What We Learned from a Year of Building with LLMs”，涵盖了六位开发者在使用大型语言模型（LLMs）进行实际应用开发的一系列经验总结和最佳实践，包括提示技术、信息检索、调优和优化工作流程、评估和监控等方面。

Mem0^[6]：个性化AI的记忆层

Mem0 为大型语言模型 (LLM) 提供智能、自适应的内存层，通过保留和利用不同应用程序中的上下文信息来增强个性化 AI 体验。这种增强的内存功能使得 AI 能够记住用户偏好、适应个人需求并随着时间的推移不断改进。

LLM性能和价格分析网站^[7]

被吴恩达老师点赞的网站。

可以让开发者自由选择不同的模型进行生成质量、速度和价格方面的对比，快速筛选出合适的模型。

LLM API 管理系统^[8]

智元 Fast API 是一站式API管理系统，将各类LLM API进行统一格式、统一规范、统一管理，使其在功能、性能和用户体验上达到极致。

Album AI^[9]

Album AI 使用刚刚发布的gpt-4o-mini和 Haiku 作为廉价的视觉模型，自动识别出相册中图像文件的元信息，然后借助RAG技术，实现了与相册对话的能力。

也就是实现了使用自然语言搜索图片的功能。