土猛的员外

记录QWen2-72B-Instruct模型安装部署过程

最近在给我们的客户私有化部署我们的TorchV系统，客户给的资源足够充裕，借此机会记录下部署千问72B模型的

TorchV AI的两款应用，做简洁却重要的事情

但凡现在依然还被很多客户在使用的，往往都是目的很纯粹的产品，至少从产品初衷来说，都是仅为了解决一个核心问题的。

RAG工程实践拦路虎之一：PDF格式解析杂谈

PDF表格解析是企业大模型应用中非常核心的工作，在一定程度上决定了给客户的是60分的玩具还是90分的工程。内附试用地址。

我对《RAG/大模型/非结构化数据知识库类产品》技术架构的思考、杂谈

RAG技术架构杂谈，我们CTO对RAG应用落地实践的思考，也是对我昨天文章的补充。

RAG在企业应用中落地的难点与创新（文字稿）

以下是2024年6月29日上午在稀土掘金开发者大会RAG专场的分享内容和文字稿。

如何联系我们

我们是杭州萌嘉网络科技有限公司的TorchV团队，如果您要进一步了解我们，可以看这篇文章。

TorchV产品定位和TorchV AI用户手册发布

今天这篇是TorchV的正式文章，介绍一些产品的内容。TorchV的产品定位；TorchV AI的用户手册。

LLM企业应用落地场景中的问题一览 ｜LLM ｜RAG ｜Agent ｜TorchV

最近两个多月写文章的频率明显低了很多，不是因为懒了，而是忙着做LLM应用的客户场景落地去了，今天来分享一下心得！

探讨实现AI Agents的三种方式，不同的方式带来不同的客群和场景 ｜LLM ｜Agent ｜RAG

昨天去参加在上海举办的NVIDIA创业者会议，感受了AI创业的热情，还听了Dify CEO张路宇的分享。今天说说自己对AI Agents的一些思考。

融合RL与LLM思想，探寻世界模型以迈向AGI「中·下篇」

本篇文章与2023年底尝试挖掘并探寻以chatGPT为代表的LLM和以AlphaGO/AlphaZero及当

TorchV AI v1.0正式版发布&新版官网上线

经过一个忙碌的3月，2024年4月1日，我们迎来了2024年1月26日首次发版以来最大的一次更新，TorchV AI（原TorchV Bot）从原来的beta 版本升级到了正式版v1.0。

聊聊AI应用创业心得，我们在路上 | 大模型应用落地场景 | RAG | SaaS | PaaS | GTM | TorchV

本文非AI技术文章，而是讲述我们在三个半月的AI应用创业过程中的一些心得，希望得到您共鸣和反馈。

融合RL与LLM思想，探寻世界模型以迈向AGI/ASI的第一性原理反思和探索「RL×LLM×WM>AI4S>AGI>ASI」

挖掘非结构化数据的价值（1）—通过RAG实现与文件对话

注意：本文【非技术文章】，适用于所有想通过最新的AI技术优化自己的工作和业务的朋友。 我们一起来聊聊如何挖掘非结构化数据的价值！

TorchV开工了，加油干！

开工大吉，发一下我们今年的计划。

RAG的《思考，快与慢》

RAG是快思考 OR 慢思考？我们来讨论一下RAG如何做到慢思考（相对全面的思考）。

TorchV的RAG实践分享（四）——开放试用

Torchv Bot 开始接受试用了！

如何使用快速压缩将RAG的Prompt成本削减80%

这种方法可以让prompt减少80%！ 这是一篇翻译文章，觉得确实很有启发，所以发出来大家一起看看。

AI原生应用的思考——CUI、电动机窘境和2024发展猜想

AI原生应用的思考，CUI和GUI？深度强化学习。

我的2023总结——关键词：创业、写作

2023年末有了转机，总结这一年，最重要的十两个关键词：创业、写作。