MacTalk

准备用 Llama 2 做个小墨机器人

团队做了一门基于 Llama 2 的 AI 大模型实操方向的项目课,这门课会直接带着大家做一个生产环境可用的智能问答机器人。下面是产品的架构图。

Image

为什么要做这个集训班呢?我说说自己想法。
现在,以 ChatGPT 为代表的 AI 大模型技术,经历一众热捧之后,正在回归该有的冷静。冷静下来,企业都在进一步思考到底哪些场景的哪些问题适合用大模型解决。大模型不是万能的,它的优势和局限并存,就像我们每个人一样。近一个月,虽然大模型的新闻渐少,但落地的企业却越来越多。
我们和行业内的朋友聊完,感觉有几个趋势是笃定的:
第一,我们正处在大模型的应用浪潮之中。最近还有一些给大模型泼冷水的论调,但有一点无可否认,大模型确实是一次生产力的变革。但它也不是神,也要遵循技术的客观发展规律(技术采用生命周期)。
第二,头部公司都在加大对大模型技术的投入。这一点大家应该比我清楚,国内外我们目之所及的头部科技公司,都跃跃欲试。
第三,行业缺少能够落地大模型的工程师。这个看看招聘网站就能知道,我认识的几个 ToB 公司的老板都在招聘大模型落地方面的人才。
这次我们的这个实战集训班,有几个特点:
1、纯实战,直接上代码
2、手把手带你做一个生产环境可用的大模型项目
3、项目会拆为多个递进版本,v0.1,v0.2,v0.3,v0.4……
4、每个版本解决不同问题,呼应相关知识点
下面是具体的目录,你可以看看。围绕一个案例,做深做透,涵盖了当下大模型落地的所有技术知识点。关键是,直接上代码,最终我们也会把问答机器人的代码全部给到用户。
Image
最终,我们做出来的机器人类似下面这样(还会加入语音和图片查找的能力),你只要有算力环境,部署代码,接入自己的私有数据后,就可以完美运行了。
Image
这是一个实操课,只有代码,没有环境也跑不起来。对于这块,我们是这么考虑的:

1、从第一节课开始就需要用到 OpenAI 的 API Key了,这个需要提前申请。OpenAI 现在默认开通了就会有 GPT-3.5 的使用权限,GPT-4 才需要申请。

2、没有 OpenAI 账号的同学,可以自行搞定。如果搞不定,找我们,我们来对接第三方开通(不超过 30 元人民币)。

3、私有化部分,我们就需要用到自己的算力资源了。实操的话,大家可以买个算力资源,一个月估计 100 元人民币差不多了,用完后关机即可。

4、墨问西东会买一部分算力,主要是课程使用。到时候大家也可以公开访问和体验小墨。

如果你正在考虑学习大模型,那可以考虑下我们这门课。现在买,只需要  599 元,8 节直播课,折合下来,一节课仅 74 元。另外还有社群共学、讲师答疑等,帮助你解决学习过程里的问题。
学完之后,你也可以找我们内推。最近很多朋友都在招这块的人才,并且,咱们的机器人项目,可以作为一个大模型的实践案例,直接写到简历中,都是实打实的代码。

👇👇👇戳此即可加入👇👇👇