ReaderMX.
Sota AI World

Sota.AI Devs Meetup 1st in Shanghai｜Event's Summary

S瑞恒Ryan约 4 分钟

Image

# 活动背景

⏰ 时间：2023 年 5 月 14 日

🗺 地点：Shanghai

🙋 主办：Sota.AI

👥 联合主办：CSDN CMeet&CDC、全球青年领航计划、How+、5S SENSES

👭 本期合作单位：NVIDIA、达观数据、彬复资本、有新Newin

🎞 议题关键词：AIGC、知识图谱、TensorRT 基础、Triton 基础、LLM 推理加速、AIGC 生态现状、商业机会

# 分享嘉宾
——————— 1⃣️ ———————

Image

王文广，达观数据副总裁，高级工程师，人工智能标准编制专家，自然语言处理和知识图谱著名专家，《知识图谱：认知智能理论与实战》作者，专注于知识图谱、AGI、大模型、自然语言处理、认知智能、强化学习、深度学习等人工智能方向。现在是上海市人工智能标准化技术委员会委员，上海科委评审专家，中文信息学会（CIPS）语言与知识计算专委会委员，中国计算机学会（CCF）高级会员，中国人工智能学会（CAAI）深度学习专委会委员。曾获得多个国际国家级、省部级、地市级奖项，拥有数十项人工智能领域的国家发明专利和会议、期刊学术论文。在达观数据致力于将大模型、自然语言处理、知识图谱、计算机视觉和大数据技术产品化，以知识图谱+大模型等产品服务于金融、智能制造、供应链、半导体、汽车工业、航空航天、新能源、双碳等领域。
分享主题：《拥抱通用人工智能》
分享提纲：
1⃣️ ChatGPT 横空出世，大模型精彩纷呈
2⃣️ AGI技术原理与挑战
3⃣️ 百花齐放的应用探讨
PPT 节选：
公众号后台回复「051401」即可获得网盘下载链接，或添加 Dora 微信（id：SotaAI2050）问询
内容提要：

王文广对通用人工智能（AGI）在大数据时代的优势与作用进行了比较分析，指出数据收集、算法设计、模型训练、模型评估、模型的部署和应用是实现通用人工智能的重要路径。他还提出以“神经网络大模型+知识图谱+强化学习”实现人本 AGI 的思路，从数据、计算、存储、人才等各个方面总结大语言模型的影响因素，并在会议结束时呼吁：“AI虽不能取代人类，然则善用AI者必将胜过不善用者！”🌲

Image

——————— 2⃣️ ———————

Image

何成杰，NVDIA 资深解决方案架构师，2017 年至今一直专注于 AI 领域的工程开发，项目落地。对于深度学习模型的训练，推理，部署等领域经验丰富。擅长 GPU 对于深度学习模型的加速。除此之外，对于 Linux 内核，云计算，大数据处理等方面也有多年的工作经验。

分享主题：《TensorRT 介绍及 LLM 的推理加速》

分享提纲：
1⃣️ TensorRT基础
2⃣️ Triton基础
3⃣️ LLM的推理加速及部署介绍
内容提要：

何成杰以基于 Transformer 结构的深度学习模型为例，对 TensorRT 推理加速引擎以及开源推理服务框架 TRITON 进行了深度讲解。

TensorRT 是可以在 NVIDIA 各种 GPU 硬件平台下运行的一个推理加速引擎，何成杰认为，通过算子融合、动态显存分配、精度校准、多 steam 流、矩阵卷积等的算法选择等操作，TensorRT 能够帮助用户大大提升模型在 GPU 上的推理速度；Triton 推理服务框架，则是 NVIDIA 推出的开源推理服务框架，它可以使用基于各种深度学习框架的模型文件执行推理工作，同时保持更高的吞吐量和系统利用率，已经成为推理服务领域事实上的主流方案。🌲

Image

——————— 3⃣️ ———————

Image

张周，关注中早期投资，主导或参与投资和并购多个 TMT、企业服务、AI 和 2C 领域项目，累计投资金额超过2亿美金。加入彬复资本之前，曾任职兰馨亚洲 Orchid Asia 担任副总裁，期间从事美元中后期投资和并购。此前也供职于罗兰贝格战略咨询Roland Berger 担任咨询顾问，协助各大跨国公司制定集团战略和落地运营方面工作。
分享主题：《生成式 AI 的生态和创投新机遇》
分享提纲：
总结生成式AI的生态现状，评估其中商业机会
1⃣️ 海外与国内的生成式AI生态对比
2⃣️ 技术路线、商业模式和生态位选择
3⃣️ 创业公司壁垒构建
PPT 节选：
（ 点击阅读张周分享的全文逐字稿 ）
内容提要：
基于行业的实践与数据分析，张周为观众分享了海外与国内的生成式AI的生态对比，指出国内生成式 AI 行业起步较晚，生态位、产业链和场景划分不清晰，大部分企业仍在探索。尽管生成式 AI 和大模型的机会是巨大的，但是成功的路径仍然比较狭窄，在选择“做什么”和“怎么做”两个问题上既要考虑传统创业的问题，也要考虑新技术范式的特有属性。
此外，张周还为生成式AI行业如何在技术路线、商业模式和生态位作出选择提供了思路。首先要考虑技术的迭代方向，顺应技术发展，同时躲避技术碾压；其次要对技术收敛程度和技术创业深度有相当把握；而在关注底层模型技术进步的同时，也要注重反向挖掘其短期无法完善的能力。🌲

Image

—end—

文案 | 瑞恒Ryan

排版 | Dora

审核｜瑞恒Ryan

* 文中嘉宾排序遵照演讲顺序，同时也是确认出席时间顺序

* 全部图片来源于嘉宾提供照片与活动现场的演示 PPT

Image

KEEP THE THREAD GOING

更多来源文章