枫影（王鸿华）：AI大模型与AI算力

【课程背景】

工智能技术的迅猛发展，特别是以深度学习为代表的技术革新，AI大模型（如GPT系列、BERT等）成为了 推动自然语言处理、计算机视觉等多个领域进步的关键力量。这些模型通过大规模的数据训练，能够实现 超越传统方法的效果，并且在不断优化中展现出更强大的泛化能力和应用场景。与此同时，算力作为支撑 这些大模型运行的基础资源，其重要性日益凸显。无论是训练还是推理阶段，高性能计算能力都是保证模 型效果与效率的重要因素。

移动通信技术的进步，尤其是5G乃至未来的6G网络部署，为AI应用提供了更加广泛的应用场景和可能性。 在这样的背景下，如何有效地利用大模型和先进算力资源，成为移动研究院等科研机构关注的重点。本次 培训旨在帮助学员深入了解AI大模型的工作原理及其在移动通信领域的潜在应用，并掌握高效利用算力进 行模型训练与优化的方法。

【课程收获】

1.深入理解AI大模型的发展历程、现状及未来趋势

2.掌握大模型的基本概念、架构设计原则及关键技术点；

3.学习算力对大模型性能的影响机制以及如何选择合适的硬件平台。 4.了解AI-LLM在各个行业的应用现状及趋势

【课程对象】全员

【课程时长】1-2天（6h/天）

【课程大纲】

Part1 A I发展史

1. 1人工智能概念的提出

1.2人工智能的定义

1.3机器定理证明、跳棋程序等研究成果

2.机器学习： 数据驱动决策

2.1 监督学习、无监督学习

2.2 强化学习

3.深度学习： 神经网络模拟人脑

3.1 机器视觉CV

3.2 自然语言处理NLP

3.3 语音VC

4.第三代生成式AI： 内容与设计

Part2 AI发展要素

1.A I发展三大基础要素： 算法、 数据与算力

1.1算法：AI发展的关键

1.2数据: 大量可以被用来训练的有价值的数据 1.3高性能算力: 支持复杂AI模型构建

2.算法进步

2.1深度学习与强化学习的结合 2.2量子AI的崛起

2.3多模态技术融合

2.4智能化与个性化提升

3.算力加速

3.1 AI大模型推动物理推理算力需求激增 3.2分布式推理算力中心下沉

3.3全球智能算力规模增长

3.4GPU成为AI加速新品通用性解决方案

4.数据

4.1数据治理

4.2在线离线一体化数据库 4.3分布式隐私方面的突破 4.4数据处理与AI一体化

Part3 AI大模型

1.A I大模型的定义与基础

1.1具有庞大参数规模和复杂程度的机器学习模型 1.2基于深度学习和人工神经网络训练

1.3数据为基石，预训练提取高级特征

2.A I大模型的发展历程及趋势

2.1 从萌芽期到AI1.0, AI2.0d 飞跃

2.2 参数规模增长：数百万到千亿级别

2.3 通用化与专业化并行

2.4 表现

2.4.1多模态、跨模态和大尺度模型的发展

2.4.2开源大模型爆发

2.4.3企业级市场应用快速拓展

3.A I大模型的发展驱动要素

3.1政策对AI大模型发展的驱动因素

3.2技术对大模型发展的影响

3.2.1算力资源

3.2.2算法人才

3.2.3数据积累

3.2.4高位数据建模与特征提取问题

3.3AI大模型市场应用推动AI大模型的发展

3.3.1 2C的发展

3.3.2 2B产业应用

4.A I大模型目前国内外主要代表

4.1国际公司OPENAI、Google等主要模型

4.1.1 GPT：GPT-4和GPT-4o

4.1.2 Claude3模型

4.1.3 PaLM：PaLM-E等多模态

4.1.4 Gopher：DeepMind

4.1.5 Gemini: 原生多模态大模型，跨模态能力突破

4.1.6 LLama2: 开源模型家族，能力大幅提升

4.1.7 Mixtral 8x7B: 引入专家混合技术，开源领域重要力量

4.2百度、阿里巴巴等国内大模型

4.2.1传统互联网企业大模型：文心、通义、豆包、混元

4.2.2 新生代：智谱GLM、月之暗面KIMI、商汤

4.2.3 行业大模型

5.A I大模型基础技术原理

5.1技术背景与核心概念

5.1.1深度学习与神经网络

5.1.2预训练模型的原理

5.1.3参数优化与训练数据选择

5.2核心架构

5.2.1纯Prompt提示词法

5.2.2Agent + Function Calling机制

5.2.3RAG（检索增强生成）

5.2.4Fine-tuning微调技术

5.3模型结构与训练策略

5.3.1Transformer模型架构

5.3.2MoE（专家混合模型）

5.3.3多模态模型

5.3.4分布式并行加速与计算优化

Part4 AI大模型的应用

1.技术与算法应用场景

1.1大模型调用技术: 快速实现成果

1.2自然语言处理(NLP): 语音识别、文本生成 1.3生成式AI: 内容生成、交互生产

2.A I大模型的能力

2.1巨大的参数量和深层网络结构

2.2 强大的泛化能力和多模态理解能力

2.3 涌现能力

2.4 高效的数据处理和计算效率

2.5 降低开发门槛和提高模型精度

2.6 生成式AI的应用

2.7 跨领域的知识和语言理解能力

3.A I大模型的表征应用

3.1息检索与处理

3.1.1自然语言处理

3.1.2图像识别与分析

3.1.3文本分类与理解

3.2 内容生成

3.2.1 文本

3.2.2 图片与视频

3.2.3 语音

3.2.4 代码

3.3 智能聊天机器人

3.4 智能助理agent

4.行业应用

4.1金融领域: 智能风控、智能营销

4.2政务领域: 政策分析、公共服务优化 4.3医疗保健: 病例分析、疾病预测

4.4电商领域: 客户行为分析、个性化推荐 4.5教育领域: 个性化学习、情感分析

4.6制造业: 生产管理、质量控制

4.7农业: 遥感监测、作物病害预测

Part5 AI大模型的商业模式

1.商业化路径

1.1MaaS模式: 大公司提供预训练模型，垂直行业小公司构建和部署 1.2一体化黑箱模型: 简化用户对原理的了解，直接使用成果

1.3B端应用定价: 时间段收费、按调用量收费、包含硬件的一站式解决方案

2.商业策略平台

2.1Vizologi: 生成前瞻性商业计划，市场竞争分析 2.2企业数字化: 生成式AI在不同领域的应用

3.商业模式探索

3.1To B或To C选择: 产品繁荣或消亡的关键

3.2私有化部署方案: 满足数据安全需求，增强信任度

4.商业应用与体验赋能

4.1生成式AI在企业中的应用: 金融服务、政府和公共服务等领域 4.2AI技术在实体经济中的赋能作用

5.商业化进展

5.1行业持续技术突破和早期产品落地 5.2可行的商业模式

Part6 AI大模型的产品设计与部署

1.产品设计阶段

1,1目标定义与需求场景 1.2双故事线策略探索

1.3用户体验与价值驱动 1.4业务逻辑集成

2.技术选型与开发流程

2.1大模型科学选型 2.2开发流程概览

2,4本地离线部署方案

3.部署与优化

3.1部署服务选择 3.2模型训练迭代

3.3数据隐私与成本控制

Part7 AI算力

1.A I算力的概念与作用

1.1定义

1.2算力基础设施

1.2.1AI大模型训练与推理的核心

1.2.2GPU为算力核心组件

1.2.3AI服务器、存储需求增长 1.3对AI大模型的支撑

2.技术与设备

2.1GPU服务器主导 2.2AI芯片多样化

2.3HBM DRAM存储技术

3.应用场景

3.1大模型训练

3.2生成式AI应用