大模型

英文:Large Model / Foundation Model 分类:foundation

基本释义

大模型(Large Model)是大语言模型的简称,指通过海量数据预训练、具备数十亿乃至万亿级参数规模的深度神经网络模型,是当前生成式人工智能的核心引擎。与「大语言模型(LLM)」常作同义使用,广义上也涵盖多模态大模型、视觉大模型等。

技术要点

大模型以Transformer为骨干,通过自监督预训练学习语言与知识规律;参数规模、训练数据量与算力投入共同决定能力上限;工程上依赖GPU/TPU集群、分布式训练(数据并行/张量并行/流水线并行)与混合精度训练;部署需解决推理延迟、显存占用与成本问题,常用量化(INT8/INT4)与KV Cache优化。

发展脉络

2017年Transformer问世奠定架构基础;2018年GPT-1、BERT开启预训练范式;2020年GPT-3展示规模涌现能力;2022年底ChatGPT引爆全球大模型浪潮;2023-2025年国内外大模型密集发布,进入多模态与智能体阶段。

应用场景

大模型广泛用于智能对话、代码生成、内容创作、知识问答、智能客服、办公助手、教育辅导、医疗辅助、金融分析等场景;代表性产品有GPT系列、Claude、Gemini、豆包、通义千问、DeepSeek、文心一言等。

返回AI百科目录 · AI最前沿首页

相关词条:Transformer · 注意力机制 · 自注意力 · 千问办公 · Claude Code