我要投稿

GPT&llama结构对比图

发布日期：2024-09-25 20:34:57 浏览次数： 2158

作者：是海潮音

微信搜一搜，关注“是海潮音”

https://github.com/rasbt/LLMs-from-scratch/blob/main/ch05/07_gpt_to_llama/converting-gpt-to-llama2.ipynb
《Build a Large Language Model From Scratch》 book by Sebastian Raschka

今天看到Sebastian Raschka 绘制的GPT-2 XL 1.5B、Llama 2 7B以及Llama 3 8B的架构对比图。

GPT-2 XL 1.5B:

Vocabulary大小：50,257
使用了绝对位置嵌入（Absolute Positional Embeddings），最大输入长度为1600个token。
层数：48层，包含LayerNorm、Masked Multi-head Attention、Feed Forward等模块。
注意力头：25个多头注意力（heads）。
采用LayerNorm来正则化。
采用GELU

Llama 2 7B:

Vocabulary大小：32,000
采用了RoPE位置嵌入（Rotary Positional Embeddings），支持最大4096个token的输入长度。
层数：32层，与GPT-2相比少了16层。
注意力头：32个，
使用的是RMSNorm来代替LayerNorm，从而提升训练效率和收敛性。
激活函数：使用了SILU（Sigmoid-Weighted Linear Unit）代替GPT-2中的GELU。
去掉了一些Dropout层

?Llama 3 8B:

Vocabulary大小：128,000，显著增大。
继续使用了RoPE位置嵌入，但支持更长的输入长度：8192个token。
层数：32层，与Llama 2相同，
引入了Grouped-Query Attention，这是一种改进的注意力机制，优化了多头注意力的处理。
使用RMSNorm进行正则化。

这里写的llama2和llama3使用SILU，Paper介绍使用了SwiGLU，二者还是有一定差别

这本书质量很高，推荐

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-07-04

构建AI Agents-你一定要知道的10大开源利器

2025-07-03

阿里发布信息检索Agent，可自主上网查资料，GAIA基准超越GPT-4o | 模型&数据开源

2025-07-03

OpenAI首席研究官没有博士学位，你的985还有用吗？

2025-07-02

Higress 新增 MCP 服务管理，助力构建私有 MCP 市场

2025-07-02

别再只盯着分数线！手把手教你用AI挖掘最适合你的大学和专业（附提问模板）

2025-07-01

悟空Agent实战：LLaMA-Factory高危0day漏洞挖掘与修复

2025-07-01

Google 开源全球首个实时音乐大模型

2025-06-30

重磅！百度文心一言4.5开源，包含2个多模态大模型，4个大语言模型，最大参数量4240亿！完全免费商用授权！

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

看大厂PM，如何玩转多个智能体开发平台

2025-06-17

53AI Hub重磅开源！让99%的智能体开发者赚到钱！

2025-06-17

15个最佳开源 RAG 框架选型指南

2025-04-13

源神降临！阿里 Qwen3 全系发布，免费商用，消费级显卡就能跑！(深度解读 + 实战case)

2025-04-29

OpenAI学院：人工智能领头羊自己下场做课了

2025-04-12

一文看懂谷歌 A2A：它到底是个啥？为什么能带AI Agent 组队开黑？

2025-04-10

Qwen3中性能最强MOE模型部署抛砖引玉 + 实测

2025-04-29

手搓Manus？MCP 原理解析与MCP Client实践

2025-04-15

阿里Qwen3正式发布：最小6亿参数，叫板Gemini-2.5Pro

2025-04-29

刚刚，DeepSeek开源新版R1，媲美OpenAI最高o3模型

2025-05-29

大家都在问

OpenAI首席研究官没有博士学位，你的985还有用吗？

2025-07-03

卷疯了！这个清华系Agent框架开源后迅速斩获1.9k stars，还要“消灭”Prompt？

2025-06-28

从 MCP 谈起，到底什么才是 AI Native 产品？

2025-06-25

中国AI Agent市场最终会变成一地鸡毛吗？

2025-06-25

如何使用 Agno 构建一个基础的 AI 智能体？

2025-06-21

开源AI工具Magentic UI，凭什么让你的工作效率提升300%？

2025-06-16

如何用Gradio搭建一个完整的AI产品功能？

2025-06-15

从天价咨询到免费AI，夸克能改变志愿填报这门生意吗？

2025-06-14

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB