我要投稿

GPT&llama结构对比图

发布日期：2024-09-25 20:34:57 浏览次数： 2501

作者：是海潮音

微信搜一搜，关注“是海潮音”

https://github.com/rasbt/LLMs-from-scratch/blob/main/ch05/07_gpt_to_llama/converting-gpt-to-llama2.ipynb
《Build a Large Language Model From Scratch》 book by Sebastian Raschka

今天看到Sebastian Raschka 绘制的GPT-2 XL 1.5B、Llama 2 7B以及Llama 3 8B的架构对比图。

GPT-2 XL 1.5B:

Vocabulary大小：50,257
使用了绝对位置嵌入（Absolute Positional Embeddings），最大输入长度为1600个token。
层数：48层，包含LayerNorm、Masked Multi-head Attention、Feed Forward等模块。
注意力头：25个多头注意力（heads）。
采用LayerNorm来正则化。
采用GELU

Llama 2 7B:

Vocabulary大小：32,000
采用了RoPE位置嵌入（Rotary Positional Embeddings），支持最大4096个token的输入长度。
层数：32层，与GPT-2相比少了16层。
注意力头：32个，
使用的是RMSNorm来代替LayerNorm，从而提升训练效率和收敛性。
激活函数：使用了SILU（Sigmoid-Weighted Linear Unit）代替GPT-2中的GELU。
去掉了一些Dropout层

?Llama 3 8B:

Vocabulary大小：128,000，显著增大。
继续使用了RoPE位置嵌入，但支持更长的输入长度：8192个token。
层数：32层，与Llama 2相同，
引入了Grouped-Query Attention，这是一种改进的注意力机制，优化了多头注意力的处理。
使用RMSNorm进行正则化。

这里写的llama2和llama3使用SILU，Paper介绍使用了SwiGLU，二者还是有一定差别

这本书质量很高，推荐

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2026-01-29

Moltbot（原 Clawdbot）扫盲

2026-01-29

Clawdbot在国内没有用武之地

2026-01-29

Clawdbot 深度拆解： 7 个问题看懂它。

2026-01-28

ClawdBot 火爆全网，手把手教你如何部署，还能直接用钉钉操作！

2026-01-28

一夜爆火，Clawdbot是否才是真正的AI入口产品？

2026-01-28

Vercel发布skills 1.1.1：让Skills跨平台共享

2026-01-27

Clawdbot 完整安装教学：2026 年最火的开源AI 个人助理

2026-01-27

实测Kimi K2.5，这是一款厌丑的开源模型

联系获取

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

全新AI编程工具 Google Antigravity 实测，特别适合产品经理

2025-11-19

2025-12-22

让白宫“破防”的阿里千问，我替你们测了...

2025-11-17

豆包手机同款AutoGLM硬核开源：AI如何用“眼睛+大脑+手”接管你手机

2025-12-10

最强开源0.9B级OCR模型！PaddleOCR-VL本地一键部署，私密性拉满【喂饭级教程】

2025-11-07

我把Claude Code换成GLM-4.7用了6小时，我竟然没发现明显区别

2025-12-23

SkillsMP：一个聚合了 5 万+ AI Agent 技能的开源社区

2026-01-12

Claude Code最强开源对手！GitHub 50.2k Star了，作者为它烧掉2.4w美元。

2026-01-06

把任何文档变成Claude的新技能，这个开源工具火了。

2025-11-06

Clawdbot 完整安装教学：2026 年最火的开源AI 个人助理

2026-01-27

大家都在问

一夜爆火，Clawdbot是否才是真正的AI入口产品？

2026-01-28

Clawdbot爆火：Karpathy点赞的开源AI助理，到底是什么？

2026-01-26

速递 | DeepSeek突然扔出MODEL1，这到底是V4还是R2？

2026-01-21

DeepSeek-R2要来了？

2026-01-21

TranslateGemma-27B谷歌开源翻译模型有多强？

2026-01-20

构建开放智能体生态：AgentScope 如何用 A2A 协议与 Nacos 打通协作壁垒？

2026-01-16

又是量化基金，第二个DeepSeek时刻到来了？

2026-01-02

2025-12-24

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI AI知识库开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB Palantir Glean