我要投稿

GPT&llama结构对比图

发布日期：2024-09-25 20:34:57 浏览次数： 2381

作者：是海潮音

微信搜一搜，关注“是海潮音”

https://github.com/rasbt/LLMs-from-scratch/blob/main/ch05/07_gpt_to_llama/converting-gpt-to-llama2.ipynb
《Build a Large Language Model From Scratch》 book by Sebastian Raschka

今天看到Sebastian Raschka 绘制的GPT-2 XL 1.5B、Llama 2 7B以及Llama 3 8B的架构对比图。

GPT-2 XL 1.5B:

Vocabulary大小：50,257
使用了绝对位置嵌入（Absolute Positional Embeddings），最大输入长度为1600个token。
层数：48层，包含LayerNorm、Masked Multi-head Attention、Feed Forward等模块。
注意力头：25个多头注意力（heads）。
采用LayerNorm来正则化。
采用GELU

Llama 2 7B:

Vocabulary大小：32,000
采用了RoPE位置嵌入（Rotary Positional Embeddings），支持最大4096个token的输入长度。
层数：32层，与GPT-2相比少了16层。
注意力头：32个，
使用的是RMSNorm来代替LayerNorm，从而提升训练效率和收敛性。
激活函数：使用了SILU（Sigmoid-Weighted Linear Unit）代替GPT-2中的GELU。
去掉了一些Dropout层

?Llama 3 8B:

Vocabulary大小：128,000，显著增大。
继续使用了RoPE位置嵌入，但支持更长的输入长度：8192个token。
层数：32层，与Llama 2相同，
引入了Grouped-Query Attention，这是一种改进的注意力机制，优化了多头注意力的处理。
使用RMSNorm进行正则化。

这里写的llama2和llama3使用SILU，Paper介绍使用了SwiGLU，二者还是有一定差别

这本书质量很高，推荐

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费POC验证，效果达标后再合作。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-11-17

4.5K Star！文档管理AI神器Paperless-AI：自动分类打标签，语义搜索秒找文件！

2025-11-17

Memori：让 AI 拥有 "持久记忆" 的开源RAG引擎

2025-11-17

最详细的 DeepAgents 实战拆解：一次看懂LangChain全新深度智能体框架

2025-11-17

让白宫“破防”的阿里千问，我替你们测了...

2025-11-15

N8N与Skyvern构建自主AI代理，实现个人秘书并不是梦想

2025-11-14

Mem0：为LLM API添加记忆功能

2025-11-13

CherryTree：开源笔记利器，助你构建知识体系

2025-11-13

从图片到结构化文本，Chandra开源OCR工具让文档处理效率翻倍

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

DeepSeek V3.1 Base / Instruct 发布

2025-08-20

阿里Qoder vs Trae vs Cursor：谁才是2025年程序猿的效率之王？

2025-09-07

DeepSeek-V3.1-Base来了！MoE架构+128K上下文，性能再进化

2025-08-20

重磅开源！通义万相最新模型来了

2025-08-26

阿里AI编程 IDE Qoder 正式发布，BAT 终于凑齐了！

2025-08-22

开源发布！适合中国宝宝的 LangGraph 智能体开发模板！

2025-09-06

DeepSeek又开源，这次是OCR模型！附论文解读！

2025-10-20

DeepSeek-V3.1发布，拿下全球开源第一，确实可以封神了！（附一手实测）

2025-08-22

Claude不让用，有哪些国产模型能迎头赶上？

2025-09-08

发现一个超神的Github开源OCR项目，国产多模态杀疯了

2025-10-27

大家都在问

我们为什么选择 Spring AI 开发智能体，而不是 Dify？

2025-11-12

开源安全审核模型终极PK：Qwen3Guard、OpenAI-SafeGuard、Llama4-Guard谁才是王者？

2025-11-10

DeepSeek-OCR到底厉害在哪？

2025-11-03

n8n如何调用最近爆火的deepseek OCR？

2025-10-29

小红书入局AI智能体开源DeepAgent，在计划什么更新？

2025-10-28

埃森哲的大裁员，向市场发出了什么信号？

2025-10-13

DeepSeek-V3.2背后的国产算子编程语言TileLang是什么？如何保持性能领先的同时减少6倍代码量？

2025-09-29

Qwen3-Next 首测！Qwen3.5的预览版？但为什么我的测试一塌糊涂？

2025-09-17

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB