初识Groq AI

推荐语

探索Groq AI，体验极速AI推理引擎的独特魅力。

核心内容：
1. Groq AI及其核心产品LPU™推理引擎介绍
2. 云和本地AI解决方案，多开源AI模型支持
3. Groq AI Chat功能和代码能力的实际应用案例

杨芳贤

53A创始人/腾讯云(TVP)最具价值专家

简介

Groq 是一家专注于高性能人工智能（AI）推理的公司。其核心产品是 LPU™ 推理引擎，这是一个硬件和软件平台，旨在提供卓越的计算速度、质量和能效。Groq 提供云端和本地解决方案，支持大规模 AI 应用。

Groq 的技术使开发者能够快速切换到 Groq 平台，只需更改三行代码即可从其他提供商（如 OpenAI）无缝迁移。Groq 支持多种开源 AI 模型，如 Llama、Mixtral、Gemma 和 Whisper，并且其速度在独立基准测试中得到了验证。

限制

• 需要科学上网

• 免费版可以进行基本测试不支持多模态

优势

快、速度很快

官网

官网地址：https://groq.com    

注册登录

Groq AI的Chat需要注册登录，可以使用邮箱或者Google邮箱一键登录，为了方便这里我使用Google邮箱登录

登录成功后就可以正常使用Chat功能了    

Chat基本使用

官网Chat地址：https://chat.groq.com

模型列表

Groq提供了 DeepSeek、Google、Meta、Mistral 的模型接入

DeepSeek系列：

• deepseek-r1-distill-llama-70b

Google系列：

• gemma2-9b-it

Meta系列：

• llama-3.3-70b-specdec

• llama-3.3-70b-versatile

• llama-3.2-3b-preview

• llama-3.2-1b-preview

• llama-3.1-8b-instant

• llama3-70b-8192

• llama3-8b-8192

Mistral系列：

• mixtral-8x7b-32768

文本对话

使用 deepseek-r1-distill-llama-70b 模型进行试验，看下是否支持实时获取网络信息

当我们询问最新的天气信息时AI没有给我们提供天气信息，好像不支持联网功能，再次向AI确认后得到了肯定答案（不支持联网搜索）。    

可以看到Groq AI响应速度确实快，此次问题仅用 0.09秒

代码能力

问题：领扣76.最小覆盖子串

给你一个字符串 s 、一个字符串 t 。返回 s 中涵盖 t 所有字符的最小子串。如果 s 中不存在涵盖 t 所有字符的子串，则返回空字符串 "" 。请补全下面函数：===/** * @param {string} s * @param {string} t * @return {string} */const minWindow = (s, t) => {}===请注意我的要求：不要输出思考过程，直接输出代码结果

为什么强调不要输出思考过程呢，因为DeepSeek R1模型会输出大量思考过程，导致触发Groq上下文调用限制    

限制模型输出才有可能得到答案?    

回答正确✅，在领扣上也通过了测试用例    

逻辑推理

第一个问题：简单年龄推理

小明妈妈7年前的年龄是小明的6倍，小明今年12岁，问小明今年妈妈几岁？

第二个问题：比大小

9.9和9.11哪个更大？

答案和大多数模型一样都是直观的进行比较数值，需要我们进一步引导

分场景分析，如版本号，日期等，比较9.9和9.11哪个更大？

经过我们的引导提示，这次给出了合理的答案。    

第三个问题：strawberry中有几个"r"?

这次问题DeepSeek R1 70b表现不错，没有引导的情况下回答正确了✅    

绘图

不支持文生图

文件处理

不支持上传文件

Groq Cloud

官网地址：https://console.groq.com/playground    

Playground

官网地址：https://console.groq.com/playground

Playground提供了 CHat 和 Studio 两种模式，比Groq的独立Chat多内置了OpenAI的 whisper-large-v3 和 whisper-large-v3-turbo 模型，支持系统提示词和模型参数配置    

使用Chat功能    

Groq部署的DeepSeek R1 70b居然没有更正这个问题?

真是主打一个嘴硬?，换成 gemma2-9b-it 回答正确

Studio

Studio在Chat的基础上提供了自定义助手消息及可以选择性的插入相应回答内容到上下文。    

点击【Add】可以将助手提示词加入对话中    

点击【View Code】导出提示词内容

申请API Key

切换到【API Keys】点击【Create API Key】创建一个新的API Key

输入API Key名称，点击真人验证，验证通过后点击【Submit】进行提交    

点击【Copy】保存API Key，妥善保管后续将不再展示

在Continue中使用

在VS Code中配置Continue插件，新增一个模型，Provider选择【Groq】，Model随便选吧（Continue插件中的模型列表不正确），填入申请的【API Key】，点击【Connect】

不出意外的话是会报错的    

手动修改Continue模型名称为 llama-3.3-70b-versatile

同样可以新增 deepseek-r1-distill-llama-70b

产品定价

产品套餐

Groq提供了 Free、Developer、Enterprise 3种产品套餐，免费版可以进行基本测试不支持多模态，免费版不够用可以考虑升级到开发版（按使用量抵扣）  

模型费用

模型限制    

体感

使用Groq AI的第一印象就是快，非常快，直接刷新了我对AI回复速度的新认知，原来AI回复还可以这么快。不过Groq也有不足，如不支持多模态输入、不支持文生图等，模型回复速度快有时会丢失更多思考流程，无法获取到更多更准确的结果。对内容准确性和多模态没有严格要求的小伙伴来说，这是个非常不错的平台。

常见问题

404 Not Found