AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


ChatGPT企业内服务化落地
发布日期:2024-08-03 05:10:14 浏览次数: 1765 来源:运维军团




一、简介

ChatGPT是一款基于GPT-3.5的人工智能聊天机器人,可以通过聊天对话的形式,为用户提供各种信息、答案、建议和娱乐等服务。用户可以随时与ChatGPT进行聊天,并获取实时的回复。ChatGPT的智能程度非常高,能够理解语义、语境和用户情感,从而更好地为用户提供服务。

对于企业内来说,如何快速接入ChatGPT让企业内全员使用是个难题,本文旨在提供2种不同思路给企业内提供服务

二、企业服务如何接入chatGPT

ChatGPT通过上述能力瞬间风靡全网,这让人不禁有一个大胆的想法,将ChatGPT整合到我们工作常用的沟通工具上来提高我们的工作效率。

2.1 飞书聊天机器人接入

?上下文保留:私聊对话中自动继续同一话题讨论

?富文本卡片:支持富文本卡片回复,信息更丰富多彩

?多人群聊对话:群聊@机器人快速回复,高效连贯

? 多token负载均衡:优化生产级别的高调用场景
  • 后端统一化配置了多个openAI key,轮询使用,确保可用性

  • key可用性检查,及时移除已经失效的key

2.2 通过飞书网页应用接入

机器人接入虽然大家使用方便,接入成本较低,但是因为机器人的一些限制,体验在和原版比较起来会有一些瑕疵。因此我们也实现了另一种服务方式,就是web版接入。web版可以提供接近官方原生交互方式的体验,同时对比机器人不支持流式传输,流式传输会使使用更加流畅。

web版通过前端模仿了原版的web,后端则是对接了openAI的官方chatGPT接口,力求给使用者更接近官方的使用,同时接入了比较稳定的接口,省去了很多同事自行申请带来的麻烦和不便。做了统一接入后,可以让公司内同事开箱即用,免注册免登录,以最快的方式直接体验ChatGPT。

ChatGPT在飞书网页应用上能做什么?

在嵌入飞书工作台,快速点击进入

主页面和官方原版尽量还原

保留了官方的流式输出,输出的渲染尽可能还原官方

保存对话记录&以及对话上下文识别

三、技术实现

1. 注册token&调用api

以上功能实现的前提都是需要调用openAI官方的api,在调用 API 之前需要先在你的 Open AI 账户中生成一个 API Key https://platform.openai.com/account/api-keys

之前官方给到的免费额度是 18 刀(目前是5刀),超过的部分就需要自己付费了。计费是根据 Token 来算的,至于什么是 Token,可以参考 https://platform.openai.com/docs/introduction/key-concepts

官方的api调用手册 https://platform.openai.com/docs/api-reference

2. 前后端实现

对于机器人和web版网页应用,我们都是需要编写后端代码来实现我们的功能,本质上,无论是机器人和web版应用,都是统一把请求调用到我们后端,后端再去真正调openAI的接口进行请求。

对于web版页面应用,我们还需要一个和官网效果类似的前端实现...

PS: 最后这里分别提供一些飞书机器人和web版网页的后端开源实现,希望可以给读者阅读本文后达到一定的启发

开源飞书机器人后端:

  • feishu-OpenAI:基于飞书的chatGPT 机器人后端 https://github.com/ConnectAI-E/feishu-OpenAI

开源chatGPT后端:

  • node-chatgpt-api:使用nodejs编写的chatGPT后端。支持多种chatGPT调用实现 https://github.com/waylaidwanderer/node-chatgpt-api

开源类chatGPT前端实现:

  • PandoraAI: 使用vue + Nuxt3 框架模仿chatGPT 样式搭建的前端实现,能直接配置后端 node-chatgpt-api 使用 https://github.com/waylaidwanderer/PandoraAI(前后端同一个作者)

3. 目前我们仍在计划开发的功能:

1. 语音翻译

通过飞书发送语音,ChatGPT实现语音翻译功能

2. 自由切换模式

通过飞书消息卡片交互切换,进入不同的模式。例如可以切换图片生成模式。

四、关于 ChatGPT 的思考

ChatGPT 作为一款大型语言模型也还在不断的优化和迭代当中,相信未来会有更多的惊喜,能提供更好的服务和响应

诚然,在未来的发展,更加趋向于智能化,很多机械的,简单重复的工作,自然而然是会被逐步替代的,这些都是必须得直面的,无法逃避

我们更多的应该是以开放的心态,拥抱变化,向阳而生,不断的提升自己的核心竞争力,将自己作为一个产品来进行迭代和优化,将自己打造成一个伟大的产品岂不是很酷吗?


53AI,企业落地应用大模型首选服务商

产品:大模型应用平台+智能体定制开发+落地咨询服务

承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询