支持私有云部署
AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


PANW AI 安全插件正式上架 Dify

发布日期:2025-04-03 22:12:28 浏览次数: 1533 作者:nsx很可爱的
推荐语

PANW AI安全插件在Dify平台上架,为AI应用提供全方位保护。

核心内容:
1. PANW AI Runtime Security for Dify插件功能介绍
2. 安全保护的五大模块及核心功能
3. 插件安装、配置及工作流示例

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家
celebrate hell yeah GIF by Brooklyn Nine-Nine

经过约 3.14159*7067.9 秒的开发与调试,PANW AI Runtime Security for dify 插件正式上架 Dify 的 Marketplace,在 Dify v1.0.0+ 版本的插件商店即可搜到


这个插件可以做什么?

在大模型时代,人人都在谈 AI 应用,人人也都在关心 AI 安全

AI 安全从底层往上层看共有 5 个大的模块:
  • 网络安全:关注网络隔离及网络中的威胁
  • CWPP:云运行时保护,关注软件运行平台的安全
  • 开发安全:安全左移,Secure AI App by Design
  • LLM 特定的安全:比如提示词注入攻击、越狱、敏感信息泄露等
  • 服务发布安全:关注服务对外暴露后的安全


本文插件的核心功能,其实就是做图中橙色部分,贴近业务去保护 AI 应用

保护的方式也很简单,借助 Dify 平台的接口,对用户访问 AI 应用的请求以及输出进行安全检查,双向进行内容过滤。

如何使用?

如果对该插件感兴趣,那只需要从 Marketplace 中安装插件,然后找熟悉的 Paloalto 小伙伴获得 API Token,填入插件即可在工作流/Agent 中使用。

如果没有熟悉的 palo 小伙伴,可以在下列网站提交信息获取: 
https://www.paloaltonetworks.cn/contact


至于具体的工作流,可以日式极简风格,类似于防火墙一样,检测到问题之后直接 Block 请求,和防火墙不一样的是,可以给用户回复个友好的提示“您输入的内容经 Palo Alto Networks 云安全服务检测存在风险,已被阻止,请谨慎使用此平台!”。


工作流也可以中式奢华风格,针对于每个检查项都返回不同的提示词,比如当用户输入敏感信息时提示“经 Palo Alto Networks 云安全服务检查,检测到敏感数据泄露DLP风险,请重试!”;或者当用户尝试攻击 AI 应用时,提示“经 Palo Alto Networks 云安全服务检查,检测到提示词注入风险,请重试!”。



看看效果?

下面发一些测试用例,效果大家自评:

同事说,你是怕 LLM emo 吗?


ChatGPT 刚火时改变 LLM 性格的提示词

防止 RAG 中的敏感数据泄露

角色扮演攻击

如果恶意链接被送给了 AI 应用


SQL 注入也可能应用于 AI 应用

正文到此结束,如果对该产品感兴趣,欢迎私信或留言交流~
我的微信号: Spark-go

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

添加专属顾问

回到顶部

加载中...

扫码咨询