我要投稿

微软开源OmniParser V2，直接将DeepSeek-R1变成使用电脑的 AI Agents~

发布日期：2025-03-16 11:51:01 浏览次数： 1562 来源：PaperIdea

微软在其官网上发布并开源OmniParser V2，它可以将任何 LLM 变成能够使用计算机的Agent。可以启用 GPT-4o、DeepSeek R1、Sonnet 3.5、Qwen等来了解屏幕上的内容并采取相关操作。

screen spot pro performance

OmniParser 是一款通用屏幕解析工具，可将 UI 屏幕截图解释/转换为结构化格式，以改进现有的基于 LLM 的 UI Agent。

训练数据集包括：

可交互图标检测数据集，该数据集来自热门网页，并自动注释以突出显示可点击和可操作区域；
图标描述数据集，旨在将每个 UI 元素与其相应的功能关联起来。

该模型中心分别包含基于上述数据集的 YOLOv8 微调版本和 Florence-2 微调基础模型。

OmniParserV2 有什么新功能？

更大、更清晰的图标标题 + 基础数据集与 V1 相比，延迟改善了 60%。
平均延迟：A100 上为 0.6 秒/帧，单个 4090 上为 0.8 秒。
性能强劲： ScreenSpot Pro上的平均准确率为 39.6
Agents只需要一个工具：OmniTool。使用 OmniParser + 选择的视觉模型控制 Windows 11 VM。OmniTool 开箱即用地支持以下大型语言模型 - OpenAI (4o/o1/o3-mini)、DeepSeek (R1)、Qwen (2.5VL) 或 Anthropic Computer Use。

https://huggingface.co/microsoft/OmniParser-v2.0https://www.microsoft.com/en-us/research/articles/omniparser-v2-turning-any-llm-into-a-computer-use-agent/https://github.com/microsoft/OmniParser/tree/masterdemo： http://hf.co/spaces/microsoft/OmniParser-v2

53AI，企业落地大模型首选服务商

产品：场景落地咨询+大模型应用平台+行业解决方案

承诺：免费场景POC验证，效果验证后签署服务协议。零风险落地应用大模型，已交付160+中大型企业

相关资讯

2025-03-17

不到 4 万元的 DeepSeek-R1-671B-Q8 部署方案

2025-03-17

OWL深入分析，打造个人通用Agent

2025-03-17

manus没有秘密？沙盒代码逆向完成，开源~

2025-03-17

小参数出奇迹！360开源最强14B推理模型，端侧部署春天来了？

2025-03-17

大模型工具Dify-窥探

2025-03-17

火爆 AI 编程圈的 MCP 到底是个什么东西？

2025-03-17

怎样使用AnythingLLM 和 DeepSeek 创建私有智能体

2025-03-16

轻松部署Gemma3-27B，L20服务器+最新版vLLM高效推理

了解更多

了解更多

160+中大型企业正在使用53AI

立即咨询预约演示

把握AI发展的机遇，共同探索、共同进步

2025-01-22

如何打造基于GenAI的员工服务机器人

2025-01-22

热点资讯

我把最近爆火的 DeepSeek-V3 接到了 Cursor！

2025-01-01

Ollama 本地运行大模型(LLM)完全指南

2024-07-25

万字详解DeepSeek-R1，引爆AI圈的又一力作，大模型爆发势不可挡！

2025-01-21

太强了！10大开源大模型！

2024-05-06

QWEN2.5开源上新，14B/32B回归实测：这就是最强单卡本地模型！

2024-09-20

全民进入GPT-4时代：OpenAI强势推出GPT-4o mini！彻底取代GPT-3.5！

2024-07-20

Qwen2 阿里最强开源大模型（Qwen2-7B）本地部署、API调用和WebUI对话机器人

2024-06-12

开源项目Composio：突破 AI 智能体开发的边界

2024-08-13

如何免费使用 Claude AI？Claude使用指南！

2024-07-11

DeepSeek-V3 正式发布

2024-12-26

大家都在问

小参数出奇迹！360开源最强14B推理模型，端侧部署春天来了？

2025-03-17

火爆 AI 编程圈的 MCP 到底是个什么东西？

2025-03-17

谷歌突然开源Gemma 3！128K长上下文+多模态，碾压Llama 405B？

2025-03-13

单卡跑出27B性能！谷歌Gemma 3开源模型如何重新定义AI开发边界？

2025-03-13

5 个人、3 小时，开源复刻 Manus？

2025-03-08

单机部署满血版DeepSeek，谁才是最具性价比的一体机方案？

2025-03-03

一文读懂 DeepSeek 开源周，CEO 梁文锋亲自写代码？

2025-03-02

DeepSeek开源的FlashMLA有什么优势？

2025-03-01

热门标签

内容创作大模型技术个人提效 langchain llamaindex 多模态技术 RAG技术智能客服知识图谱模型微调 RAGFlow coze Dify Fastgpt Bisheng Qanything AI+汽车 AI+金融 AI+工业 AI+培训 AI+SaaS 提示词框架提示词技巧 AI+电商 AI面试数字员工 ChatBI 知识管理开源大模型智能营销智能硬件智能化改造 AI+医疗 MaxKB

应聘简历请发送至： ceo@53ai.com

友情链接：

CopyRight © 2012-2024 深圳市博思协创网络科技有限公司版权所有

粤ICP备17114055号

广州：广州市华景路37号(华景软件园)暨南大学科技大厦6楼（整层）杨小姐 186 6662 7370

深圳：深圳市福田区泰然四路29号天安创新科技广场一期A座1204 陈先生 185 8882 0121

上海：上海市浦东新区金新路58号1602室戴先生 186 1639 7587

微信扫码
和创始人交个朋友

联系我们

售前咨询

预约演示

微信扫码

添加专属顾问

回到顶部