AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


如何用AI做信息抽取-实战案例-飞书
发布日期:2024-12-20 17:05:59 浏览次数: 1765 来源:修文ai读书

引言

随着互联网和社交媒体的飞速发展,我们每天都会接触到大量的非结构化数据,如文本、图片和音频等。这些数据中包含了丰富的信息,但也提出了一个重要问题:如何从这些海量数据中提取有用的信息和知识?这就是信息抽取(Information Extraction, IE)的任务。信息抽取不仅是自然语言处理(NLP)的一个核心组成部分,也是许多实际应用的关键技术。

信息抽取概述

信息抽取(IE)旨在从未结构化或半结构化的文本中识别和提取特定类型的信息。信息抽取的主要任务包括:         
1. 命名实体识别(NER) : 识别文本中的命名实体,如人名、地点、组织、时间等。         
2. 关系抽取(RE):识别文本中实体之间的关系,如“A是B的父亲”。       
3. 事件抽取(EE):识别文本中的事件及其与实体的关联。

案例-用飞书多维表格-捷径字段快速批量提取实体

任务1:单次信息提取(智谱清言 https://chatglm.cn/share/FqlM8)  

上面任务中,提示词采用具体任务+one-shot(参考示例),当然,当我们需要大量的数据进行批量解析时,可以如何处理呢?当然我们可以通过在提示词中全部把任务提交给大模型,比如智谱最大输入限制目前能到2万,一些大批量任务也是可行的。但本次我们提供一种新的解决方法,利用飞书的多维表格。   

         

 

任务2:采用飞书多维表格对八千条材料信息进行批量要素提取。

飞书多维表格中,有字段捷径,如上图中的,解析结果-V1字段,采用内置的信息提取字段捷径即可批量进行信息提取了。   

         

 

当然,以上两个任务中,可能存在的问题有,比如提取的要素不准确,任务1中,同样是抗渗等级,第一次解析成耐久性等级,第二次解析成抗渗等级。商品混凝土,要求解析成供应方式:预拌。可能不满足实际业务要求。任务2中,解析的属性与属性值可能跟实际业务不符。这种情况应该如何改进呢?我们来看任务3。  

 

任务3:要素提取、自定义提取要求,提供更多正、负case

本案例,用提取普通混凝土这一类材料,提取的属性有品类、强度等级、抗渗等级、外加剂类型、是否泵送五个。

以下调整后的提示词:

##提取信息                  
"品类"                  
"强度等级"                  
"抗渗等级"                  
"外加剂类型"                  
"是否泵送"                  
                 
##输入参考示例                  
从“混凝土 混凝土强度等级:C10混凝土类型:混凝土外加剂:无材质:现浇混凝土C20”                  
提取"品类""强度等级""抗渗等级""外加剂类型""是否泵送"                  
输出:                 
"品类:普通混凝土                  
强度等级:C10                  
抗渗等级:null                  
外加剂类型:null                  
是否泵送:null"                  
                                  
##自定义提取要求                  
##输出格式                  
品类:xx                  
强度等级:xx                  
抗渗等级:xx                  
外加剂类型:xx                  
是否泵送:xx                  
                 
##以下为材料描述中部分关键词的同义词说明                  
抗渗等级,S=P=W,实例:S4=P4                  
外加剂类型,膨胀剂=膨胀=膨胀型                  
是否泵送,非泵送=自卸=自卸车=斗车                  
                 
##限制                  
1、必须按照输出格式要求输出                                   
2、每类提取的信息的要素值只能从属性对于的属性值列表中查找:                 
品类的属性值包含“普通混凝土”、“特种混凝土”、“防冻混凝土”                                   
强度等级的属性值包含“C7.5”、“C10”、“C15”、“C20”、“C25”、“C30”、“C35”、“C40”、“C45”、“C50”、“C55”、“C60”、“C70”、“C80”、“C85”、“C90”、“C95”、“C100”、“C130”                  
                 
抗渗等级的属性只包含"P4"、"P6"、"P8"、"P10"、"P12"、"P14"、"P16"                                   
外加剂类型的属性值包含"微膨胀"、"膨胀"、"防冻"、"早强"、"缓凝"、"减水"、"抗渗"、"增塑"                                   
是否泵送的属性值包含“泵送”、“非泵送”                  
                 
3、没要相应属性值的,输出:null                  
比如是否泵送,信息提取时没有对应属性与属性值,则输出,是否泵送:null       

实际输出结果:选取100条数据进行验证,对输出的100条结果进行判定后,准确率100%

         

 

当然,实际的应用案例还有很多,比如以下

  • 在医疗领域,信息抽取技术可以用于从临床文档中提取病人的重要信息,以便医生作出更准确的诊断。

  • 在金融领域,通过抽取新闻或社交媒体中的关键信息,机器可以更准确地预测股票价格的走势。

  • 在法律领域,信息抽取可以帮助律师从大量文档中找出关键证据,从而更有效地构建或驳斥案件。

53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询