微信扫码
与创始人交个朋友
我要投稿
语音识别:简称ASR,是将声音转化成文字的过程,相当于耳朵。
自然语言处理:简称NLP,是理解和处理文本的过程,相当于大脑。
语音合成:简称TTS,是把文本转化成语音的过程,相当于嘴巴。
(1)编码:把声音转化成机器能识别的样式,即用数字向量表示。
(2)解码:把数字向量拼接文字的形式。首先,将编译好的向量,放到声学模型中,就可以得到每一小段对应的字母是什么;然后,把翻译出来的字母再经过语言模型,就可以组装成单词了。
1、文本预处理
(2)词汇归一化:这个在处理英文文本时比较常用,如“play”,“player”, “played”,“plays”和“playing”是“play”的多种表现形式。虽然他们的含义不一样,但是上下文中是相似的,可以把这些各种形式的单词归一化。归一化是具有文本特征工程的关键步骤,因为它将高维特征(N个不同特征)转化为低维特征。
(1)分词:分词就把一个句子,切分成多个词汇。比如:输入“明天深圳的天气怎样?”,这个句子就会被分成“明天/深圳/的/天气/怎样”。其中“明天”、“深圳”、“天气”就是这句话的关键词,通过关键词去匹配内容。
(2)实体识别:实体提取指的是在一个文本当中,提取出具体特定类别的实体,例如人名、地名、数值、专有名词等。比如:在输入“詹姆斯在NBA打了多少年”,其中“詹姆斯”就是实体词,计算机可能就可以通过当前的时间和詹姆斯加入NBA的时间给出他在NBA的球龄。实体识别在信息检索、自动问答、知识图谱等领域运动的比较多,目的就是告诉计算机这个词属于某类实体,有助于识别出用户意图。
(1)主要目的:是为了将文档(文章)的主题进行分类,比如说是属于经济类、体育类、文学类等等。解决文案分类问题,比较经典的算法是TF-IDF算法。
(2)TF-IDF的主要思想:如果某个词或短语具有很好的类别区分能力,适合用来分类。比如说“NBA”这个词在一篇文章中出现的次数比较多,但又很少在其他文章中出现,那这篇出现多次“NBA”这个词的文章很可能就是体育类文章。
(1)文本相似度通常也叫文本距离,指的是两个文本之间的距离。文本距离越小,相似度越高;距离越大,相似度越低。比如:用户输入“这件衣服多少钱”或者说“这件衣服怎么卖”,这都是很口语化的句子,那要怎么给用户返回“衣服价格”呢?就是根据文本相似度处理的。需要我们计算出“多少钱”、“怎么卖”跟“价格”的相似度,然后根据相似度去匹配最佳答案。
(2)应用场景:推荐、排序、智能客服以及自动阅卷等。解决之前只能靠关键词精准匹配问题,识别语义,扩大了应用的范围。
5、情感倾向分类
(1)文本正则化:用以消除非标准词在读音上的歧义,将书面文本词转换为口语词,比如:数字、缩写、符号、网址等。
(2)在中文场景下,文本正则的目的是把那些不是汉字的标点或者数字转化为汉字。比如:【这个操作666啊】,系统需要把【666】转化为【六六六】。
(1)文本结构分析:是指对输入的文本进行分析,以确定其语法和语义结构,以便更好地生成语言输出。这个过程可以包括词法分析、句法分析和语义分析等步骤。
(2)在词法分析中,文本被分解成单词和标点符号,以便更好地理解其含义。在句法分析中,文本被分析成句子和短语,以便更好地理解其语法结构。
(3)在语义分析中,文本被分析成意义单元,以便更好地理解其语义结构。这些分析步骤可以帮助TTS系统更好地理解输入文本,并生成更自然、流畅的语音输出。
(1)对中文来讲,也就是把文本转化为拼音,将文本映射到对应的语音特征。如音高、音长和音色等。
(2)由于中文中多音词的存在,所以我们必须通过其他辅助信息和一些算法来正确的决策到底要怎么读。这些辅助信息就包括了分词和每个词的词性。
多音字预测,往往是词典、规则、模型等多方面进行优化。其中具有长时以来的多音字,肯定需要的就是具有长时依赖的模型来解决,预训练的语言模型也是可以拿来微调使用的。同时也需要通过其他辅助信息和一些算法来正确的决策到底要怎么读。
多音词也属于多音字的范畴,但往往也需要拿一些特别的多音词进行单独的优化。三声变调的实现,通过规则就可以解决。需要深入思考“小老虎”、“展览馆”这样的三声连续变调的区别在哪里。儿化音和轻声预测,也是需要通过词典、规则和模型来共同优化的。也不排除你的词典够大,无需模型来解决。
音素,是语音中的最小的单位,依据音节里的发音动作来分析,一个动作构成一个音素。音素分为元音、辅音两大类。
53AI,企业落地应用大模型首选服务商
产品:大模型应用平台+智能体定制开发+落地咨询服务
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
2024-05-08
2024-07-22
2024-07-14
2024-06-30
2024-07-11
2024-03-31
2024-08-09
2024-11-08
2024-07-14
2024-10-16