专利标题 公开号/公告号 公开日期 摘要 专利状态
医疗意图识别模型训练方法、医疗意图识别方法及设备 CN202410180194.1 2024-07-30 本发明公开了一种医疗意图识别模型训练方法、医疗意图识别方法及设备，包括：将训练数据输入到训练好的特征识别和关系抽取模型中进行实体特征提取和关系提取，得到文本的实体特征和实体间的关系列表，t1至tn为每个字的实体特征，n为训练数据的句子中包含字的数量；基于文本的实体特征和实体间的关系列表，构建异构图；将异构图输入到图注意力模型进行训练，得到训练好的图注意力模型，通过异构关系图的意图识别模型增强对实体‑关系的特征的理解和融合，提高意图识别的效果。 专利权的授权
一种相似度计算模型训练方法、装置、设备及存储介质 CN202410167183.X 2024-04-26 本发明公开了一种相似度计算模型训练方法、装置、设备及存储介质，涉及人工智能对话检索技术领域，包括：获取原始样本数据集合，基于预设批次数据数量从原始样本数据集合中确定目标批次训练样本数据；将目标批次训练样本数据输入大语言模型得到增广正样本簇；基于增广正样本簇执行预设转置相乘操作得到块对角矩阵，对块对角矩阵的目标相似度进行掩码处理得到边侧对角矩阵；对边侧对角矩阵执行预设样本重组操作得到重组后矩阵，利用重组后矩阵以及预设损失函数对原始相似度计算模型进行训练，训练结果满足当前需求时得到目标相似度计算模型。本发明学习正样本间的相似特征，将正样本之间距离拉近，最大化负样本之间的不同特征，增强检索问答效果。 专利权的授权
一种基于纵向逻辑回归的联邦学习模型获取方法及系统 CN202410163521.2 2024-04-30 本申请提供了一种基于纵向逻辑回归的联邦学习模型获取方法及系统，本方法通过协作方根据paillier算法生成私钥和公钥，并分别向第一参与方与第二参与方发送公钥；第一参与方和第二参与方分别根据公钥和RSA算法对样本数据进行加密对齐，以获取各个参与方的共有用户群体，从而获得各个参与方用于模型获取的样本数据，让模型在获取过程中，各个参与方传输的数据都是加密数据，并且在用协作方对模型参数解密后，再对解密后的模型参数注入的噪声，这样能够更好地保证了各个参与方的数据隐私安全，从而提高了模型在获取过程中的安全性，同时降低各个参与方在加解密过程中的计算步骤以及传输的通信开销，从而有效地提升了模型的获取效率。 专利权的授权
大语言模型的特征提取方法、装置、计算机设备及介质 CN202410150833.X 2024-07-12 本发明公开了一种大语言模型的特征提取方法、装置、计算机设备及介质，包括：对输入语料进行数据预处理，得到标准语料数据；将标准语料数据输入到大语言模型中，大语言模型包含多层神经网络MLP和交叉头注意力层；对标准语料数据进行层标准化操作和全解码，得到解码数据；通过大语言模型的多层神经网络MLP对解码数据进行分组计算，得到h组注意力值；采用交叉头注意力层中的可训练参数矩阵与h组注意力值进行交互，得到单个交叉头注意力层的特征增强的注意力值；基于所有特征增强的注意力值，确定transformer块的输出，作为提取到的目标特征。实现通过自适应的交叉头注意力机制，提高大语言模型深层特征提取能力，提高特征提取的精准性。 专利权的授权
一种基于纵向XGBoost算法的全局模型获取方法及系统 CN202410129212.3 2024-04-26 本申请公开了一种基于纵向XGBoost算法的全局模型获取方法及系统，该方法包括：协作方生成公钥和私钥，并将公钥分别发送至第一参与方和第二参与方；第一参与方和第二参与方分别根据公钥完成数据加密对齐，以获取加密对齐后的样本数据；第一参与方根据加密对齐后的样本数据创建决策树，与第二参与方相配合，根据分裂点算法更新决策树；多次选代上述步骤，直至满足预设条件后停止迭代以获取模型参数；协作方根据私钥解密模型参数以获取全局模型；本申请保证了各个参与方的数据隐私安全，同时各个参与方之间只需交换加密后的模型参数，从而有效提高了模型在获取过程中的安全性，同时也降低了在通信过程中的通信开销及计算的复杂度。 专利权的授权
基于锚点自注意力机制的序列表示方法及锚点自注意力模型 CN202410126327.7 - 本发明公开了一种基于锚点自注意力机制的序列表示方法、锚点自注意力模型，其通过构建长度固定的锚点查询向量序列和锚点身份向量序列，然后利用历史输入向量序列对其进行学习训练，并得到锚点值向量序列，再利用训练得到的锚点查询向量序列、锚点身份向量序列和锚点值向量序列与当前输入向量序列进行锚点自注意力操作，得到当前输出向量序列。本发明提出了一种全新的锚点自注意力机制，通过构建长度固定的锚点向量序列进行自注意力计算，当锚点向量序列的长度小于输入向量序列的长度时，成倍地减少了浮点运算次数，并且由于锚点向量序列的长度是固定的，计算量不会随着输入向量序列的长度变化而呈几何倍数增长，提高了模型的训练和推理速度。 实质审查
一种模型训练方法、装置、设备及计算机可读存储介质 CN202410063425.0 - 本发明公开了一种模型训练方法、装置、设备及计算机可读存储介质，涉及人工智能技术领域，包括：部署模型训练环境；通过配置模型训练配置模板，配置各待训练算法模型对应的训练参数数据；下发所述训练参数数据，启动模型训练任务，训练各所述待训练算法模型。该模型训练方法支持多方的算法模型一起进行模型训练，并且训练参数配置简便，便于对训练参数进行动态改动，增加了模型训练的可拓展性。 实质审查
一种融合专业知识和通用知识的模型构建方法 CN202311755650.2 - 本发明公开了一种融合专业知识和通用知识的模型构建方法，是通过采集获取通用数据集、专业数据集和专业注解数据集；通过对专业数据集进行处理，得到专业词汇表；构建初始通用模型和初始专业模型；将通用数据集预训练初始通用模型，得到训练后的通用模型；将专业数据集预训练初始专业模型，并在预训练过程中根据已获取的专业词汇表和预设公式加重l oss蒸发，得到训练后的专业模型；结合专业注解数据集与预设规则，融合训练后的专业模型和训练后的通用模型，得到最终的通用‑专业融合模型。相比于现有技术，本方法克服了模型塌陷问题，整合了通用模型和专业模型，有效兼容专业知识和通用知识，提高模型的专业性、通用性与可信度。 实质审查
基于掩码和自编码的图像分割大模型构建方法、图像分割方法及相关设备 CN202311753034.3 - 本发明公开了一种基于掩码和自编码的图像分割大模型构建方法、图像分割方法及相关设备，包括：获取训练图像及训练对应的分割标注数据，并进行预处理操作，得到初始训练数据；构建初始分割模型，初始分割模型由编码模块和解码模块组成；采用初始训练数据对初始分割模型进行迭代训练，得到训练好的分割模型，其中，在每次迭代训练的过程中，将编码模块之后序列中的掩码部分对应的编码特征随机初始化，与没有掩码部分对应的编码特征结果按各自在拼接图中的位置顺序进行拼接，作为目标编码，并采用目标编码进行解码，实现采用图生图的分割方法，通过将图像与分割标注拼接后再掩码重建，从而得到图像的分割图，采用本发明提高了图像分割的精准性。 实质审查
图像检测分割统一大模型构建方法、图像检测分割方法及相关设备 CN202311735205.X - 本发明公开了一种图像检测分割统一大模型构建方法、图像检测分割方法及相关设备，包括：获取训练图像及训练对应的检测、分割标注数据，并进行预处理操作，得到初始训练数据；构建初始检测分割模型，初始检测分割模型由编码模块、解码模块、检测预测头及分割预测头四部分组成；将初始训练数据输入初始检测分割模型进行处理，得到目标训练数据；采用目标训练数据对初始检测分割模型进行迭代训练，得到目标检测分割模型，其中，在迭代训练的过程中，冻结编码模块，并根据每次训练结果，构造目标损失函数。采用本发明提高了模型训练的效率和图像检测分割的效率。 实质审查