(19)国家知识产权局
(12)发明 专利
(10)授权公告 号
(45)授权公告日
(21)申请 号 202210070546.9
(22)申请日 2022.01.21
(65)同一申请的已公布的文献号
申请公布号 CN 114490920 A
(43)申请公布日 2022.05.13
(73)专利权人 华中科技大 学
地址 430074 湖北省武汉市洪山区珞喻路
1037号
(72)发明人 肖泳 石光明 梁静明 李莹玉
(74)专利代理 机构 华中科技大 学专利中心
42201
专利代理师 胡秋萍
(51)Int.Cl.
G06F 16/31(2019.01)
G06F 16/36(2019.01)G06N 5/02(2006.01)
(56)对比文件
CN 113836312 A,2021.12.24
CN 112800247 A,2021.0 5.14
CN 113836312 A,2021.12.24
CN 111027700 A,2020.04.17
US 2021192372 A1,2021.0 6.24
CN 113569056 A,2021.10.2 9
涂勇峰等.基 于深度学习的语义 通信系统.
《移动通信》 .2021,
审查员 卢雅莹
(54)发明名称
语义知识库自动构建与更新方法、 语义编码
器和通信架构
(57)摘要
本发明公开语义知识库自动构建与更新方
法、 语义编码器和通信架构, 属于语义通信领域。
针对现有语义通信框架和模型需在通信前预先
训练、 无法对未知知识进行语义编解码、 无法对
未知语义进行自动模型更新和编解码的语义通
信的问题, 本发明引入语义知识库自动构建方
法、 推理机制自动更新方法与语义编解码器协同
机制。 本语义通信架构可以自动识别未知语义信
息, 自动学习和适配未知实体和已知实体间关
系, 并且引入模型自动学习和自动更新机制, 能
够实现在语义通信过程中自动协同编码器和解
码器的语义知识库, 从而实现语义编解码器实时
协同更新学习模 型。 避开对传统语义信息中的语
义知识库单一且固定, 当遇到未知知识时无法实
现编码与解码等问题。
权利要求书3页 说明书8页 附图2页
CN 114490920 B
2022.10.14
CN 114490920 B
1.一种语义编码器, 位于源用户端, 其特 征在于, 所述语义编码器用于,
在训练阶段, 将待训练的源信号语义表征编码为嵌入向量, 将待训练的源信号语义表
征的嵌入向量表示通过信道发送 给目的用户端, 接收目的用户端反馈的对 该嵌入向量表示
的评估分数并进行更新, 使得输出的嵌入向量表 示在目的用户端获得更高的分数; 其中, 评
估分数由结合目的用户端语义知识库的背景知识和推理函数 得到;
在实际通信阶段, 将源信号的各语义表征编码为嵌入向量, 并将得到的嵌入向量表示
通过信道发送给目的用户端, 接收目的用户端反馈的需要重新训练的信号后, 重新进行训
练;
其中, 使用推理函数f, 使推理函数值 最小化, 得到隐藏或缺失的语义信息:
其中,
表示不完整的语义表征<es, r, eo>的嵌入向量表示, es, eo分别为
头实体与尾实体, ε表示实体库, r为关系, R为关系库,
为能够使得推 理函数值最小的实体
或关系标签, 即推理所 得结果, 所述推理函数值越小, 表明语义表征成立的可能性越大;
所述推理函数通过以下 方式构建:
其中, g(·), h(·), l(·)对应实体嵌入和关系嵌入的加法关系、 线性关系、 乘法以及
可能的更高阶关系, 定义形式如下:
其中, a, a ′, a″, b, b′, b″, c, c′, d, d′是常数, 根据实体和关系的取值范围以及它们之间
的几何距离确定; ( ·)T表示向量/矩阵的转置; diag( ·)是将向量 的所有元素列在矩阵的
对角线上的对角线运 算。
2.一种语义知识库自动构建与更新方法, 应用于源用户端, 其特 征在于, 该 方法包括:
在训练过程中, 采用 如权利要求1所述的语义编码器将各待训练的源信号语义表征转
化为嵌入向量表示, 并生成语义表征和嵌入向量表示的一对一映射关系, 得到语义压缩表,
加入源用户端的语义知识库中;
在实际通信过程中, 若源信号语义表征不包含在源用户端语义知识库, 启动语义知识
库更新, 所述更新具体如下: 生成源信号语义表征和其嵌入向量表 示的一对一映射关系, 加
入到语义压缩表, 并更新源用户端的语义知识库, 将嵌入向量表示和语义表征一起发送给
目的用户端。
3.一种语义知识库自动构建与更新方法, 应用于目的用户端, 其特征在于, 该方法包
括:
在训练过程中, 语义解码器接收信号, 对接收到的各信号和其所代表的语义表征构建
一对一映射关系, 得到语义 解析表, 加入到目的用户端的语义知识库中;权 利 要 求 书 1/3 页
2
CN 114490920 B
2在实际通信过程中, 若接收到的信号和其所代表的语义表征不包含在目的用户端语义
知识库, 启动语义知识库更新, 所述更新具体如下:
请求源用户端将嵌入向量表示和语义表征一起发送, 将源用户端反馈的嵌入向量表示
和语义表征一 起加入到语义 解析表, 并更新目的用户端的语义知识库;
或者,
若嵌入向量表示和目的用户端当前语义知识库中的某一嵌入向量表示的相似度超过
设定阈值, 则将接收到的嵌入向量表示和相似嵌入向量表示的语义表征构成一对一映射关
系, 加入到语义解析表, 并更新 目的用户端的语义知识库, 否则, 请求源用户端将嵌入向量
表示和语义表征一起 发送, 将源用户端反馈的嵌入向量表示和语义表征一起加入到语义解
析表, 并更新目的用户端的语义知识库;
所述语义 解码器, 用于在实际通信阶段, 基于推理函数和语义 解析表, 得到推理结果;
其中, 所述语义解码器使用推理函数f, 使推理函数值最小化, 得到隐藏或缺失的语义
信息:
其中,
表示不完整的语义表征<es, r, eo>的嵌入向量表示, es, eo分别为
头实体与尾实体, ε表示实体库, r为关系, R为关系库,
为能够使得推理函数值最小的实体
或关系标签, 即推理所 得结果, 所述推理函数值越小, 表明语义表征成立的可能性越大;
所述推理函数通过以下 方式构建:
其中, g(·), h(·), l(·)对应实体嵌入和关系嵌入的加法关系、 线性关系、 乘法以及
可能的更高阶关系, 定义形式如下:
其中, a, a ′, a″, b, b′, b″, c, c′, d, d′是常数, 根据实体和关系的取值范围以及它们之间
的几何距离确定; ( ·)T表示向量/矩阵的转置; diag( ·)是将向量 的所有元素列在矩阵的
对角线上的对角线运 算。
4.一种目的用户端, 其特征在于, 包括: 语义评估器、 语义知识库、 知识探测器和语义解
码器;
所述语义评估器, 用于在训练阶段, 接收源用户端发送的待训练的源信号语义表征嵌
入向量表示, 结合目的用户端语义知识库的背景知识和推理函数, 得到评估分数, 并反馈给
源用户端;
所述语义知识库采用如权利要求3所述的方法构建与更新;
所述知识探测器, 用于在实 际通信阶段, 接收源用户端发送的源信号语义表征嵌入向
量表示, 查询语义解析表, 若存在, 则将源信号语义表征语义解析表示发送给语义解码器,
否则, 反馈源用户端需要重新训练;权 利 要 求 书 2/3 页
3
CN 114490920 B
3
专利 语义知识库自动构建与更新方法、语义编码器和通信架构
文档预览
中文文档
14 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
温馨提示:本文档共14页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
本文档由 人生无常 于 2024-03-18 09:00:17上传分享