公共安全标准网
(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111633979.2 (22)申请日 2021.12.2 9 (71)申请人 北京邮电大 学 地址 100876 北京市海淀区西土城路10号 (72)发明人 石川 杨成 赵天宇  (74)专利代理 机构 北京挺立专利事务所(普通 合伙) 11265 代理人 叶盛 高福勇 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) G06K 9/62(2022.01) G06V 10/764(2022.01) (54)发明名称 一种多设计维度的异质图神经网络的设计 空间构建方法 (57)摘要 本发明公开了一种多设计维度的异质图神 经网络的设计空间构建方法, 提出统一的异质图 神经网络框架, 并基于此统一框架定义了异质图 神经网络的设计空间。 本发明弥补了之前的工作 只从模型级评测异质图神经网络的缺点, 为研究 者提供了模块级评测的视角, 进一步可以剖析哪 一些设计维度在模型的性能中起到重要作用。 我 们还为异质图神经网络的设计空间构建了平台 Space4HGNN, 并基于此平台提炼出设计模型的原 则性指导, 提供了标准的评测和模块化的异质图 神经网络实现。 该平台为研究者提供了模块级的 评测, 可以提供给用户简易的接口, 帮助他们评 测不同设计维度的影响。 权利要求书2页 说明书9页 附图2页 CN 114298279 A 2022.04.08 CN 114298279 A 1.一种多设计维度的异质图神经网络的设计空间构建方法, 其特征在于, 包括以下步 骤: S1、 提出统一的异质图神经网络框架, 包含三大组件: 异质线性变换、 异质图变换和异 质消息传递层; S2、 基于统一的异质图神经网络框架, 提出三个异质图神经网络模型族, 并为这三个模 型族设计了三个相应的子空间, 即同质化模型族、 关系模型族和元路径模型族, 定义异质图 神经网络的设计空间, 设计空间包含两个设计维度: 与同质图神经网络共有的设计维度和 异质图神经网络特有的设计维度; S3、 为异质图神经网络 的设计空间构建平台Space4HGNN, 用于模块化的异质图神经网 络实现和标准 化的异质图神经网络 评测。 2.根据权利要求1所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 步骤S1中所述的异质线性变换, 将具有异质性节点的特征或表示映射到一个共享的 特征空间, 线性变换表示如下: 其中, hi和h′i分别是节点vi的原始特征和映射特 征, fv(vi)为节点vi的节点类型。 3.根据权利要求1所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 步骤S1中所述的异质图变换在聚合前为异质图数据提供了四种转换方法, 分别为: 关 系子图抽取、 元路径子图抽取、 构建两种图的混合子图提取和异质图的同质化。 4.根据权利要求3所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 对于关系子图抽取, 将关系类型和原 始异质图作为输入。 5.根据权利要求3所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 对于元路径子图的抽取, 将预定义的元路径和原 始异质图作为输入。 6.根据权利要求1所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 步骤S1中所述的异质消息传递层定义了两种异质图神经网络的聚合方法, 分别为: 直 接聚合和双重聚合; 直接聚合的聚合过程是直接聚合相 邻的邻居, 并且不区分节点类型; 双 重聚合是应用于不同子图的微观层面和宏观层面的聚合过程, 微观层面的聚合是聚合同一 关系类型内的节点特征, 在关系或元路径子图中生成类型特定的特征, 而宏观层面的聚合 是聚合不同关系间的类型 特定的特 征。 7.根据权利要求6所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 直接聚合的公式如下: 其中 表示节点vi的邻居类型与节点j的类型相同。 8.根据权利要求1所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 步骤S2中与同质图神经网络共有的设计维度涉及12个设计维度, 分为三个方面, 层 内、 层间和训练设置; 层内设计维度与同质图神经网络相同, 异质图神经网络包含几个异质 神经网络层, 每一层有不同的设计尺寸; 层间设计维度涉及消息传递、 前处理和后处理层;权 利 要 求 书 1/2 页 2 CN 114298279 A 2训练设置设计维度涉及优化器、 学习率和训练轮数。 9.根据权利要求1所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 步骤S2中异质图神经网络特有的设计维度涉及三个设计维度, 质化模型族使用直接 聚合方式与任何图形卷积相结合; 关系模型族使用关系子图抽取和双重聚合; 元路径模型 族使用元路径子图抽取和双重聚合。 10.根据权利要求1所述的多设计维度的异质图神经网络的设计空间构建方法, 其特征 在于, 步骤S3所述的Space4HGN N用PyTorc h和DGL使用OpenHGN N工具包实现。权 利 要 求 书 2/2 页 3 CN 114298279 A 3

.PDF文档 专利 一种多设计维度的异质图神经网络的设计空间构建方法

文档预览
中文文档 14 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共14页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种多设计维度的异质图神经网络的设计空间构建方法 第 1 页 专利 一种多设计维度的异质图神经网络的设计空间构建方法 第 2 页 专利 一种多设计维度的异质图神经网络的设计空间构建方法 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 20:41:50上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。