(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111478015.5 (22)申请日 2021.12.0 6 (71)申请人 中国电子科技 集团公司第十五研究 所 地址 100083 北京市海淀区北四环中路21 1 号 (72)发明人 刘忠麟　王立才　罗琪彬　杨航　 武广胜　 (74)专利代理 机构 北京慕达星云知识产权代理 事务所 (特殊普通合伙) 11465 代理人 符继超 (51)Int.Cl. G06Q 10/04(2012.01) G06Q 50/30(2012.01)G06F 16/22(2019.01) G06F 16/2458(2019.01) G06F 16/27(2019.01) G06F 16/28(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种针对非均匀轨 迹序列的预测方法 (57)摘要 本发明公开了一种针对非均匀轨迹序列的 预 测 方 法 ，利 用 用 于 自 然 语 言 处 理 的 Transformer(TF)网络来对轨迹序列进行建模， 针对飞机轨迹数据时间间隔不均匀和 需要预测 精确时间的轨迹两大难点， 本发 明对网络结构 进 行了改进， 设计了时空嵌入模块和预测精确时间 轨迹， 提出了非均匀轨迹序列预测方法， 实现飞 机的精确时间轨迹预测， 充分挖掘其深层特征和 知识， 从而对飞机轨迹进行准确的预测， 在民航 领域的冲突检测、 路线规划可以发挥巨大的作 用。 权利要求书3页 说明书11页 附图4页 CN 114239935 A 2022.03.25 CN 114239935 A 1.一种针对非均匀轨 迹序列的预测方法， 其特 征在于， 包括以下步骤： 步骤1： 采集飞机 轨迹点数据， 并进行 预处理， 获得各类飞机的飞机 轨迹数据； 步骤2： 采用滑动窗口对所述飞机轨迹数据进行采样， 获得采样数据， 并对采样数据进 行特征提取， 获得 预测模型输入数据； 步骤3： 所述预测模型输入数据和待预测时间输入Tf架构模型， 依次经过时空嵌入模块、 编码器和解码器输出轨 迹预测结果。 2.根据权利要求1所述的一种针对非均匀轨迹序列的预测方法， 其特征在于， 所述步骤 1中预处理过程包括： 步骤11： 对采集的所述飞机轨迹点数据进行要素分析， 建立表结构， 采用ES 分布式数据 库进行数据存储， 获得冷库； 步骤12： 从所述冷库中按照type字段进行飞机类型区分， 抽取各种类型的飞机轨迹点 数据， 每种类型的飞机 轨迹点数据构建表格并存 入mysql数据库， 获得 热库； 步骤13： 对所述热库中每种类型的所述飞机轨迹点数据进行过滤处理， 并采用设定规 则进行每种类型的飞机 轨迹数据生成， 获得按照时间顺序组合轨 迹点的飞机 轨迹数据。 3.根据权利要求1所述的一种针对非均匀轨迹序列的预测方法， 其特征在于， 所述步骤 2中滑动窗口大小为36， 步长为2； 对 所述采样数据进 行直接特征提取和间接特征提取， 获得 轨迹特征， 将所述轨迹特征分为观测序列和真实待预测序列； 所述观测序列作为预测模型 输入数据； 所述轨迹特征包括飞机编号、 时间、 经纬度、 高度、 速度、 加速度、 航向、 均值和方 差。 4.根据权利要求3所述的一种针对非均匀轨迹序列的预测方法， 其特征在于， 所述步骤 3中输入所述预测模型输入数据和待预测时间， 依次通过时空嵌入模块、 编码器、 解码器后 得到轨迹预测结果， 所述Tf架构模型如公式(1)所示： 其中， Obd为观测序列； td为待预测时间； 为时空嵌入模块； Encoder为编码器； Decoder 为解码器； P'red为所述轨 迹预测结果； 其中时空嵌入模块如公式(2)所示， 输出时空嵌入结果Inp， Wi为时空嵌入模块权值参 数， biasi为时空嵌入 模块偏差参数， ： 编码器输入为时空嵌入结果Inp， le表示编码器的层数， We为编码器网络权重参数， δe为 编码器激 活函数， biase为编码器偏差参数， 编码器输出结果为注意力信息Attn， 如公式(3) 所示： Attn＝Encoder(Inp； le,We, δe,biase)    (3)； 解码器输入为注意力信息Attn， ld表示解码器模块的层数， Wd为解码器网络权重参数， δd为解码器激活函数， biasd为解码器偏差参 数， 解码器输出结果为所述轨迹预测结果P'red， 如公式(4)所示： P′red＝Decoder(A ttn； ld,Wd, δd,biasd)      (4)。 5.根据权利要求4所述的一种针对非均匀轨迹序列的预测方法， 其特征在于， 所述步骤权　利　要　求　书 1/3 页 2 CN 114239935 A 23中所述Tf架构模型采用目标函数进行模型优化， 所述目标函数公式如公式(5)所示： 通过反向传播最小化真实待预测序列yk和轨迹预测结果 的方差获得Tf架构模型最 优网络权值参数W＝(Wi,We,Wd)和网络偏重参数bias＝(biasi,biase,biasd)。 6.根据权利要求1所述的一种针对非均匀轨迹序列的预测方法， 其特征在于， 所述 时空 嵌入模块对所述预测模型输入数据从时间特征、 其他特征和位置特征三方面进行特征嵌 入， 输出的输出 特征维度均为512， 将三个方面的输出 特征进行融合得到 输出数据； 对时间特征进行特征嵌入时， 将其他轨迹点 时间特征值减去第 一个轨迹点 时间特征值 得到整条轨迹的时间间隔， 设定第一个轨迹点时间特征值为0， 然后对此时间间隔建立字 典， 采用o nehot的方式进行多维嵌入， 维度为512维； 所述其他特征为所述预测模型输入数据中除去时间的其他轨迹信 息， 采用全链接网络 进行维度变换， 使 得输出纬度为512维， 所述全链接网络中的网络权值参数和网络偏 重参数 在Tf架构模型优化中不断更新； 所述位置特征进行特征嵌入生成输入轨迹每一个轨迹点位置和每一个轨迹点具体维 度信息， 通过正弦余弦函数进 行位置特征嵌入生成一张序列长度X特征维度的位置空间图， 所述正弦余弦函数进行位置特 征嵌入的公式如公式(6)所示： 其中， pos表示轨迹点具体位置； 2i和2i+1分别表示轨迹点嵌入后在偶数列和奇数列的 维度， 分别采用sin函数和cos函 数进行映射； dmodel为模型嵌入的维度， 即512； 1000表示轨迹 序列的最大长度。 7.根据权利要求4所述的一种针对非均匀轨迹序列的预测方法， 其特征在于， 所述编码 器有6层结构完全相同、 参数不同的编码层， 编码层由1个多头自注意力模块、 2个残差及层 归一化和1个前馈网络依 次串接而成， 每一个编码层的输入特征维度和输出特征维度完全 相同； 所述多头自注意力模块输入端为三个线性层， 依次经过缩放点积注意力层和合并层， 在输出端的线性层输出， 输入端的三个线性层分别输入查询向量Q、 键向量K和值向量V， 其 分别为所述时空嵌入结果乘以矩阵WQ、 Wk、 Wv得到， 其中WQ、 Wk、 Wv是不同的权值矩阵； 缩放点积注意力层主 要为自注意力操作， 包括以下步骤： 步骤31： 将查询向量 Q和每个键向量K进行相似度计算， 采用点积的方式得到 权重； 步骤32： 使用softmax函数对权 重进行归一 化； 步骤33： 将权重和相应的值向量V进行加权求和得到最后的自注意力向量， 自注意力运 算的公式如下：权　利　要　求　书 2/3 页 3 CN 114239935 A 3