一种基于分组分批归一化的输电线路点云分类方法

专利名称：一种基于分组分批归一化的输电线路点云分类方法

专利类型：发明专利

专利申请号：CN202111287082.9

专利申请（专利权）人：国网浙江省电力有限公司湖州供电公司,杭州乾坤科技有限公司
权利人地址：浙江省湖州市凤凰路777号

专利发明（设计）人：殷志敏,季世超,章旭泳,戴建华,俞伟勇,吴松,潘伟龙

专利摘要：本发明公开了一种基于分组分批归一化的输电线路点云分类方法，包括：采用激光雷达获取输电线路点云数据，使用Cloud Compare点云处理软件对输电线路点云进行标注，采用公开数据集ModelNet40进行PointNet++的预训练，通过随机选择的方式对输电线路点云数据集进行划分，在预训练的PointNet++基础上进行微调，针对PointNet++网络采用的批归一化方法，在批次数量较小的情况下效果不佳问题，使用分组分批归一化对PointNet++网络进行改进。本发明解决了在批次大小较小的情况下，PointNet++网络对点云的分类精度降低的问题。

主权利要求：
1.一种基于分组分批归一化的输电线路点云分类方法，其特征在于：具体步骤如下：步骤1：采用激光雷达获取点云数据集：采用激光雷达，对输电线路场景数据进行采集，从而得到输电线路的点云数据；
步骤2：使用CloudCompare点云处理软件，对激光雷达采集的输电线路点云数据进行标注；
步骤3：采用数据集ModelNet40进行PointNet++网络的预训练；数据集ModelNet40一共包含12311个点云模型，每个点云模型包括512，1024，2048个点三种类型，其中训练集使用
9843个点云模型，剩余2468个点云模型划分为测试集；使用单个点云模型点云数量为1024的点云对PointNet++网络进行预训练；
步骤4：通过随机选择的方式对输电线路点云数据集进行划分，使用其中的80％进行训练，其余作为测试集，在预训练后的PointNet++网络基础上进行微调；
步骤5：针对PointNet++网络采用的批归一化方法，在批次数量小的情况下效果不佳的问题，使用分组分批归一化替换批归一化对PointNet++网络进行改进；
批归一化计算过程如下：
1)首先计算输入向量在整个批次的均值大小：其中xi为输入向量{x1,x2,x3,…xN}，N为输入向量个数，μB为输入向量在整个批次上的均值；
2)然后计算方差：
2
其中σB为输入向量在整个批次上的方差；
3)得到均值和方差之后再进行归一化处理:
其中 是归一化处理后的结果，∈是为了数值稳定性添加的一个非常小的数，取1e‑6；
4)最后再经过两个可学习参数的缩放即得到批归一化的结果：其中γ ,β是可学习的参数；
对于使用批归一化的PointNet++网络，在推理过程中，对于输入点云x，其点云类别表示为：其中BN指批归一化处理，sample&grouping指PointNet++中对输入特征进行采样和分组的过程，pointnet指使用PointNet++中的pointnet层进行特征提取， 指有两层相同的结构前后连接，其中后一层的输入为前一层的处理结果，fc代表全连接层，cls代表点云类别；
分组分批归一化的计算过程如下：
1)与批归一化不同，分组分批归一化先对不同通道和不同批次进行分组，在每组进行归一化：的含义为，对索引为kC和iC的元素的通道数和组数的商取整，如果 和相同，那么它们就在同一个对通道分组后的组内，组的大小G0是一个超参数，设置为
32； 的含义为，对索引为kB和iB的元素在一个批次内的序号和组数的商取整，如果 和 相同，那么它们就在同一个对批次分组后的组内，组的大小G1是一个超参数，设置为2；
2)在分组完之后，分组分批归一化的过程和批归一化类似,假设在同一个组内的输入向量Si为：Si＝x1,x2,x3,…xN(7)
3)首先计算输入向量在整个组内的均值大小:
4)然后计算方差:
5)得到均值和方差之后再进行归一化处理：
6)最后再经过两个可学习参数的缩放即得到分组分批归一化的结果:其中γ ,β是可学习的参数；
7)对于使用分组分批归一化的PointNet++网络，其点云类别表示为:其中G&BN代表分组分批归一化；
通过使用分组分批归一化替代批归一化，减轻在批次大小较小时的训练变慢以及难以收敛的问题；此外，由于全连接层参数多，计算量大，通过将最后的多层全连接层替换为多层一维卷积，能够提升网络的速度，并且减小网络大小；替换后的最终点云类别表示为: 说明书 : 一种基于分组分批归一化的输电线路点云分类方法技术领域[0001] 本发明涉及输电线路三维建模技术领域，具体涉及一种基于分组分批归一化的输电线路点云分类方法。背景技术[0002] 输电线路是电力传输的主要部分，在电力的传输运送过程中发挥着关键作用。但由于近年来电网发展迅速，输电线路长度不断增加，采用人工巡检愈发耗时耗力，采用无人机巡检成为一种趋势。通过机载激光雷达对输电线路进行扫描，并根据扫描数据进行点云标注分类并对输电线路进行三维建模，能够得到输电线路沿线的物体种类和位置，能够还原输电走廊地貌，有利于输电线路的巡检智能化，能够弥补人工巡检的缺陷。[0003] 得到输电线路的三维模型后，还需要知道每部分模型的具体类别，才能够对输电线路进行智能化管理。通过激光雷达扫描得到的点云数据，使用深度学习模型对其进行分类，能够得到点云类别，辅助完成输电线路的三维建模过程，并进一步支撑后续的输电线路智能巡检。在深度学习模型训练过程中，受限于实际设备的计算能力，批次大小可能较小，批归一化的效果受到影响，在这种情形下，训练精度会有损失。发明内容[0004] 为了辅助完成输电线路的三维建模过程，本发明的目的在于提出一种分组分批归一化的输电线路点云分类方法，通过使用分组分批归一化替代批归一化的方式，能够在计算能力受限的情况下，减少点云分类精度的下降。。[0005] 本发明为了达成上述目的，采用的技术手段如下：[0006] 一种基于分组分批归一化的输电线路点云分类方法，具体步骤如下：[0007] 步骤1：采用激光雷达获取点云数据集：采用激光雷达，对输电线路场景数据进行采集，从而得到输电线路的点云数据；[0008] 步骤2：使用CloudCompare点云处理软件，对激光雷达采集的输电线路点云数据进行标注；[0009] 步骤3：采用数据集ModelNet40进行PointNet++网络的预训练；数据集ModelNet40一共包含12311个点云模型，每个点云模型包括512，1024，2048个点三种类型，其中训练集使用9843个点云模型，剩余2468个点云模型划分为测试集；使用单个点云模型点云数量为1024的点云对PointNet++网络进行预训练；[0010] 步骤4：通过随机选择的方式对输电线路点云数据集进行划分，使用其中的80％进行训练，其余作为测试集，在预训练后的PointNet++网络基础上进行微调；[0011] 步骤5：针对PointNet++网络采用的批归一化方法，在批次数量小的情况下效果不佳的问题，使用分组分批归一化替换批归一化对PointNet++网络进行改进；[0012] 批归一化计算过程如下：[0013] 1)首先计算输入向量在整个批次的均值大小：[0014][0015] 其中xi为输入向量{x1,x2,x3,…xN}，N为输入向量个数，μB为输入向量在整个批次上的均值；[0016] 2)然后计算方差：[0017][0018] 其中σB2为输入向量在整个批次上的方差；[0019] 3)得到均值和方差之后再进行归一化处理:[0020][0021] 其中 是归一化处理后的结果，∈是为了数值稳定性添加的一个非常小的数，取1e‑6；[0022] 4)最后再经过两个可学习参数的缩放即得到批归一化的结果：[0023][0024] 其中γ,β是可学习的参数；[0025] 对于使用批归一化的PointNet++网络，在推理过程中，对于输入点云x，其点云类别表示为：[0026][0027] 其中BN指批归一化处理，sample&grouping指PointNet++中对输入特征进行采样和分组的过程，pointnet指使用PointNet++中的pointnet层进行特征提取， 指有两层相同的结构前后连接，其中后一层的输入为前一层的处理结果，fc代表全连接层，cls代表点云类别；[0028] 分组分批归一化的计算过程如下：[0029] 1)与批归一化不同，分组分批归一化先对不同通道和不同批次进行分组，在每组进行归一化：[0030][0031] 的含义为，对索引为kC和iC的元素的通道数和组数的商取整，如果和 相同，那么它们就在同一个对通道分组后的组内，组的大小G0是一个超参数，设置为32； 的含义为，对索引为kB和iB的元素在一个批次内的序号和组数的商取整，如果 和 相同，那么它们就在同一个对批次分组后的组内，组的大小G1是一个超参数，设置为2；[0032] 2)在分组完之后，分组分批归一化的过程和批归一化类似,假设在同一个组内的输入向量Si为：[0033] Si＝x1,x2,x3,…xN(7)[0034] 3)首先计算输入向量在整个组内的均值大小:[0035][0036] 4)然后计算方差:[0037][0038] 5)得到均值和方差之后再进行归一化处理：[0039][0040] 6)最后再经过两个可学习参数的缩放即得到分组分批归一化的结果:[0041][0042] 其中γ,β是可学习的参数；[0043] 7)对于使用分组分批归一化的PointNet++网络，其点云类别表示为:[0044][0045] 其中G&BN代表分组分批归一化。[0046] 通过使用分组分批归一化替代批归一化，减轻在批次大小较小时的训练变慢以及难以收敛的问题；此外，由于全连接层参数多，计算量大，通过将最后的多层全连接层替换为多层一维卷积，能够提升网络的速度，并且减小网络大小；替换后的最终点云类别表示为:[0047][0048] 和现有技术相比较，本发明具备如下优点：[0049] 1)使用分组分批归一化的方式替换PointNet++网络中的批归一化，减轻PointNet++网络在批次大小较小时的精度下降问题。[0050] 2)将最后的多层全连接层替换为多层一维卷积，能够提升模型的速度，并且减小模型大小。具体实施方式[0051] 下面结合具体实施方式对本发明做进一步详细说明。[0052] 本发明一种基于分组分批归一化的输电线路点云分类方法，具体步骤如下：[0053] 步骤1：采用激光雷达获取点云数据集：采用激光雷达，对输电线路场景数据进行采集，从而得到输电线路的点云数据；[0054] 步骤2：使用CloudCompare点云处理软件，对激光雷达采集的输电线路点云数据进行标注；[0055] 步骤3：采用公开数据集ModelNet40进行PointNet++网络的预训练；数据集ModelNet40一共包含12311个点云模型，每个点云模型包括512，1024，2048个点三种类型，其中训练集使用9843个点云模型，剩余2468个点云模型划分为测试集；使用单个点云模型点云数量为1024的点云对PointNet++网络进行预训练；[0056] 步骤4：通过随机选择的方式对输电线路点云数据集进行划分，使用其中的80％进行训练，其余作为测试集，在预训练后的PointNet++网络基础上进行微调；[0057] 步骤5：针对PointNet++网络采用的批归一化方法，在批次数量小的情况下效果不佳的问题，使用分组分批归一化替换批归一化对PointNet++网络进行改进；[0058] 批归一化计算过程如下：[0059] 1)首先计算输入向量在整个批次的均值大小：[0060][0061] 其中xi为输入向量{x1,x2,x3,…xN}，N为输入向量个数，μB为输入向量在整个批次上的均值；[0062] 2)然后计算方差：[0063][0064] 其中σB2为输入向量在整个批次上的方差；[0065] 3)得到均值和方差之后再进行归一化处理:[0066][0067] 其中 是归一化处理后的结果，∈是为了数值稳定性添加的一个非常小的数，取1e‑6；[0068] 4)最后再经过两个可学习参数的缩放即得到批归一化的结果：[0069][0070] 其中γ,β是可学习的参数；[0071] 对于使用批归一化的PointNet++网络，在推理过程中，对于输入点云x，其点云类别表示为：[0072][0073] 其中BN指批归一化处理，sample&grouping指PointNet++中对输入特征进行采样和分组的过程，pointnet指使用PointNet++中的pointnet层进行特征提取， 指有两层相同的结构前后连接，其中后一层的输入为前一层的处理结果，fc代表全连接层，cls代表点云类别；[0074] 对于一般的深度学习模型，数据维度一般为[N,C,H,W]。批归一化对N进行归一化，但是受限于设备显卡容量大小以及推理速度，N有时会比较小，因此可能会导致批归一化效果不好。而分组分批归一化对C和N同时进行归一化，一般在网络内部C可能达到128或者256甚至更大的值，不会因为太小而对归一化的结果造成不良影响。因此本文在PointNet++中采用分组分批归一化对原本使用的批归一化进行改良。[0075] 分组分批归一化的计算过程如下：[0076] 1)与批归一化不同，分组分批归一化先对不同通道和不同批次进行分组，在每组进行归一化：[0077][0078] 的含义为，对索引为kC和iC的元素的通道数和组数的商取整，如果和 相同，那么它们就在同一个对通道分组后的组内，组的大小G0是一个超参数，设置为32； 的含义为，对索引为kB和iB的元素在一个批次内的序号和组数的商取整，如果 和 相同，那么它们就在同一个对批次分组后的组内，组的大小G1是一个超参数，设置为2；[0079] 2)在分组完之后，分组分批归一化的过程和批归一化类似,假设在同一个组内的输入向量Si为：[0080] Si＝x1,x2,x3,…xN(7)[0081] 3)首先计算输入向量在整个组内的均值大小:[0082][0083] 4)然后计算方差:[0084][0085] 5)得到均值和方差之后再进行归一化处理：[0086][0087] 6)最后再经过两个可学习参数的缩放即得到分组分批归一化的结果:[0088][0089] 其中γ,β是可学习的参数；[0090] 7)对于使用分组分批归一化的PointNet++网络，其点云类别表示为:[0091][0092] 其中G&BN代表分组分批归一化。[0093] 通过使用分组分批归一化替代批归一化，减轻在批次大小较小时的训练变慢以及难以收敛的问题；此外，由于全连接层参数多，计算量大，通过将最后的多层全连接层替换为多层一维卷积，能够提升网络的速度，并且减小网络大小；替换后的最终点云类别表示为:[0094]

专利地区：浙江

专利申请日期：2021-11-02

专利公开日期：2024-07-26

专利公告号：CN114004934B