可左右滑动选省市

一种请求超时检测方法、装置、设备以及存储介质

更新时间:2024-07-01
一种请求超时检测方法、装置、设备以及存储介质 专利申请类型:实用新型专利;
源自:北京高价值专利检索信息库;

专利名称:一种请求超时检测方法、装置、设备以及存储介质

专利类型:实用新型专利

专利申请号:CN202210306686.1

专利申请(专利权)人:北京百度网讯科技有限公司
权利人地址:北京市海淀区上地十街10号百度大厦2层

专利发明(设计)人:李国强,刘涛

专利摘要:本公开提供了一种请求超时检测方法、装置、设备以及存储介质,涉及网络通信技术领域,尤其涉及信息检测技术领域。具体实现方案为:持续收集已发送的历史服务请求的响应时长;周期性获得满足第一统计条件、且最新收集的响应时长的第一平均响应时长和分位值;周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长,并基于所述第二平均响应时长、最新的所述第一平均响应时长和最新的所述分位值,确定超时时长阈值,其中,所述第二统计条件低于所述第一统计条件;响应于服务请求发送操作,基于最新确定出的超时时长阈值检测所发送服务请求是否超时。应用本公开实施例提供的方案能够提高判断请求超时的准确性。

主权利要求:
1.一种请求超时检测方法,包括:
持续收集已发送的历史服务请求的响应时长;
周期性获得满足第一统计条件、且最新收集的响应时长的第一平均响应时长和分位值;
周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长,并基于所述第二平均响应时长、最新的所述第一平均响应时长和最新的所述分位值,确定超时时长阈值,其中,根据所述第二统计条件收集的响应时长数量少于根据所述第一统计条件收集的响应时长数量;
响应于服务请求发送操作,基于最新确定出的超时时长阈值检测所发送服务请求是否超时;
所述基于所述第二平均响应时长、最新的所述第一平均响应时长和最新的所述分位值,确定超时时长阈值,包括:计算最新的所述分位值与最新的所述第一平均响应时长间的比例;获得所述比例与所述第二平均响应时长的乘积,作为超时时长阈值。
2.根据权利要求1所述的方法,其中,所述基于最新确定出的超时时长阈值检测所发送服务请求是否超时,包括:若所发送服务请求的第一等待时长超过最新确定出的超时时长阈值,以请求重发方式重新发送服务请求,并基于最新确定出的超时时长阈值检测所发送服务请求是否超时,其中,对于同一服务请求,每次发送服务请求的目的设备不相同。
3.根据权利要求2所述的方法,其中,所述以请求重发方式重新发送服务请求,并基于最新确定出的超时时长阈值检测所发送服务请求是否超时,包括:重新发送所发送的服务请求;
若重发服务请求的第二等待时长超过最新确定出的超时时长阈值、且所述第一等待时长未超过预设的固定时长阈值,则返回所述重新发送所发送的服务请求的步骤;
若所述第一等待时长超过预设的固定时长阈值,则判定所发送服务请求超时。
4.根据权利要求1所述的方法,其中,
所述第一统计条件和所述第二统计条件均为:针对同一类型的历史服务请求的响应时长进行统计的条件。
5.根据权利要求4所述的方法,其中,通过以下方式确定两个历史服务请求是否为同一类型的请求:将两个历史服务请求中的常量类型的信息替换为预设的替换信息;
若替换信息后的两个历史服务请求相同,确定两个历史服务请求为同一类型的请求;
若替换信息后的两个历史服务请求不相同,确定两个历史服务请求为不同类型的请求。
6.根据权利要求1所述的方法,其中,
所述第一统计条件和所述第二统计条件均为:基于时长的条件;

所述第一统计条件和所述第二统计条件均为:基于响应时长数量的条件。
7.一种请求超时检测装置,包括:
响应时长收集模块,用于持续收集已发送的历史服务请求的响应时长;
响应时长和分位值获得模块,用于周期性获得满足第一统计条件、且最新收集的响应时长的第一平均响应时长和分位值;
阈值确定模块,用于周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长,并基于所述第二平均响应时长、最新的所述第一平均响应时长和最新的所述分位值,确定超时时长阈值,其中,根据所述第二统计条件收集的响应时长数量少于根据所述第一统计条件收集的响应时长数量;
超时检测模块,用于响应于服务请求发送操作,基于最新确定出的超时时长阈值检测所发送服务请求是否超时;
所述阈值确定模块,包括:
响应时长单元,用于周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长;
比例计算单元,用于计算最新的所述分位值与最新的所述第一平均响应时长间的比例;
时长阈值获得单元,用于获得所述比例与所述第二平均响应时长的乘积,作为超时时长阈值。
8.根据权利要求7所述的装置,其中,
所述超时检测模块,具体用于响应于服务请求发送操作,若所发送服务请求的第一等待时长超过最新确定出的超时时长阈值,以请求重发方式重新发送服务请求,并基于最新确定出的超时时长阈值检测所发送服务请求是否超时,其中,对于同一服务请求,每次发送服务请求的目的设备不相同。
9.根据权利要求8所述的装置,其中,
所述超时检测模块,具体用于响应于服务请求发送操作,若所发送服务请求的第一等待时长超过最新确定出的超时时长阈值,重新发送所发送的服务请求;若重发服务请求的第二等待时长超过最新确定出的超时时长阈值、且所述第一等待时长未超过预设的固定时长阈值,则返回所述重新发送所发送的服务请求的步骤;若所述第一等待时长超过预设的固定时长阈值,则判定所发送服务请求超时,其中,对于同一服务请求,每次发送服务请求的目的设备不相同。
10.根据权利要求7所述的装置,其中,
所述第一统计条件和所述第二统计条件均为:针对同一类型的历史服务请求的响应时长进行统计的条件。
11.根据权利要求10所述的装置,其中,所述装置还包括:信息替换模块,用于将两个历史服务请求中的常量类型的信息替换为预设的替换信息;
同一类型请求确认模块,用于若替换信息后的两个历史服务请求相同,确定两个历史服务请求为同一类型的请求;
不同类型请求确认模块,用于若替换信息后的两个历史服务请求不相同,确定两个历史服务请求为不同类型的请求。
12.根据权利要求7所述的装置,其中,
所述第一统计条件和所述第二统计条件均为:基于时长的条件;

所述第一统计条件和所述第二统计条件均为:基于响应时长数量的条件。
13.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1‑6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1‑6中任一项所述的方法。
15.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1‑6中任一项所述的方法。 说明书 : 一种请求超时检测方法、装置、设备以及存储介质技术领域[0001] 本公开涉及网络通信技术领域,尤其涉及信息检测技术领域。背景技术[0002] 随着软件技术的发展,应用程序、各种服务等需求方可能会存在服务调用需求,以实现更加丰富的功能。需求方为了调用服务而向提供该服务的设备发送请求后,需要检测上述请求是否超时。[0003] 当前,通常通过设置固定超时时长的方式,检测上述请求是否超时。发明内容[0004] 本公开提供了一种请求超时检测方法、装置、设备以及存储介质。[0005] 根据本公开的一方面,提供了一种请求超时检测方法,包括:[0006] 持续收集已发送的历史服务请求的响应时长;[0007] 周期性获得满足第一统计条件、且最新收集的响应时长的第一平均响应时长和分位值;[0008] 周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长,并基于所述第二平均响应时长、最新的所述第一平均响应时长和最新的所述分位值,确定超时时长阈值,其中,所述第二统计条件低于所述第一统计条件;[0009] 响应于服务请求发送操作,基于最新确定出的超时时长阈值检测所发送服务请求是否超时。[0010] 根据本公开的另一方面,提供了一种请求超时检测装置,包括:[0011] 响应时长收集模块,用于持续收集已发送的历史服务请求的响应时长;[0012] 响应时长和分位值获得模块,用于周期性获得满足第一统计条件、且最新收集的响应时长的第一平均响应时长和分位值;[0013] 阈值确定模块,用于周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长,并基于所述第二平均响应时长、最新的所述第一平均响应时长和最新的所述分位值,确定超时时长阈值,其中,所述第二统计条件低于所述第一统计条件;[0014] 超时检测模块,用于响应于服务请求发送操作,基于最新确定出的超时时长阈值检测所发送服务请求是否超时。[0015] 根据本公开的又一方面,提供了一种电子设备,包括:[0016] 至少一个处理器;以及[0017] 与所述至少一个处理器通信连接的存储器;其中,[0018] 所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述所述的请求超时检测方法。[0019] 根据本公开的又一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述所述的请求超时检测方法。[0020] 根据本公开的又一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述所述的请求超时检测方法。[0021] 由上可见,本公开实施例提供的方案中,在持续性收集已发送的历史服务请求的响应时长的基础上,周期性的获得第一平均响应时长、分位值以及第二平均响应时长,这样可以保证上述信息随着发送服务请求而被更新,从而使得基于第二平均响应时长、最新的第一平均响应时长以及最新的分位值计算得到的超时时长阈值也不断被更新,超时时长阈值更加符合实际情况。在此基础上,发送服务请求后,基于最新的时长超时阈值进行超时检测,能够提高检测服务请求是否超时的准确性。[0022] 应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。附图说明[0023] 附图用于更好地理解本方案,不构成对本公开的限定。其中:[0024] 图1为本公开实施例提供的第一种请求超时检测方法的流程示意图;[0025] 图2为本公开实施例提供的第二种请求超时检测方法的流程示意图;[0026] 图3为本公开实施例提供的第三种请求超时检测方法的流程示意图;[0027] 图4本公开实施例提供的一种请求超时检测装置的结构示意图;[0028] 图5为用来实现本公开实施例提供的请求超时检测方法的电子设备的框图。具体实施方式[0029] 以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。[0030] 下面对本公开各实施例所提供方案的执行主体进行说明。[0031] 本公开实施例所提供方案的执行主体可以是具有服务调用需求的设备,也可以称为具有服务调用需求的机器。例如,上述具有服务调用需求的机器可以是向用户提供另一服务的机器。如,上述具有服务调用需求的机器可以是向用户提供服务M的机器,该机器在工作工作过程中具有调用服务N、P、Q等服务的需求。具体的,上述具有服务调用需求的机器可以是分布式系统中具有服务调用需求、且向用户提供一服务的多个机器之一,沿用上述举例,即分布式系统中任一向用户提供服务M的机器均可以作为本公开实施例所提供方案的执行主体。[0032] 另外,上述向用户提供服务以及调用服务的功能一般是由软件客户端实现的,所以,本公开实施例所提供方案的执行主体也可以理解为:上述机器中安装的用于向用户提供服务以及调用其他服务的客户端,该客户端可以以SDK(SoftwareDevelopmentKit,软件开发工具包)和LIB(library,库)等形式呈现。[0033] 为便于表述,以下实施例中将本公开实施例所提供方案的执行主体称为执行机器。[0034] 下面通过具体实施例对本公开实施例提供的请求超时检测方法进行详细说明。[0035] 本公开的一个实施例中,参见图1,提供了第一种请求超时检测方法的流程示意图,该方法包括以下步骤S101‑S104。[0036] 步骤S101:持续收集已发送的历史服务请求的响应时长。[0037] 因为上述执行机器具有服务调用需求,因此为了调用所需服务,执行机器会向提供其所需服务的机器(以下称为机器A)发送服务请求,并等待机器A反馈的响应。由于对外发送服务请求持续于执行机器的整个工作过程中,为了更好的了解执行机器已发送的各个服务请求得到响应的耗时情况,本步骤中,持续地收集已发送的服务请求的响应时长。例如,上述服务请求可以是SQL(StructuredQueryLanguage,结构化查询语言)请求。[0038] 上述历史服务请求为执行机器已发送过的服务请求。[0039] 响应时长可以理解为在上述调用所需服务的过程中,从执行机器发送服务请求开始,到执行机器得到所发送的服务请求的响应为止的用时时长。[0040] 本公开的一个实施例中,执行机器可以在每次发送历史服务请求后触发计时,在得到该历史服务请求的响应后结束计时,从而得到该历史服务请求的响应时长,并形成响应时长的历史记录。在此情况下,本步骤中收集历史服务请求的响应时长时,可以从已形成的上述历史记录中收集得到历史服务请求的响应时长。[0041] 具体的,执行机器可以通过第一线程持续收集历史服务请求的响应时长。[0042] 步骤S102:周期性获得满足第一统计条件、且最新收集的响应时长的第一平均响应时长和分位值。[0043] 分位值是一种统计学概念。上述分位值为满足第一统计条件、且最新收集的响应时长中的一个响应时长。一种实现方式中,分位值可以根据响应时长的排列得到。例如,如果有10000个响应时长,则99.99分位值为:按从小到大的顺序排列后,此10000个响应时长中,小于99.99%的响应时长的响应时长。另一种实现方式中,可以根据各响应时长的大小,建立小顶堆,然后根据分位比例从堆顶选择响应时长,作为分位值,例如,上述分为比例为99.99%时,可以选择位于堆顶的响应时长作为分位值。[0044] 上述第一统计条件用于选择计算第一平均响应时长和分位值的响应时长。第一统计条件可以是依据不同信息设置的条件,下面结合第一统计条件所依据的信息对第一统计条件、获得第一平均响应时长和分位值的周期、以及用于计算第一平均响应时长和分位值的响应时长分别进行介绍。[0045] 一种情况下,第一统计条件可以是依据时长设置的条件,也就是说,第一统计条件可以是基于时长的条件。例如,第一统计条件可以是对第一时长内收集的响应时长进行统计,这样执行机器每隔第一时长即开启一次统计,基于此,用于计算第一平均响应时长和分位值的响应时长为:从启动统计的时刻开始向前第一时长内收集到的响应时长,相应的,获得第一平均响应时长和分位值的周期为上述第一时长。[0046] 例如,上述第一时长可以是1天、10小时等。[0047] 另一种情况下,第一统计条件可以是依据响应时长的数量设置的条件,也就是说,第一统计条件可以是基于响应时长数量的条件。例如,第一统计条件可以是对已收集的第一数量个响应时长进行统计,这样执行机器每收集到第一数量个响应时长即可开启一次统计,基于此,用于计算第一平均响应时长和分位值的响应时长为:最新收集到的第一数量个响应时长,相应的,获得第一平均响应时长和分位值的周期是以响应时长的数量描述的,也就是上述第一数量。[0048] 例如,上述第一数量可以是5000个、10000个等。[0049] 从以上描述可以看出,执行机器可以按照一定的周期获得第一平均响应时长和分位值,由于每一周期内用于获得第一平均响应时长和分位值的响应时长不同,所以,第一平均响应时长和分位值是按照周期不断变化的。[0050] 具体的,执行机器可以通过第二线程周期性获得第一平均响应时长和分位值。[0051] 步骤S103:周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长,并基于第二平均响应时长、最新的第一平均响应时长和最新的分位值,确定超时时长阈值。[0052] 第二统计条件与第一统计条件相类似、用于获得第二平均响应时长的响应时长与用于获得第一平均响应时长的响应时长相类似、获得第二平均响应时长的周期与获得第一平均响应时长的周期相类似,这里不再对此进行详细叙述。[0053] 另外,第二统计条件和第一统计条件均可以依据不同的信息进行设置,所依据的信息可以是时长或者响应时长数量等。具体可以参考后续实施例,此处暂不做说明。[0054] 第二统计条件低于第一统计条件,可以理解为根据第二统计条件收集的响应时长数量少于根据第一统计条件收集的响应时长数量,相对于第一统计条件,第二统计条件更容易满足。具体可以参考后续实施例,此处暂不做说明。[0055] 具体的,执行机器可以通过第三线程周期性获得第二响应时长,可以通过第四线程确定超时时长阈值。[0056] 步骤S104:响应于服务请求发送操作,基于最新确定出的超时时长阈值检测所发送服务请求是否超时。[0057] 上述执行机器在工作过程中,当存在服务调用需求时,执行发送服务请求操作,以向提供其所需服务的机器请求服务。响应于上述操作,执行机器对所发送的服务请求进行计时,进而基于计时时长和上述最新确定出的超时时长阈值检测所发送的服务请求是否超时。[0058] 参见后续实施例,可以通过多种方式检测服务请求是否超时,此处暂不详述。[0059] 具体的,执行机器可以通过第五线程检测服务请求是否超时。需要说明的是,第五线程与前述第一线程至第四线程均不相同,但是第一线程至第四线程中的任意两个线程可以相同,当然也可以不相同,本公开实施例并不对此进行限定。[0060] 由上可见,本公开实施例提供的方案中,在持续性收集已发送的历史服务请求的响应时长的基础上,周期性的获得第一平均响应时长、分位值以及第二平均响应时长,这样可以保证上述信息随着发送服务请求而被更新,从而使得基于第二平均响应时长、最新的第一平均响应时长以及最新的分位值计算得到的超时时长阈值也不断被更新,超时时长阈值更加符合实际情况。在此基础上,发送服务请求后,基于最新的时长超时阈值进行超时检测,能够提高检测服务请求是否超时的准确性。[0061] 下面对步骤S103中设置第二统计条件和第一统计条件依据的信息进行举例说明。[0062] 本公开的一个实施例中,第二统计条件与第一统计条件为同类型条件,一种情况下,第一统计条件和第二统计条件均为基于时长的条件。另一种情况下,第一统计条件和第二统计条件均为基于响应时长数量的条件。由上可见,第一统计条件和第二统计条件可以是基于不同信息设置的条件,这样在获得第一平均响应时长、第二平均响应时长以及分位值时,能够基于不同的统计周期获得,提高了本实施例所提供方案的适用性。[0063] 下面结合统计条件所依据的不同信息,对第二统计条件低于第一统计条件、获得第一平均响应时长和分位值的周期与获得第二平均响应时长的周期之间的差异进行说明。[0064] 一种情况下,统计条件为依据时长设置的条件,这种情况下,第一统计条件可以是对第一时长内收集的响应时长进行统计,第二统计条件可以是对第二时长内收集的响应时长进行统计,第二时长比第一时长短,时长越短收集到的响应时长越少,统计条件越容易满足,第二统计条件低于第一统计条件。因为第二时长比第一时长短,所以,获得第二平均响应时长的周期比获得第一平均响应时长、分位值的周期短。[0065] 另一种情况下,统计条件为依据响应时长的数量设置的条件,这种情况下,第一统计条件可以是对已收集的第一数量个响应时长进行统计,第二统计条件可以是对已收集的第二数量个响应时长进行统计,第二数量小于第一数量,响应时长的数量越少,收集响应时长需要的时长越短,统计条件越容易满足,第二统计条件低于第一统计条件。因为第二数量小于第一数量,收集第二数量个响应时长的耗时小于收集第一数量个响应时长的耗时,所以,获得第二平均响应时长的周期比获得第一平均响应时长、分位值的周期短。[0066] 从以上描述可以看出,执行机器获得第二平均响应时长的周期要短于获得第一平均响应时长以及分位值的周期,也就是,第二平均响应时长的更新速度要快于第一平均响应时长以及分位值的更新速度,这样执行机器可以以第二平均响应时长为主导确定超时时长阈值,也就是,执行机器在每次获得第二平均响应时长之后,基于当前获得的第二平均响应时长、以及已获得第一平均响应时长和分位值中最新的值,确定超时时长阈值。[0067] 例如,假设,上述第一时长为3小时,第二时长为1小时,不同时刻获得的第一平均响应时长、分位值以及第二响应时长如下表1所示。[0068] 表1[0069] 1时 2时 3时 4时 5时 6时第一平均响应时长 ‑‑ ‑‑ T11 ‑‑ ‑‑ T12分位值 ‑‑ ‑‑ T21 ‑‑ ‑‑ T22第二平均响应时长 T31 T32 T33 T34 T35 T36[0070] 所以,3时计算得到T33后,基于T11、T21和T33确定超时时长阈值;[0071] 4时计算得到T34后,基于T11、T21和T34确定超时时长阈值;[0072] 5时计算得到T35后,基于T11、T21和T35确定超时时长阈值;[0073] 6时计算得到T36后,基于T12、T22和T36确定超时时长阈值。[0074] 下面对确定超时时长阈值的具体方式进行说明。[0075] 本公开的一个实施例中,可以计算最新的分位值与最新的第一平均响应时长间的比例;获得上述比例与第二平均响应时长的乘积,作为超时时长阈值。[0076] 由于第一平均响应时长和分位值反映了较长时间内执行机器所请求服务得到响应的情况,而第二平均响应时长反映的是较短时间内执行机器所请求服务得到响应的情况,按照上述方式获得超时时长阈值兼顾了长时间以及短时间内执行机器所请求服务得到响应的情况,使得计算出的超时时长阈值更符合执行机器得到响应的实际情况,挺高了超时时长阈值的准确度。[0077] 下面对步骤S104中检测所发送服务请求是否超时的具体实现方式进行说明。[0078] 第一种实现方式中,执行机器发送服务请求后,若第一等待时长超出最新确定出的超时时长阈值,可以直接判定执行机器所发送的服务请求超时。上述第一等待时长为:执行机器发送服务请求后等待响应的时长。[0079] 第二种实现方式中,若执行机器所发送服务请求的第一等待时长超过最新确定出的超时时长阈值,可以以请求重发方式重新发送服务请求,并基于最新确定出的超时时长阈值检测所发送服务请求是否超时。其中,对于同一服务请求,每次发送服务请求的目的设备不相同。[0080] 对于分布式系统而言,往往由多个机器为用户提供同一服务,这样执行机器在调用一个服务时,若向用于提高该服务的第一机器发送服务请求后,最新确定出的超时时长内没有接收到响应,则有可能第一机器发生了故障,此时执行机器可以重发上述服务请求,重发服务请求时,不再向第一机器发送,而是向提供该服务的其他机器,如第二机器发送,这样在第一机器故障的情况下,执行机器依然能够及时获得响应。[0081] 具体的,执行机器可以预先设置重发服务请求的次数上限,这种情况下,重发服务请求时,若重发服务请求的次数达到次数上限,则即使执行机器没有得到响应也不再重发服务请求,这时可以判定服务请求超时。执行机器也可以预先设置固定时长阈值,这种情况下,重发服务请求时,若执行机器从首次发送该服务请求开始的等待总时间达到上述固定时长阈值,则不再重发服务请求,这时也可以判定服务请求超时。[0082] 判断服务请求超时的具体方式,可以参见下述图2实施例中的步骤,此处暂不详述。[0083] 与上述情况相对应,若执行机器所发送服务请求的第一等待时长未超过最新确定出的超时时长阈值,此时,说明执行机器在超时时长阈值内获得了响应,则可以判定服务请求未超时。[0084] 从上述描述可以看出,在所发送服务请求的第一等待时长超过最新确定出的超时时长阈值时,并不直接确定请求超时,而是向提供同一服务的不同目的设备重新发送请求,这样可以同时等待多个目的设备的响应。这样相比于只发送一次服务请求且只等待一个目的设备的响应,上述实施例提供的方案可以从多个目的设备处获得响应,提高了获得响应的成功率。[0085] 从前面的描述可以看出,可以通过不同的实现方式实现服务请求的超时检测,下面结合具体实现方式对本公开实施例提供的请求超时检测方法进行说明。[0086] 本公开的一个实施例中,参见图2,提供了第二种请求超时检测方法的流程示意图,该方法包括以下步骤S201‑S207。[0087] 步骤S201:持续收集已发送的历史服务请求的响应时长。[0088] 步骤S202:周期性获得满足第一统计条件、且最新收集的响应时长的第一平均响应时长和分位值。[0089] 步骤S203:周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长,并基于第二平均响应时长、最新的第一平均响应时长和最新的分位值,确定超时时长阈值。[0090] 上述步骤S201‑S203分别与前述步骤S101‑S103相同,此处不再详述。[0091] 步骤S204:响应于服务请求发送操作,判断所发送服务请求的第一等待时长是否超过最新确定出的超时时长阈值,若是,执行步骤S205。[0092] 步骤S205:重新发送所发送的服务请求。[0093] 本步骤中,执行机器每次发送的服务请求与前述步骤S204中发送的服务请求所请求的服务相同,区别仅在于服务请求的目的设备不同。[0094] 步骤S206:判断重发服务请求的第二等待时长是否超过最新确定出的超时时长阈值、且第一等待时长是否未超过预设的固定时长阈值,若是,则返回执行上述步骤S205。[0095] 上述第二等待时长是针对于执行机器每次重发的服务请求而言的,也就是说,每一重发的服务请求对应一个第二等待时长,该第二等待时长为自服务请求重发后开始至执行机器接收到响应的时长。[0096] 上述固定时长阈值一般设置的较长,通常会大于各次确定出的超时时长阈值。这样可以有效保证一个目的设备不能及时响应执行机器的服务请求时,有更多的目的设备来响应该服务请求。[0097] 另外,本步骤中,要求在第一等待时长未超过上述固定时长阈值的情况下才重发服务请求,也就是,在第一等待时长超过上述固定时长阈值的情况下,不能再重发服务请求,这样可以有效防止无限重发服务请求,进而导致网络卡死。[0098] 步骤S207:若第一等待时长超过预设的固定时长阈值,则判定所发送服务请求超时。[0099] 由上可见,本实施例提供的方案中,在第一等待时长超过预设的固定时长阈值时,判定所发送服务请求超时,避免了一直重发请求并始终等待响应的极端情况,并且在未超过预设的固定时长阈值时重发服务请求,也提高了执行机器获得响应的成功率。[0100] 本公开的一个实施例中,上述第一统计条件和第二统计条件可以均为:针对同一类型的历史服务请求的响应时长进行统计的条件。[0101] 在此情况下,请求超时检测方法可以参考图3所示的步骤实现。[0102] 步骤S301:持续收集已发送的历史服务请求的响应时长。[0103] 上述步骤S301与前述步骤S101相同,此处不再详述。[0104] 步骤S302:对每一类型的历史服务请求,周期性获得满足第一统计条件、且最新收集的该类型历史服务请求的响应时长的第一平均响应时长和分位值。[0105] 本步骤与前述图1所示实施例中步骤S102类似,区别仅在于第一平均响应时长和分位值是按照历史服务请求的类型获得的,也就是,获得第一平均响应时长和分位值时,所使用的响应时长为各个类型的历史服务请求的响应时长。[0106] 确定两个历史服务请求是否为同一类型的请求的具体实现方式,在后续实施例中说明,这里暂不详述。[0107] 步骤S303:对每一类型的历史服务请求,周期性获得满足第二统计条件、且最新收集的该类型历史服务请求的响应时长的第二平均响应时长,并基于第二平均响应时长、该类型历史服务请求的最新的第一平均响应时长和最新的分位值,确定该类型历史服务请求的超时时长阈值。[0108] 本步骤与前述图1所示实施例中步骤S103类似,区别仅在于第二平均响应时长、第一平均响应时长、分位值是按照历史服务请求的类型获得的,也就是,获得第二平均响应时长、第一平均响应时长、分位值时,所使用的响应时长为各个类型的历史服务请求的响应时长。[0109] 结合步骤S302和步骤S303,对每一类型的历史服务请求,均可以获得最新的第二平均响应时长、最新第一平均响应时长和分位值,据此可以计算出每一类型的历史服务请求的超时时长阈值,计算方式与前述实施例中计算超时时长阈值的方式相同,此处不再详述。[0110] 步骤S304:响应于服务请求发送操作,根据所发送的服务请求的类型得到该类型历史服务请求的最新确定出的超时时长阈值,并基于所得超时时长阈值检测所发送的服务是否超时。[0111] 由于同一类型的服务请求具有相似性,所以,可以认为获得同一类型的服务请求时在响应时长等方面也具有相似性,鉴于此,本实施例中以服务请求的类型为单位,获得第一统计时长、分位值以及第二统计时长,能够使得每次确定的超时时长阈值能够更加准确的反映一类服务请求获得响应的情况。在此基础上,按照服务请求的类型,对服务请求进行超时检测,也能够提高超时检测的准确性。[0112] 下面对确定两个历史服务请求是否为同一类型的请求的具体实现方式进行说明。[0113] 本公开的一个实施例中,可以按照以下方式确定两个历史服务请求是否为同一类型的请求:[0114] 将两个历史服务请求中的常量类型的信息替换为预设的替换信息,若替换信息后的两个历史服务请求相同,确定两个历史服务请求为同一类型的请求。若替换信息后的两个历史服务请求不相同,确定两个历史服务请求为不同类型的请求。[0115] 本领域技术人员可以理解的是,服务请求一般是按照所使用编程语言的语法规则编写的,因此,可以依据上述语法规则确定各个历史服务请求中属于常量类型的信息,例如,3、4、5等数字属于常量类型的信息,字符串也可以被认为是属于常量类型的信息,如,‘li’等。[0116] 上述替换信息可以是由开发人员根据需求设定的,例如,可以是?、!等,本公开实施例并不对此进行限定。[0117] 一种实现方式中,在判断替换信息后的两个历史服务请求是否相同时,可以逐字符对替换信息后的两个历史服务请求进行对比,若对比结果显示替换信息后的两个历史服务请求中各个字符均相同,则认为上述两个历史服务请求相同,否则,认为上述两个历史服务请求不相同。[0118] 例如,假设,历史服务请求1为“selectabcfromtablewhereid=3”,历史服务请求2为selectabcfromtablewhereid=4”,这两个历史服务请求均为在同一表格中对同一字段进行查询,区别在于查询的id不同。其中,3和4为常量信息,均使用“?”这一替换信息进行替换,得到的替换后请求均为“selectabcfromtablewhereid=?”,显然,上述两个历史服务请求在进行信息替换后是相同的,则可以确定上述两个历史服务请求为同一类型的请求。反之,若替换后的请求不同,则确定两个历史服务请求为不同类型的请求。[0119] 假设,历史服务请求3为“selectabcfromtablewhereid=3andname='li'”。可以看出,其中,3为数字类型,'li'为字符串类型,均为常量信息,用“?”这一替换信息进行替换,得到替换后的请求为“selectabcfromtablewhereid=?andname=?”,该请求与“selectabcfromtablewhereid=?”对比,显然多了“andname=?”这一部分的信息,所以可以判定历史服务器请求3与历史服务请求1、历史服务请求2不同。[0120] 另外,开发人员在编写代码时可能存在误操作等,易导致历史服务请求中存在不会导致服务请求存在语法错误、但会导致服务请求包含冗余字符的信息,为便于表述,可以称这类信息为可忽略信息,例如,大于预设数量的空格,这样情况下,可以从历史服务请求中删除多余的可忽略信息,例如,删除多余的空格,仅保留连续空格中的一个空格。[0121] 例如,假设,历史服务请求4为:[0122] “selectabcfromtablewhereid=3”,显然,“abc”和“from”之间存在多个空格,另外,3为常量信息,删除多余的空格,并以“?”替换上述常量信息后,所得替换信息后的历史服务请求为:“selectabcfromtablewhereid=?”,显然处理后的历史服务请求4与替换信息后的历史服务请求1、历史服务请求2相同,因此可以确定历史服务请求4与历史服务请求1、历史服务请求2相同。[0123] 由上可见,使用替换信息对历史服务请求中常量类型的信息进行替换,可以消除常量类型的信息所具有的常量数值对判断请求类型的影响,这样使得替换后的历史服务请求中对于判断历史服务请求的类型的无效信息减少,能够提高确定历史服务请求类型的准确性。[0124] 本公开的一个实施例中,参见图4,提供了一种请求超时检测装置的结构示意图,包括:[0125] 响应时长收集模块401,用于持续收集已发送的历史服务请求的响应时长;[0126] 响应时长和分位值获得模块402,用于周期性获得满足第一统计条件、且最新收集的响应时长的第一平均响应时长和分位值;[0127] 阈值确定模块403,用于周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长,并基于所述第二平均响应时长、最新的所述第一平均响应时长和最新的所述分位值,确定超时时长阈值,其中,所述第二统计条件低于所述第一统计条件;[0128] 超时检测模块404,用于响应于服务请求发送操作,基于最新确定出的超时时长阈值检测所发送服务请求是否超时。[0129] 由上可见,本公开实施例提供的方案中,在持续性收集已发送的历史服务请求的响应时长的基础上,周期性的获得第一平均响应时长、分位值以及第二平均响应时长,这样可以保证上述信息随着发送服务请求而被更新,从而使得基于第二平均响应时长、最新的第一平均响应时长以及最新的分位值计算得到的超时时长阈值也不断被更新,超时时长阈值更加符合实际情况。在此基础上,发送服务请求后,基于最新的时长超时阈值进行超时检测,能够提高检测服务请求是否超时的准确性。[0130] 本公开的一个实施例中,所述阈值确定模块403,包括:[0131] 响应时长单元,用于周期性获得满足第二统计条件、且最新收集的响应时长的第二平均响应时长;[0132] 比例计算单元,用于计算最新的所述分位值与最新的所述第一平均响应时长间的比例;[0133] 时长阈值获得单元,用于获得所述比例与所述第二平均响应时长的乘积,作为超时时长阈值;其中,所述第二统计条件低于所述第一统计条件。[0134] 由于第一平均响应时长和分位值反映了较长时间内执行机器所请求服务得到响应的情况,而第二平均响应时长反映的是较短时间内执行机器所请求服务得到响应的情况,按照上述方式获得超时时长阈值兼顾了长时间以及短时间内执行机器所请求服务得到响应的情况,使得计算出的超时时长阈值更符合执行机器得到响应的实际情况,挺高了超时时长阈值的准确度。[0135] 本公开的一个实施例中,所述超时检测模块404,具体用于响应于服务请求发送操作,若所发送服务请求的第一等待时长超过最新确定出的超时时长阈值,以请求重发方式重新发送服务请求,并基于最新确定出的超时时长阈值检测所发送服务请求是否超时,其中,对于同一服务请求,每次发送服务请求的目的设备不相同。[0136] 从上述描述可以看出,在所发送服务请求的第一等待时长超过最新确定出的超时时长阈值时,并不直接确定请求超时,而是向提供同一服务的不同目的设备重新发送请求,这样可以同时等待多个目的设备的响应。这样相比于只发送一次服务请求且只等待一个目的设备的响应,上述实施例提供的方案可以从多个目的设备处获得响应,提高了获得响应的成功率。[0137] 本公开的一个实施例中,所述超时检测模块404,具体用于响应于服务请求发送操作,若所发送服务请求的第一等待时长超过最新确定出的超时时长阈值,重新发送所发送的服务请求;若重发服务请求的第二等待时长超过最新确定出的超时时长阈值、且所述第一等待时长未超过预设的固定时长阈值,则返回所述重新发送所发送的服务请求的步骤;若所述第一等待时长超过预设的固定时长阈值,则判定所发送服务请求超时,其中,对于同一服务请求,每次发送服务请求的目的设备不相同。[0138] 由上可见,本实施例提供的方案中,在第一等待时长超过预设的固定时长阈值时,判定所发送服务请求超时,避免了一直重发请求并始终等待响应的极端情况,并且在未超过预设的固定时长阈值时重发服务请求,也提高了执行机器获得响应的成功率。[0139] 本公开的一个实施例中,所述第一统计条件和所述第二统计条件均为:针对同一类型的历史服务请求的响应时长进行统计的条件。[0140] 由于同一类型的服务请求具有相似性,所以,可以认为获得同一类型的服务请求时在响应时长等方面也具有相似性,鉴于此,本实施例中以服务请求的类型为单位,获得第一统计时长、分位值以及第二统计时长,能够使得每次确定的超时时长阈值能够更加准确的反映一类服务请求获得响应的情况。在此基础上,按照服务请求的类型,对服务请求进行超时检测,也能够提高超时检测的准确性。[0141] 本公开的一个实施例中,所述装置还包括:[0142] 信息替换模块,用于将两个历史服务请求中的常量类型的信息替换为预设的替换信息;[0143] 同一类型请求确认模块,用于若替换信息后的两个历史服务请求相同,确定两个历史服务请求为同一类型的请求;[0144] 不同类型请求确认模块,用于若替换信息后的两个历史服务请求不相同,确定两个历史服务请求为不同类型的请求。[0145] 由上可见,使用替换信息对历史服务请求中常量类型的信息进行替换,可以消除常量类型的信息所具有的常量数值对判断请求类型的影响,这样使得替换后的历史服务请求中对于判断历史服务请求的类型的无效信息减少,能够提高确定历史服务请求类型的准确性。[0146] 本公开的一个实施例中,所述第一统计条件和所述第二统计条件均为:基于时长的条件;或所述第一统计条件和所述第二统计条件均为:基于响应时长数量的条件。[0147] 由上可见,第一统计条件和第二统计条件可以是基于不同信息设置的条件,这样在获得第一平均响应时长、第二平均响应时长以及分位值时,能够基于不同的统计周期获得,提高了本实施例所提供方案的适用性。[0148] 根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。[0149] 本公开的一个实施例中,提供了一种电子设备,包括:[0150] 至少一个处理器;以及[0151] 与所述至少一个处理器通信连接的存储器;其中,[0152] 所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行上述方法实施例中任一项所述的请求超时检测方法。[0153] 本公开的一个实施例中,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行上述方法实施例中任一项所述的请求超时检测方法。[0154] 本公开的一个实施例中,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现上述方法实施例中任一项所述的请求超时检测方法。[0155] 图5示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。[0156] 如图5所示,设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM503中,还可存储设备500操作所需的各种程序和数据。计算单元501、ROM502以及RAM503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。[0157] 设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。[0158] 计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如请求超时检测方法。例如,在一些实施例中,请求超时检测方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM503并由计算单元501执行时,可以执行上文描述的请求超时检测方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行请求超时检测方法。[0159] 本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。[0160] 用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。[0161] 在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD‑ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。[0162] 为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。[0163] 可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。[0164] 计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端‑服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式系统的服务器,或者是结合了区块链的服务器。[0165] 应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。[0166] 上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。

专利地区:北京

专利申请日期:2022-03-25

专利公开日期:2024-06-18

专利公告号:CN114661510B

电话咨询
读内容
搜本页
回顶部