为何SOFA RPC调用30s还不超时？

时间  2021-05-09 标签 html java web api 网络 app 框架 jvm ide svg
简介：为何SOFA RPC调用30s还不超时？

0.png

1. 背景

最近帮客户处理了一个诡异的RPC调用问题，想跟你们分享一下。关于SOFA RPC，请参考官网[1]。html

2. 问题现象

客户使用 REST 接口触发RPC的调用，发现每次RPC调用都须要30秒的时间，最终的RPC调用结果是成功的。从业务日志来看，开始处理业务和结束业务之间确实花了30秒。java

3. 问题分析

RPC 调用花了30秒调用成功，这自己是一件诡异的事情。由于默认SOFA RPC的框架RPC超时时间是3秒。下面的代码显式的设置了超时时间，设置成了默认值。web

<sofa:reference jvm-first="false" id="rpcService" interface="com.sofa.rpc.facade.demo.RpcService">
    <sofa:binding.bolt>
        <sofa:global-attrs timeout="3000" />
    </sofa:binding.bolt>
</sofa:reference>

咱们首先肯定了代码中确实没有更改SOFA RPC框架的默认超时时间。因此，理论上RPC调用超过3秒，RPC客户端就应该报错了。
那么，咱们来看看这30秒到底发生了什么！api

3.1 直击框架核心

咱们知道SOFA RPC调用的超时时间是3秒，咱们首先须要确认SOFA RPC框架到底花了多少时间。
根据业务日志的时间点（2020-01-21 10:41:34），查看RPC的digest日志： /home/admin/logs/tracelog/rpc-client-digest.log。咱们发现RPC执行的时间才54ms。这证实实际上RPC调用是很快的！那么时间到底去哪里了？网络

2020-01-21 10:42:04.186,xxx_app,0a014046157957449410610155674,0,com.xxx.xxx.service.xxxService:1.0,$genericInvoke,bolt,sync,xxx.xxx.xxx.72:12222,xxx,,,,,00,2296B,889B,54ms,0ms,0ms,54ms,http-nio-8080-exec-10,REGISTRY,,,,xxx.xxx.xxx.72,12222,,,

难道时间花在得到RPC provider 的地址上了？
因而，咱们查看RPC客户端的注册中心寻址日志，/home/admin/logs/rpc/rpc-registry.log。咱们发现该接口的地址在三秒前就返回了。因此也不是寻址的问题。app

2020-01-21 10:41:31,330 INFO  ObserverNotifyThread-2-thread-5  com.alipay.sofa.rpc.registry.dsr.DsrSubscribeCallback - RPC-00204: Receive RPC service addresses: service[com.xxx.xxx.service.xxxService:1.0@DEFAULT]
  usable target addresses[3]

3.2 怀疑业务代码

基于上述的证据，咱们有理由怀疑是业务代码自身的问题。咱们要求客户检查业务代码。客户在业务代码中添加了不少日志，显式的打印业务处理和RPC调用时间，结果证实时间仍是消失在调用RPC的过程当中。如下是客户 SOFA RPC调用的具体代码。框架

GenericObject result = (GenericObject)serviceName.$genericInvoke(methodName, argTypes, args);

看到这个结果，咱们百思不得其解：RPC的超时时间是3s，可是实际上此次调用花了30s而没有超时（由于实际执行RPC的时间才54ms）。那么，时间到底去哪里了？jvm

3.3 逆向推导

从结果来逆向推导，genericInvoke 应该包含了不少处理方法，而在调用真正的RPC方法以前确定调用了其余处理方法作了其余事情，那么到底作了什么事情？假如你阅读代码的话，会发现你会被淹没在汪洋代码里面，咱们须要其余更有效的方式排查此类问题。
这30秒给人的感受就是“卡”在了某个地方。这时候，咱们须要想，在这种状况下，什么日志或者工具能帮助咱们进一步逼近真相？
这时候，jstack登场了。jstack能够帮助咱们得到某一个时刻某个进程里面全部线程的调用堆栈。假如某个线程卡在什么方法上的话，经过多抓几回 jstack 的方式，咱们能清楚的看到卡住的方法。因此咱们让客户在重现问题的时候每隔5s收集一次 jstack $PID >stack.log，至少收集4个日志。$PID须要使用业务应用的java进程ID替换。
皇天不负有心人，从这几个jstack日志中，咱们经过genericInvoke 快速定位到相应的线程，发现卡在了OS的方法getLocalHostName上（几个jstack日志都卡在getLocalHostName上）。同时，从调用堆栈来看，线程当时是在初始化RPC的tracer，也就是尚未开始RPC调用，因此不会有RPC调用超时发生。ide

"http-nio-8080-exec-10" #28 daemon prio=5 os_prio=0 tid=0x00007f54604e5000 nid=0x175c runnable [0x00007f53ef1f6000]
   java.lang.Thread.State: RUNNABLE
    at java.net.Inet4AddressImpl.getLocalHostName(Native Method)
    at java.net.InetAddress.getLocalHost(InetAddress.java:1475)
    at sun.management.VMManagementImpl.getVmId(VMManagementImpl.java:140)
    at sun.management.RuntimeImpl.getName(RuntimeImpl.java:59)
    at com.alipay.common.tracer.core.utils.TracerUtils.getPID(TracerUtils.java:139)
    at com.alipay.common.tracer.core.generator.TraceIdGenerator.getTraceId(TraceIdGenerator.java:49)
    at com.alipay.common.tracer.core.generator.TraceIdGenerator.generate(TraceIdGenerator.java:54)
    at com.alipay.common.tracer.core.SofaTracer$SofaTracerSpanBuilder.createRootSpanContext(SofaTracer.java:296)
    at com.alipay.common.tracer.core.SofaTracer$SofaTracerSpanBuilder.start(SofaTracer.java:285)
    at com.alipay.sofa.rpc.tracer.sofatracer.RpcSofaTracer.startRpc(RpcSofaTracer.java:143)
    at com.alipay.sofa.rpc.tracer.Tracers.startRpc(Tracers.java:102)
    at com.alipay.sofa.rpc.event.SofaTracerSubscriber.onEvent(SofaTracerSubscriber.java:35)
    at com.alipay.sofa.rpc.event.EventBus.handleEvent(EventBus.java:153)
    at com.alipay.sofa.rpc.event.EventBus.post(EventBus.java:123)
    at com.alipay.sofa.rpc.client.ClientProxyInvoker.invoke(ClientProxyInvoker.java:80)
    at com.alipay.sofa.rpc.api.GenericService_proxy_0.$genericInvoke(GenericService_proxy_0.java)
    at com.xxx.xxx.xxx.util.SofaUtil.invokeService(SofaUtil.java:32)
    at com.xxx.xxx.xxx.controller.xxxxxxxxController.xxxxxxxxController002(xxxxxxxxController.java:425)
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
    at java.lang.reflect.Method.invoke(Method.java:498)

那么这个getLocalHostName方法到底在干什么呢？经过网络搜索，发现这个函数其实就是去查找本机的HostName，IP。CentOS 查找的顺序是这样的：/etc/hosts 文件，DNS，myhostname（只返回本机配置的公共IP地址）。
因为客户这边DNS配置错误，致使一直卡在该方法DNS超时，因此形成了该问题。同时，通过客户确认，这几台机器并不依赖DNS寻址。
因此咱们的解决方案很简单：在 /etc/hosts 中添加了IP与主机名的映射。svg

参考文档

[1]SOFA RPC：https://help.aliyun.com/document_detail/149865.html?spm=a2c4g.11186623.6.560.178c5fb01GxG9Z

咱们是阿里云智能全球技术服务-SRE团队，咱们致力成为一个以技术为基础、面向服务、保障业务系统高可用的工程师团队；提供专业、体系化的SRE服务，帮助广大客户更好地使用云、基于云构建更加稳定可靠的业务系统，提高业务稳定性。咱们指望可以分享更多帮助企业客户上云、用好云，让客户云上业务运行更加稳定可靠的技术，您可用钉钉扫描下方二维码，加入阿里云SRE技术学院钉钉圈子，和更多云上人交流关于云平台的那些事。

原文连接：https://developer.aliyun.com/article/783846?

本文内容由阿里云实名注册用户自发贡献，版权归原做者全部，阿里云开发者社区不拥有其著做权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。若是您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将马上删除涉嫌侵权内容。
联系我们 沪ICP备2021010478号-7