范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文
国学影视

分布式链路追踪技术监控数据从何而来?

  我们在日常开发过程中无时无刻不在和数据打交道,想要让程序运行得稳定顺畅就要实时对数据进行观测。今天我们先来讲解观测的数据到底从哪里来的?  监控数据来源
  我们一般讲的数据观测,其实观测的就是从发起请求,到真正查询的这个过程中的数据。那在这个过程中,我们需要关注哪几个层次的数据呢?接下来,我会从数据请求发起的用户端到数据查询响应的服务端逐层分析。  端上访问
  首先是用户侧的端上访问,这应该是最容易理解的。在互联网发展的早期,我们通过 PC 浏览网页,就属于端上访问的范畴。随着移动互联网的发展,端上访问的范围得以扩大。我们打开各种 App,或是访问 App 中的小程序/H5 页面,都属于端上访问。用户通过端上访问,也最能直观地感受到我们程序的响应速度,所以端上访问的数据就变得十分重要。
  我们一般可以通过以下几个方式获取端上访问的数据:  用户体验监控  :Web 页面中的白屏时间、DOM 元素/资源加载耗时、文档网络耗时;App 的卡顿率、崩溃率、热启动加载时长等。  日志  :在 Web 页面中,如果出现脚本错误,则需要将相应的异常信息通过日志的方式上报服务器;App 也会有相应的日志输出,但移动端更关注系统崩溃或出现异常时的日志信息。  端到端  :指的是用户端(Web/App)到后端服务器的请求情况,比如访问量、成功率、响应时间等。通过端到端观测时,我们还需要了解端上所处的地区、网络环境、响应状态码等信息,才能更好地掌握用户真实的使用情况。  可用率  :因运营商和地区的不同,会导致访问端上时有一些差异,比如访问是否可用、响应耗时长短等。这与 CDN、DNS 等公共资源有莫大的关系。  应用程序
  当端上发起请求后,一般会到达应用程序。这里是代码运行,以及处理用户请求的地方。在应用程序中,我们可能会集成各种第三方组件,比如常见的 Kafka、Redis、MySQL。应用程序的执行效率最终会通过端上响应情况反映出来,直接影响到用户的使用体验。
  如果我们想要提升程序的响应速度,就不得不关注以下几个指标:  执行情况  :我们常说的响应时间、QPS 等,都可以反映应用程序的执行情况。针对端上的请求,或者我们的定时任务,应用程序的执行情况就十分关键。执行情况越差,用户的直观体验也会越差。在组件级别,像 MySQL 中的慢查询监控,Kafka 中的 Lag 监控等,也可以反映应用程序的执行情况。  资源消耗  :应用程序部署后,会消耗一定的资源,例如内存级别的 Redis 会消耗大量的内存,Kakfa 则因为要进行磁盘写入所以会要求较好的 I/O。我们的应用程序会区分 I/O 密集型和 CPU 密集型,它们所对应的资源消耗是不同的。  VM 指标监控  :指的是 JVM 监控,比如 GC 时间、线程数、FGC/YGC 耗时等信息。当然,其他语言也有其独特的统计指标信息。  容量  :指单个系统可最大承受的容量。容量也是一个非常重要的指标,当应用访问量到达阈值时,我们一般会对这个应用的访问容量进行扩缩容。  服务关系  :随着分布式系统架构的流行,我们在监控单体应用的基础上,还必须考虑应用之间的调用关系和调用速度,比如是否会存在两个服务之间的相互循环引用,下游服务出现问题是否会干扰整个流程的执行,又或是服务之间的响应时长、上下游服务的依赖程度等。  应用日志  :应用日志应该是我们再熟悉不过的内容了。我们开发的应用程序,会记录下自身的日志,第三方组件也会有相应的日志,比如 MySQL 的进程日志、慢查询日志等。充分利用应用日志,可以大幅提高我们的排错能力。  健康情况  :当前服务是否存活、服务运行是否稳定等,这也是十分关键的指标。我们在 ES 中可以看到服务的状态(RED、YELLOW、GREEN)。  业务监控
  业务监控也是可观测系统中一个重要的内容,如果你只是让应用程序稳定运行那肯定是远远不够的。因此,我们常常会对具体业务产生的数据进行监控,例如网站系统中我们会关注 PV、UV 等参数;在支付系统中,我们则会关注创建订单量、成单量等。
  业务指标能很好地体现出系统是否稳定。任何系统,如果出现了问题,最先受到影响的肯定是业务指标。当然,如果影响不是特别大,那就说明对这个指标进行监控的意义也不是很大。
  业务指标也可以衡量上线后的成效。如果我们需要通过 A/B Test 了解用户更偏好哪一种模式,可以分别观察两种模式下的业务指标来比对用户喜好。再或者,我们可以通过业务指标得出的结论,在上线前进行一些改进(例如选择用户更偏好的模式)来提高成单率。
  核心业务指标的设定因具体的业务和场景而异,因此开发人员也需要对业务和代码有一定的了解。  基础设施
  基础监控我想你也不陌生。我们的应用程序/组件一般都是运行在云主机、操作系统上的,如果基础设施出现了严重问题,会影响到云主机和操作系统,进而牵连应用程序/组件的正常运行。
  为了避免这种情况,我们会对基础设施进行监控,以保证它们可以良好地运行着。
  我们一般会从 2 个方向监控:  资源利用  :这个很好理解,像 I/O 使用率、CPU 利用率、内存使用率、磁盘使用率、网络使用率、负载等都属于资源利用的范畴。  通信情况  :这里是指主机与主机之间的网络情况。通信是互联网中最重要的基石之一,如果两台主机之间出现如网络延迟时间大、丢包率高这样的网络问题,会导致业务受阻。  可观测性核心概念
  基于上面几个层次的数据来源的介绍,你应该对要观测的数据有了一个大概的了解。
  为了解决我在"开篇词"中提到的 3 个问题,我们通常会通过几个维度来观测这些数据,这也是我接下来要为你介绍的可观测性中比较关键的概念:  日志  、  统计指标  和  链路跟踪  。
  日志(Logging)
  日志  是系统中的常见功能,我们前面说的数据来源的各个部分都有可能产生日志。日志一般的描述是:在特定时间发生的事件,被以结构化的形式记录并产生的文本数据。
  日志可以为我们展现系统在任意时间的运行状态,又因为它是结构化的文本,所以我们很容易通过某种格式来进行检索,比如下图就是对 7 月 24 日用户支付下单操作的记录:
  由于日志是最容易生成的,如果它大量地输出,会占据比较大的存储空间,进而影响整个应用程序的性能,比如 Java 中 logback 的日志框架,就算使用了异步线程来执行,也会对磁盘和 I/O 的使用率造成影响。
  当然,也有一部分系统是利用日志可追溯、结构化的特点,来实现相关功能的,比如我们最常见的 WAL(Write-Ahead Logging)。WAL 就是在操作之前先进行日志写入,再执行操作;如果没有执行操作,那么在下次启动时就可以通过日志中结构化的,有时间标记的信息恢复操作,其中最典型的就是 MySQL 中的 Redo log。  统计指标(Metrics)
  统计指标  也是我们经常使用的。它是一种可累加的聚合的数值结果,具有原子性。因此,我们可以通过各种数学计算方式来获取一段时间内的数值。
  统计指标针对数据的存储、处理、压缩和检索进行了优化,所以一般可以长期存储并以很简单的方式(聚合)查询。但由于涉及数据的处理(数学计算方式)和压缩,所以它也会占用一定的 CPU 资源。
  统计指标是一个压缩后的数值,因此如果指标出现异常,我们很难得知是什么原因导致的异常。此外,如果我们使用了一个高基数的指标来作为统计的维度,那么统计就很容易给机器带来高性能损耗,比如,在基于用户 ID 的维度去做数据统计时,因为在统计的时候需要一段时间范围,如果数据过多就必然会造成内存上的占用。
  讲到这里,你应该对指标有了一定的认识。我们后端经常说的 QPS、TPS、SLA 都是计算后得到的指标;基础设施中的 CPU 使用率、负载情况也可以认为是指标。  链路追踪(Tracing)
  链路追踪   可能是一个较新的概念,但是"全链路压测"这个词你一定不陌生。链路追踪中的"链路"和全链路压测中的"链路",它们的概念是一样的,只不过链路追踪是将链路的完整行为信息进行记录,然后通过可视化的形式展现出来。这里我用一张图来说明:
  假设我们程序中的一个接口总共有 4 个服务参与,调用的关系分别是 A->B->C->D,其中 B 服务还与 Redis 这种第三方应用产生了调用/请求关系。这一过程,我们就可以在链路追踪中,通过类似于上面这张图的形式来展示。当然,这只是个例子,在实际中,链路追踪展示的图会比这个更加清楚。我会在后面的课程中更加详细地讲解,这里就不加赘述了。
  链路是支持跨应用的,比如我们常见的 RPC 请求,就可以说是链路中的一部分。
  与日志一样,链路追踪也会造成一定的性能损耗,因为任何形式的观测都需要存储一定的数据和时间信息,这必然会占用一定的 CPU 和内存资源。我们一般可以通过采样的方式解决资源占用的问题,我会在后面"链路追踪"章节中介绍。
  链路追踪是整个可观测性中一个很有趣,也是很重要的部分。希望通过这个简单的说明,能让你对它有一个基础的认识。  三者之间关系
  我们一般可以将数据的来源分为 2 个级别:  请求级别:   数据来源于真实的请求,比如一次 HTTP 调用,RPC 调用;  聚合级别:   真实的请求指标,或是系统的一些参数数据聚合,比如 QPS、CPU 数值。
  根据这 2 个级别,我们可以对上面的 3 个内容加以细化,其中  链路追踪  是请求级别,因为它和每个请求都挂钩;  日志  和  统计指标  可以是请求级别,也可以是聚合级别,因为它们可能是真实的请求,也可能是系统在对自身诊断时记录下来的信息。
  那么当它们两两组合之后又是什么关系呢?我们可以从下图中看到:
  链路追踪+统计指标  (Request-scoped metrics)  ,请求级别的统计  :在链路追踪的基础上,与相关的统计数据结合,从而得知数据与数据、应用与应用之间的关系。  链路追踪+日志  (Request-scoped events)  ,请求级别的事件  :这是链路中一个比较常见的组合模式。日志本身是每一条单独存在的,将链路追踪收集到的信息集成在日志中,可以让日志之间具备关联性,使其具有除了事件维度以外的另一个新的维度,上下文信息。  日志+统计指标  (Aggregatable events)  ,聚合级别的事件  :这是在日志中的比较常见的组合。通过解析这部分具有统计指标的信息,我们可以获取相关的指标数据。  三者结合  (Request-scoped,aggregatable events):三者结合可以理解为  请求级别+聚合级别的事件  ,由此就形成了一个丰富的、全局的观测体系。
  根据以上这 3 个概念,我们再来想想它们最终会输出的  数据量(Volume)  。
  统计指标  是数值的形式,同时又可以压缩,所以它所需的存储量是最小的;  日志  的输出量最大,但相对的,它也有比较全的内容记录;  链路追踪  则正好处于二者之间,它不会像日志一样大量地输出,也不像统计指标一样节能。
  于是,这三者的关系就形成了我们图中最左侧的竖线。

学好中国字做好中国人评中国字中国人今年中国图书市场一个热点事件可谓是中国字中国人著作的出版,上市不久即入选2022年中国好书月榜图书,迅速引起读者关注和媒体热评。由此想到三年前流行的一首同名儿歌中国字中国人和我参与治愈一切的良药人生中什么才是治愈一切的良药什么才是治愈一切的良药?以前看到这个问题时我会毫不犹豫地说时间,时间能治愈一切!相信谁年轻时都曾有过一段刻骨铭心的爱情吧?我也一样,深爱的人离开,当时感拉你走出焦虑深渊的7句毒鸡汤,亲测有效,值得阅读你好呀!我是萧星星,很高兴与你相识。点击右上方关注,我们一起穿越迷雾,寻找属于自己的银河。图片来源网络世界纷纷扰扰,人心烦躁难安。有太多的时候,我们是需要自己解救自己的,就如同人要V观财报易主连续剧还没完!信披前后不一致,国立科技再收函中新经纬11月22日电21日晚间,国立科技再度收关注函,其中杨坤与葛旭艳关系信披前后不一致的原因等被追问。在此之前,95后当总经理前财经记者手握多家公司一系列标签一度让国立科技新主宇通携手央视频,换个视角看卡塔尔视频加载中卡塔尔世界杯的大幕已开,全世界球迷终于等来了四年一度的节日。这届世界杯备受关注,因为主办方卡塔尔用2200亿美元为世界杯盖了一座城!尽管中国队并未出现在卡塔尔世界杯的赛场高秀敏去世17年女儿现身悼念!晒照母女太像引泪目,墓园一尘不染饿了吗?戳右边关注我们,每天给您送上最新出炉的娱乐硬核大餐!不知不觉中,知名喜剧演员高秀敏已经离开人世间有17年之久了。11月22日,高秀敏的女儿李宣在社交平台晒出了一张照片悼念母今日小雪,天寒酒更香,喝酒牢记3不喝原则,安心顺利过冬转眼间冬天的第二个节气小雪就到了,从这一天开始,各个地区的气温会明显下降,一些纬度较高的地区的气温甚至降到零度以下,地面结冰,天飘小雪,这也意味着寒冷的冬天正式拉开序幕,之前的立冬86岁,依然能跑,依然在跑2022北京马拉松最后一名完赛者的故事新华社北京11月20日电题86岁,依然能跑,依然在跑2022北京马拉松最后一名完赛者的故事新华社记者王明浩孔祥鑫杨淑君在2022北京马拉松上感动亿万网民的张顺,经过短暂休整,每天又众神归位!辽宁15人名单敲定杨鸣踢走争议后卫三把尖刀失而复得要说谁是CBA第二阶段最受期待的球队,那么一定非辽宁男篮莫属。在经过了第一阶段的伤病难题之后,辽宁队在第二阶段可以称得上众神归位,将以最强的阵容出现在球迷们的视野当中。目前辽宁队第澳大利亚赛结束,国羽收获三大希望,男单领军人物初露端倪11月20日,澳大利亚羽毛球公开赛结束,男女单打双打,混双5项冠军,被中国和韩国包揽。中国队勇夺男单男双和女双3项冠军,韩国队拿到女单和混双2项冠军。澳大利亚赛国羽收获三大希望,男男篮又无辜躺枪了!世界杯东道主惨败前助教卡塔尔堪比19年男篮北京时间11月21日,世界杯揭幕战已经打响,东道主卡塔尔首战便以02不敌厄瓜多尔,成为史上第一支揭幕战输球的东道主。不过,在卡塔尔遭遇开门黑之际,中国男篮又一次躺着中枪,前男篮助教
观察自己(相信科学,切勿迷信)如何面对此刻的功课真久久修改金子孩子,我看到你们一步步走来,集体站在这一关卡。请不要犹豫,不要气馁和报怨,既然选择了艰难的剧本,就用尽力气大步流星跨过去!这将是一次难得的成长契机。读报金句摘录(1。5)1。事必有法,然后可成。2。法与时转则治,治与世宜则有功。3。只有荒凉的沙漠,没有荒凉的人生。4。山河为证,岁月为名。5。如果斗争只是在机会绝对有利的条件下才着手进行,那么创造世界真想做个能痛快翻篇儿的人呐!我们有时候会说,别人是自己的一面镜子,我们对别人生发的感受情感想法,照出的是我们自己。你羡慕过什么样的人?哪种人对你产生过见贤思齐的影响?什么样的品质与能力长久地吸引着你?我最羡慕现代诗青春进行曲原以为一直向前就可以到得逍遥天堂原以为不屈不饶就能够摘得金色王冠在沧海里经过二十二个春秋的轮换拔下一根沾满疲惫的头发看看前方路还何其漫漫原以为双手可以捧起太阳勇气能够劈碎一切黑暗可日入1000我还是很焦虑,人永远喂不饱自己有一段时间我觉得我人还活着但是精神死掉了我所做的每一件事情,都不是我所喜欢的,我清楚的知道我在摆烂,但是我不知道该怎么去解决那个现状学不进去玩不痛快睡不踏实浑身不得劲儿,看不到希望隐于自然的百美村宿高岭宿集,斩获DFA亚洲最具影响力设计奖亚洲设计界中享有盛誉引领趋势的DFA亚洲最具影响力设计奖(DFADesignforAsiaAwards)公布了2022年度最终获奖名单。王求安带领北京安哲建筑设计事务所,凭借以民宿回首2022,你错过的风景在这里2023年到了,回首2022,哪个季节的贵州之美让你流恋?是山桃红花满上头的春是小荷才露尖尖角的夏是树树皆秋色的秋是清冬见远山的冬在这里我们一同回望四季贵春州春天的贵州繁花似锦万亩长沙跨年释放消费复苏暖意烤全羊自助晚宴小型晚会烟花燃放卢先生一家度过了一个难忘的跨年夜晚。孩童的打闹和欢聚的歌声,像一场特大型的家庭聚会。这是位于湖南省长沙市望城区的一家乡野民宿,元旦假期期间,14间客房产业建圈强链案例丨创新打造美食孵化基地助力产业又好又快发展每经编辑赵博渊2021年,金牛区成功获评全省首批川派餐饮创新发展先行区。为深入推进创新试点,助力产业发展,金牛选址一品天下美食街区,精选优质合作企业,打造总面积近8000的金牛美食米家上新,能揣大衣兜里的保温杯米家保温杯口袋版开箱上手米家保温杯又上新啦!我本人曾经入手过多个米家迷你保温杯,这款水杯在保温性能和外观设计上都很干净简约。这一次上新,米家保温杯口袋版我也是抓紧时间上手开箱。米家保温杯口袋版的配色延续了2022年度最令人兴奋的100项科技创新消费电子BestofWhatsNew2022POPSCI百佳科技成果奖自1988年以来,大众科学每年都会隆重介绍那些让我们的生活变得更美好的科技创新。2022年第35个年头詹姆斯韦伯太空望