ios微信内存监控 -欧洲杯足彩官网

0顶
0踩

ios微信内存监控

2018-03-06 10:41 by 副主编 jihong10102006 评论(0) 有8832人浏览
ios
foom(foreground out of memory),是指app在前台因消耗内存过多引起系统强杀。对用户而言,表现跟crash一样。facebook早在2015年8月提出foom检测办法,大致原理是排除各种情况后,剩余的情况是foom,具体链接:。

微信自15年年底上线foom上报,从最初数据来看,每天foom次数与登录用户数比例接近3%,同期crash率1%不到。而16年年初某东老大反馈微信频繁闪退,在艰难拉取2g多日志后,才发现kv上报频繁打log引起foom。接着16年8月不少外部用户反馈微信启动不久后闪退,分析大量日志还是不能找到foom原因。微信急需一个有效的内存监控工具来发现问题。

一、实现原理

微信内存监控最初版本是使用facebook的fballocationtracker工具监控oc对象分配,用fishhook工具hook malloc/free等接口监控堆内存分配,每隔1秒,把当前所有oc对象个数、top 200最大堆内存及其分配堆栈,用文本log输出到本地。该方案实现简单,一天内完成,通过给用户下发testflight,最终发现联系人模块因迁移db加载大量联系人导致foom。

不过这方案有不少缺点:

1、监控粒度不够细,像大量分配小内存引起的质变无法监控,另外fishhook只能hook自身app的c接口调用,对系统库不起作用;

2、打log间隔不好控制,间隔过长可能丢失中间峰值情况,间隔过短会引起耗电、io频繁等性能问题;

3、上报的原始log靠人工分析,缺少好的页面工具展现和归类问题。

所以二期版本以instruments的allocations为参考,着重四个方面优化,分别是数据收集、存储、上报及展现。

1.数据收集

16年9月底为了解决ios10 nano crash,研究了libmalloc源码,无意中发现这几个接口:

当malloc_logger和__syscall_logger函数指针不为空时,malloc/free、vm_allocate/vm_deallocate等内存分配/释放通过这两个指针通知上层,这也是内存调试工具malloc stack的实现原理。有了这两个函数指针,我们很容易记录当前存活对象的内存分配信息(包括分配大小和分配堆栈)。分配堆栈可以用backtrace函数捕获,但捕获到的地址是虚拟内存地址,不能从符号表dsym解析符号。所以还要记录每个image加载时的偏移slide,这样符号表地址=堆栈地址-slide。

另外为了更好的归类数据,每个内存对象应该有它所属的分类category,如上图所示。对于堆内存对象,它的category名是“malloc ” 分配大小,如“malloc 48.00kib”;对于虚拟内存对象,调用vm_allocate创建时,最后的参数flags代表它是哪类虚拟内存,而这个flags正对应于上述函数指针__syscall_logger的第一个参数type,每个flag具体含义可以在头文件找到;对于oc对象,它的category名是oc类名,我们可以通过hook oc方法 [nsobject alloc]来获取:

但后来发现,nsdata创建对象的类静态方法没有调用 [nsobject alloc],里面实现是调用c方法nsallocateobject来创建对象,也就是说这类方式创建的oc对象无法通过hook来获取oc类名。最后在苹果开源代码cf-1153.18找到了答案,当__cfoasafe=true并且__cfobjectallocsetlastalloceventnamefunction!=null时,corefoundation创建对象后通过这个函数指针告诉上层当前对象是什么类型:

通过上面方式,我们的监控数据来源基本跟allocations一样了,当然是借助了私有api。如果没有足够的“技巧”,私有api带不上appstore,我们只能退而求其次。修改malloc_default_zone函数返回的malloc_zone_t结构体里的malloc、free等函数指针,也是可以监控堆内存分配,效果等同于malloc_logger;而虚拟内存分配只能通过fishhook方式。

2.数据存储

存活对象管理

app在运行期间会大量申请/释放内存。以上图为例,微信启动10秒内,已经创建了80万对象,释放了50万,性能问题是个挑战。另外在存储过程中,也尽量减少内存申请/释放。所以放弃了sqlite,改用了更轻量级的平衡二叉树来存储。

伸展树(splay tree),也叫分裂树,是一种二叉排序树,不保证树是平衡,但各种操作平均时间复杂度是o(logn),可近似看作平衡二叉树。相比其他平衡二叉树(如红黑树),其内存占用较小,不需要存储额外信息。伸展树主要出发点是考虑到局部性原理(某个刚被访问的结点下次又被访问,或者访问次数多的结点下次可能被访问),为了使整个查找时间更少,被频繁查询的结点通过“伸展”操作搬移到离树根更近的地方。大部分情况下,内存申请很快又被释放,如autoreleased对象、临时变量等;而oc对象申请内存后紧接着会更新它所属category。所以用伸展树管理最适合不过了。

传统二叉树是用链表方式实现,每次添加/删除结点,都会申请/释放内存。为了减少内存操作,可以用数组实现二叉树。具体做法是父结点的左右孩子由以往的指针类型改成整数类型,代表孩子在数组的下标;删除结点时,被删除的结点存放上一个被释放的结点所在数组下标。

堆栈存储

据统计,微信运行期间,backtrace的堆栈有成百万上千万种,在捕获最大栈长64情况下,平均栈长35。如果36bits存储一个地址(armv8最大虚拟内存地址48bits,实际上36bits够用了),一个堆栈平均存储长度157.5bytes,1m个堆栈需要157.5m存储空间。但通过断点观察,实际上大部分堆栈是有共同后缀,例如下面的两个堆栈后7个地址是一样的:

为此,可以用hash table来存储这些堆栈。思路是整个堆栈以链表的方式插入到table里,链表结点存放当前地址和上一个地址所在table的索引。每插入一个地址,先计算它的hash值,作为在table的索引,如果索引对应的slot没有存储数据,就记录这个链表结点;如果有存储数据,并且数据跟链表结点一致,hash命中,继续处理下一个地址;数据不一致,意味着hash冲突,需要重新计算hash值,直到满足存储条件。举个例子(简化了hash计算):

1)stack1的g、f、e、d、c、a、依次插入到hash table,索引1~6结点数据依次是(g, 0)、(f, 1)、(e, 2)、(d, 3)、(c, 4)、(a, 5)。stack1索引入口是6

2)轮到插入stack2,由于g、f、e、d、c结点数据跟stack1前5结点一致,hash命中;b插入新的7号位置,(b, 5)。stack2索引入口是7

3)最后插入stack3,g、f、e、d结点hash命中;但由于stack3的a的上一个地址d索引是4,而不是已有的(a, 5),hash不命中,查找下一个空白位置8,插入结点(a, 4);b上一个地址a索引是8,而不是已有的(b, 5),hash不命中,查找下一个空白位置9,插入结点(b, 9)。stack3索引入口是9

经过这样的后缀压缩存储,平均栈长由原来的35缩短到5不到。而每个结点存储长度为64bits(36bits存储地址,28bits储存parent索引),hashtable空间利用率60% ,一个堆栈平均存储长度只需要66.7bytes,压缩率高达42%。

性能数据

经过上述优化,内存监控工具在iphone6plus运行占用cpu占用率13%不到,当然这是跟数据量有关,重度用户(如群过多、消息频繁等)可能占用率稍微偏高。而存储数据内存占用量20m左右,都用mmap方式把文件映射到内存。有关mmap好处可自行google之。

3.数据上报

由于内存监控是存储了当前所有存活对象的内存分配信息,数据量极大,所以当出现foom时,不可能全量上报,而是按某些规则有选择性的上报。

首先把所有对象按category进行归类,统计每个category的对象数和分配内存大小。这列表数据很少,可以做全量上报。接着对category下所有相同堆栈做合并,计算每种堆栈的对象数和内存大小。对于某些category,如分配大小top n,或者ui相关的(如uiviewcontroller、uiview之类的),它里面分配大小top m的堆栈才做上报。上报格式类似这样:

4.页面展现

页面展现参考了allocations,可看出有哪些category,每个category分配大小和对象数,某些category还能看分配堆栈。

为了突出问题,提高解决问题效率,后台先根据规则找出可能引起foom的category(如上面的suspect categories),规则有:
  • uiviewcontroller数量是否异常
  • uiview数量是否异常
  • uiimage数量是否异常
  • 其它category分配大小是否异常,对象个数是否异常
接着对可疑的category计算特征值,也就是oom原因。特征值是由“caller1”、“caller2”和“category, reason”组成。caller1是指申请内存点,caller2是指具体场景或业务,它们都是从category下分配大小第一的堆栈提取。caller1提取尽量是有意义的,并不是分配函数的上一地址。例如:

所有report计算出特征值后,可以对它们进行归类了。一级分类可以是caller1,也可以是category,二级分类是与caller1/category有关的特征聚合。效果如下:
一级分类

二级分类

5.运营策略

上面提到,内存监控会带来一定的性能损耗,同时上报的数据量每次大概300k左右,全量上报对后台有一定压力,所以对现网用户做抽样开启,灰度包用户/公司内部用户/白名单用户做100%开启。本地最多只保留最近三次数据。

二、降低误判

先回顾facebook如何判定上一次启动是否出现foom:

1.app没有升级
2.app没有调用exit()或abort()退出
3.app没有出现crash
4.用户没有强退app
5.系统没有升级/重启
6.app当时没有后台运行
7.app出现foom

1、2、4、5比较容易判断,3依赖于自身crashreport组件的crash回调,6、7依赖于applicationstate和前后台切换通知。微信自上线foom数据上报以来,出现不少误判,主要情况有:

applicationstate不准

部分系统会在后台短暂唤起app,applicationstate是active,但又不是backgroundfetch;执行完didfinishlaunchingwithoptions就退出了,也有收到becomeactive通知,但很快也退出;整个启动过程持续5~8秒不等。解决方法是收到becomeactive通知一秒后,才认为这次启动是正常的前台启动。这方法只能减少误判概率,并不能彻底解决。

群控类外挂

这类外挂是可以远程控制iphone的软件,通常一台电脑可以控制多台手机,电脑画面和手机屏幕实时同步操作,如开启微信,自动加好友,发朋友圈,强制退出微信,这一过程容易产生误判。解决方法只能通过安全后台打击才能减少这类误判。

crashreport组件出现crash没有回调上层

微信曾经在17年5月底爆发大量gif crash,该crash由内存越界引起,但收到crash信号写crashlog时,由于内存池损坏,组件无法正常写crashlog,甚至引起二次crash;上层也无法收到crash通知,因此误判为foom。目前改成不依赖crash回调,只要本地存在上一次crashlog(不管是否完整),就认为是crash引起的app重启。

前台卡死引起系统watchdog强杀

也就是常见的0x8badf00d,通常原因是前台线程过多,死锁,或cpu使用率持续过高等,这类强杀无法被app捕获。为此我们结合了已有卡顿系统,当前台运行最后一刻有捕获到卡顿,我们认为这次启动是被watchdog强杀。同时我们从foom划分出新的重启原因叫“app前台卡死导致重启”,列入重点关注。

三、成果

微信自2017年三月上线内存监控以来,解决了30多处大大小小内存问题,涉及到聊天、搜索、朋友圈等多个业务,foom率由17年年初3%,降到目前0.67%,而前台卡死率由0.6%下降到0.3%,效果特别明显。


四、常见问题

uigraphicsendimagecontext

uigraphicsbeginimagecontext和uigraphicsendimagecontext必须成双出现,不然会造成context泄漏。另外xcode的analyze也能扫出这类问题。

uiwebview

无论是打开网页,还是执行一段简单的js代码,uiwebview都会占用app大量内存。而wkwebview不仅有出色的渲染性能,而且它有自己独立进程,一些网页相关的内存消耗移到自身进程里,最适合取替uiwebview。

autoreleasepool

通常autoreleased对象是在runloop结束时才释放。如果在循环里产生大量autoreleased对象,内存峰值会猛涨,甚至出现oom。适当的添加autoreleasepool能及时释放内存,降低峰值。

互相引用

比较容易出现互相引用的地方是block里使用了self,而self又持有这个block,只能通过代码规范来避免。另外nstimer的target、caanimation的delegate,是对obj强引用。目前微信通过自己实现的mmnoretaintimer和mmdelegatecenter来规避这类问题。

大图片处理

举个例子,以往图片缩放接口是这样写的:

但处理大分辨率图片时,往往容易出现oom,原因是-[uiimage drawinrect:]在绘制时,先解码图片,再生成原始分辨率大小的bitmap,这是很耗内存的。解决方法是使用更低层的imageio接口,避免中间bitmap产生:

大视图

大视图是指view的size过大,自身包含要渲染的内容。超长文本是微信里常见的炸群消息,通常几千甚至几万行。如果把它绘制到同一个view里,那将会消耗大量内存,同时造成严重卡顿。最好做法是把文本划分成多个view绘制,利用tableview的复用机制,减少不必要的渲染和内存占用。
  • 大小: 71.8 kb
  • 大小: 211.6 kb
  • 大小: 28.8 kb
  • 大小: 17.8 kb
  • 大小: 70.2 kb
  • 大小: 328.1 kb
  • 大小: 61.3 kb
  • 大小: 60.4 kb
  • 大小: 52.6 kb
  • 大小: 228.1 kb
  • 大小: 182 kb
  • 大小: 143.2 kb
  • 大小: 144.1 kb
  • 大小: 401.2 kb
  • 大小: 167.1 kb
  • 大小: 109.1 kb
  • 大小: 51.9 kb
  • 大小: 127.8 kb
来自:
0
0
评论 共 0 条 请登录后发表评论

发表评论

您还没有登录,请您登录后再发表评论

相关推荐

  • 大教堂与市集(中英)--eric steven raymond。讲的是有关linux的发展和前景。

  • 当你真的在影响历史时,那种感觉真的很不一样…1998 年 1 月 22 日,大约是我第一次发布这篇文章之后七个月,网景公司公开声明他们计划要发布通讯家族(netscape communicator)的原始代码,之前我对这件事情的发生一点头绪也没有。网景的执行副总裁兼首席技术官 eric hahn 寄给我一封电子邮件,内容简要如下︰「我代表网景公司的每一个人,向你致谢,因为你帮我们成为第一家做到开源的公司,你的思想和著作是我们做出这个决定的原因。

  • 原文地址:http://article.yeeyan.org/view/angelo/2005 《大教堂与市集》(thecathedral and the bazaar)全文中译版 埃里克·斯蒂芬·雷蒙(eric steven raymond)【著】 刘安辙(angelo liu)【译】     译者按:本书还有一章“注释”,我为了方便阅读已经拆分加入了对应章节。此外,解


  • 转自:http://www.linuxeden.com/html/news/20090227/64298.html
     
           牛年一定要找几个牛人说说牛人牛事,今天就说说eric steven raymond(埃里克·斯蒂芬·雷蒙)。 

            埃里克·斯蒂芬·雷蒙(eric steven raymond)是《大教堂与市集》的作者、《新黑客词典》的维护人、著名黑客。作为《新黑客词典》的主要编撰人以及维护者,eric raymond很早就被

  • 大教堂与市集 说明: 本文的作者eric raymond是open source software领域的领袖,这方面许多 新的思想正是从他那儿产生的,同时他也是unix上最流行的email软件fetchmail 的作者。 下面这篇文章有点儿长,然而它是值得你去耐心把它读完的。文章以fetchmail 为例,讨论了internet上集市风格的开发方式。 我们应该感谢hansb,是他把这篇长文章翻译

  • 大教堂和市集  原著:eric raymond 翻译:hansb 一. 大教堂和市集  linux的影响是非常巨大的。甚至在5年以前,有谁能够想象一个世界级的操作系统能够仅仅用细细的internet连接起来的散布在全球的几千个开发人员有以业余时间来创造呢?  我当然不会这么想。在1993年早期我开始注意linux时,我已经参与unix和自由软件开发达十年之久了。我是八十年代中期gn

  • 描述linux开源世界的开发方式,和集中式开发方式的对比

  • from wikisource 中文> gnu 大教堂和市集 -- eric raymond, hansb翻译 目录一. 大教堂和市集 二. 邮件必须得通过 2.1 1.每个好的软件工作都开始于搔到了开发者本人的痒处。 2.2 2.好程序员知道该写什么,伟大的程序员知道该重写(和重用)什么。 2.3 3.“计划好抛弃,无论如何,你会的”(fred brooks,《神秘的人月》第11章) 2.4 4

  • 早在去年11月份的时候,公司的技术负责人就推荐了我基本不错的书《大教堂与集市》、《黑客与画家》、《rework》等。断断续续中了解到前两本书基本上在程序猿届属于《圣经》一般的存在。身为做了两年android开发的伪程序猿竟然到现在才知道这两本身,真的是惭愧的不得了。另外值得羞愧的是,我竟然没用过markdown编辑器。 写点正事,谈谈这本书本身,输的内容其实不多,也不复杂。差不多万字有余的量。前

  • 《大教堂与集市》本书讨论两种不同的自由软件开发模式: 大教堂模式(the cathedral model)︰原始码在本模式是公开的,但在软件的每个版本开发过程是由一个专属的团队所控管的。作者以gnu emacs及gcc这两软件为例。 市集模式(the bazaar model)︰原始码在本模式也是公开的,不过却是放在因特网上供人检视及开发。作者以linux核心的创始者林纳斯·托瓦兹带领linux核...

  • linux是颠覆性的。就是五年以前(1991),谁能想得到散布在全球各地的几千名开发者,仅靠细细的互联网连接,能够在业余时间魔术般地铸成一个世界级的操作系统呢? 反正我没想到。在1993年初linux引起我的注意的时候,我已经在unix和开放源代码开发领域做了十年了。我是80年代中期最早的gnu开发者之一,已经在网上发布了相当一部分软件,正在开发或协助开发好几个直到今天都在广泛使用的软件(ne

  • 内容和作者简介《大教堂与市集》(the cathedral and the bazaar)是埃里克·斯蒂芬·雷蒙(eric steven raymond)所撰写的软件工程方法论。《大教堂与集市》是开源运动的《圣经》,颠覆了传统的软件开发思路,影响了整个软件开发领域。作者eric s. raymond是开源运动的旗手、***文化第一理论家,他讲述了开源运动中惊心动魄的故事,提出了大量充满智慧的观念和...

  •                                          开源领袖:eric raymond      埃里克·斯蒂芬·雷蒙(eric steven raymond)是《大教堂与市集》的作者、《新黑客词典》的维护人、著名黑客。作为《新黑客词典》的主要编撰人以及维护者,eric raymond很早就被认为是黑客文化的历史学家以及人类学家。但是在1997年以后,eric ray

  • 【译者注】eric raymond是开源运动的领袖人物,对于unix开发有很深的造诣,主持开发了fetchmail。他的《大教堂与集市》被奉为开源运动的经典之作。下面对几大开发语言的评价非常中肯,是我近年来看到的比较出色的评论。特别是他评价中抱有的那种“简单就是好”的思想,很值得我们深思。我特别选译出一些段落,供大家阅读思考。原文参见:http://www.catb.org/~esr/writin

  • “你常常在第一次实现一个欧洲杯足彩官网的解决方案之后才能理解问题所在,第二次你也许才足够清楚怎样做好它,因此如果你想做好,准备好推翻重来至少一次。”我有一句相似的话:第一次购买总会失败,所以不要指望第一次购买一种东西时买得让自己满意。 “如果你有正确的态度,有趣的问题会找上你的”我有一个发生在自己身上的联想:当我状态好时(当我有正确的态度),我会对所有事情感兴趣;相反,当我状态不好时,我对所有事情的兴趣消

  • saas(software as a service)全称为软件即服务,是 21世纪开始兴起的一种完全创新的软件应用模式。对于供应商而言,其将应用软件统一部署在自己的服务器上,客户可以根据自己实际需求,通过互联网向自己定购所需的应用软件服务,在一定程度上,saas 可以降低供应商所消耗的成本;而对于客户而言,这种将业务关键交托于供应商手中,安全性该如何保证? 日前,著名程序员、黑客、《uni...

  • "玩"是创造性活动中最具经济效能的工作模式。

  • 一.简述 这本书在业界的评价极高,被誉为开源运动的圣经,此书的作者为eric raymond,是美国的一位软件开发人员。此人在1996年接管了开源电子邮件软件“popclient”的开发,并将其重命名为fetchmail,之后不久,他于1997年发表了一篇名为《大教堂与集市》的文章,此文描述了他对开源软件开发的看法,以及为什么使用“集市”的开发模式。同年五月,他在年度linux kongress...

global site tag (gtag.js) - google analytics
网站地图