网站在刚开始的时候大概只是一个想法:一个产业的模型,快速地将它产生出来。“快”是第一位的,不需要花太多精力在架构设计上。
网站进入扩张期才需要对架构投入更多的精力来承载网站在爆发时的流量。饿了么成立已经 8 年,现在日订单量突破 900 万。我们也有了较为完善的网站架构。
网站基础架构
初期,我们使用了能够更容易拓展 SOA 的框架。我们用 SOA 的框架,解决两件事情:
1. 分工协作
网站初期,程序员可能就 1~5 个,那时候大家忙同一个事情上就可以了。彼此之间的工作都互相了解,往往是通过“吼”的方式就把问题解决了。
但是随着人员的增加,这种方式显然是不行的,不可能一个人更新了代码再把其他人的所有代码重新上线一遍吧?于是就要考虑分工协作的问题。
2. 快速扩展
以前订单量可能从 1k 到 1w,虽然增长了 10 倍,但是总量并不是很高,对于一个网站的压力来说,也不是那么大。真的订单量从 10w 到 100w,从 100w 到 200w 的时候,可能也只是扩大了 10 倍,但是对整个网站的架构上来说是一个巨大的挑战。
我们的背景就是 2014 年的 100 万突破现在 900 万,技术团队由刚开始的30多个人,到现在已经是超过 900 人的团队。这时候分工协作就是个巨大的挑战。服务的分分合合,团队的分分合合,这都需要一套框架体系来支撑,这也是 SOA 框架的一个作用。
看一下我们的现状,中间是我们整个架构的体系,右侧是和服务化相关的一些基础,包括基础的组件或者服务。
先说语言,我们原来的网站是在 PHP 上的,然后慢慢转型。
创始人都是大学生创业,那么理所当然 Python 是一个很好的首选。到现在 Python 也是很好的选择,但是我们为什么要扩展到 Java 和 Go 呢?
Python 很多人都会写,但是真正能把他做的很好的人并不多。随着业务的发展,需要更多的开发人员。考虑到Java 成熟的生态环境,以及新兴的 Go 生态,我们最终选择了 Python、Java、Go 多语言共存的一个生态。
WebAPI主要做一些 HTTPS 卸载、限流,还有安全校验等一些通用的和业务逻辑无关的操作。
Service Orchestrator是服务编排层,通过配置的方式实现内外网的协议转换、服务的聚合裁剪。
架构图右边是一些围绕这些服务化框架的辅助系统,比如说用于定期执行一个任务的 Job 系统。我们有将近快 1000 个服务,这些系统怎么监控?所以必须有一套监控系统。刚开始只有 30 多个人的时候,我们更擅长的是跑到机器上去搜一下 Log,那么 900 多人的时候,你不可能都到机器上去搜一遍 Log,就需要有个集中式的日志系统。其他的系统就不一一赘述了。
罗马不是一天建成的,基础架构是个演进的过程。我们精力有限,那先做什么呢?
服务拆分
当网站变大了,原来的架构跟不上发展的节奏了。我们要做的第一件事情就是:
把大 Repo 拆成一个小 Repo,把大服务拆成小服务,把我们的集中基础服务,拆分到不同的物理机器上去。
光是服务拆分用了一年多的时间才做完,这是一个比较漫长的过程。
这个过程中,首先要对 API 做一个很好的定义。因为一旦你的 API 上线之后,再做一些修改的成本是相当大的。会有很多人依赖于你的 API,很多时候你也并不知道有谁依赖于你的 API,这是一个很大的问题。
然后再把一些基础服务抽象出来。很多原来的服务其实是耦合在原来的业务代码里面的。比如说支付业务,业务很单一的时候,紧耦合的代码没有关系,但是扩展出越来越多业务都需要支付服务的时候,你每一个业务(比如说支付的功能)都要去做一个吗?所以我们要把这些基础服务抽离出来。比如说支付服务、短信服务、推送服务等。
拆服务看似很简单、没什么价值,但这恰恰是我们刚开始就要做的事情。其实在这个时期,前面所有的那些架构都可以往后拖,因为不做架构调整其实不会死人,但是拆服务你不做的话,真的会死人的。
服务拆分必定是一个漫长的过程,这实际上是一个很痛苦的过程,也是需要很多配套系统的系统工程。
发布系统
发布是最大的不稳定因素。很多公司对发布的时间窗口有严格的限定,比如说
每周只有两天可以发布;
周末是绝对不可以发布的;
业务的高峰期绝对不允许发布;
等等...
我们发现,发布的最大问题在于发布上去之后没有简单可执行的回退操作。回退操作到底是谁来执行,是发布人员就可以执行,还是需要专人来执行?如果是发布人员的话,发布人员并非 24 小时在线工作,出了问题找不到人怎么办?如果是有专人来执行回退,而又没有简单、统一的回退操作,那这个人需要熟悉发布人员的代码,这基本上不可行。
所以我们就需要有发布系统,发布系统定义了统一的回退操作,所有服务必须遵循发布系统的定义回退操作。
在饿了么对接发布系统是对所有人的强制要求,所有的系统必须全部接入发布系统。发布系统的框架很重要,这个东西其实对于公司是很重要的一件事情,需要放到第一优先级的队列里面去考虑的。
服务框架
紧接着就是饿了么的服务框架,把一个大的 Repo 拆分成一个小的 Repo,把一个大的服务拆成一个小的服务,让我们的服务尽量独立出去,这需要一套分布式服务框架来支撑。
分布式服务框架包含的服务注册、发现、负载均衡、路由、流控、熔断、降级等功能,这里就不一一展开了。前面已经提及,饿了么是多语言的生态,有 Python 的,也有 Java 的,我们的服务化框架对应也是多语言的。这对我们后来一些中间件的选型是有影响的,比如说 DAL 层。
DAL 数据访问层
当业务量越来越大的时候,数据库会变成一个瓶颈。
前期可以通过提升硬件的方式来提升数据库的性能。比如:
升级到一个有更多 CPU 的机器
把硬盘改成 SSD 的或者更高级一点的
但硬件提升终归是有一个容量的限制的。而且很多做业务的小伙伴,写代码的时候都直接操作数据库,发生过很多次服务一上线数据库就被打爆的情形。数据库被打爆掉了之后,除非等待数据库恢复,没有任何其他机会可以恢复业务。
如果数据库里面数据是正常的,业务其实都可以补偿出来的。所以我们做 DAL 服务层的时候,第一件事情是限流,其他的东西还可以放一放。然后做连接复用,我们 Python 框架用的多进程单线程加协程的模型。
多进程之间其实是不可以共享一个连接的。比如:一台机器上部署了 10 个 Python 进程,每个进程 10 个数据库连接。再扩展到 10 台机器上,就有 1000 个数据库连接。对数据库来说,连接是一个很昂贵的东西,我们 DAL 层要做一个连接复用。
这个连接复用讲的不是服务本身的连接复用,而是说 DAL 层上的连接复用,就是服务有 1000 个连接到 DAL 层,经过连接复用后对数据库可能只是保持着十几个连接。一旦发现某个数据库请求是一个事务的话,那么 DAL 就帮你保留这个连接的对应关系。当这个事务结束之后,就把数据库的连接,放回到共用池里面去,供其他人使用。
然后做冒烟和熔断。数据库也可以熔断的。当数据库发生冒烟时,我们会杀掉一些数据库的请求,保证数据库不至于崩溃。
服务治理
服务框架之后,涉及服务治理的问题。服务治理其实是一个很大的概念。首先是埋点,你要埋很多很多的监控点。
比如有一个请求,请求成功了或者失败了,请求的响应时间是多少,把所有的监控指标放到监控系统上面去。我们有一个很大的监控屏幕,上面有很多的监控指标。我们有专门小组72小时去盯着这个屏幕,如果有任何曲线波动了,就找人去解决。另外是报警系统,一个监控屏幕展示的东西总是有限的,只能放那些很重要的关键指标。这个时候就需要有报警系统。
罗马不是一天建成的,基础架构更是一个演进的过程。
我们的资源和时间总是有限的,作为架构师和 CTO 来说,如何在这种有限的资源下,产出更重要的东西?
我们做了很多系统,觉得自己做的很棒了,但其实不是,我感觉我们又回到了石器时代,因为问题越来越多,需求也越来越多,总感觉你的系统里还缺点什么东西,想做的功能也一大堆。
比如对于流控系统,现在我们还是需要用户去配一个并发数,那么这个并发数,是不是根本不需要用户去配?是不是可以基于我们服务本身的一个状态自动去控制并发数?
然后是升级方式,SDK 升级是个很痛苦的事情。比如说我们服务框架 2.0 发布的时候是去年 12 月份,到现在还有人用的是 1.0。是不是可以做到 SDK 的无损感升级,我们自己来控制升级的时间和节奏。
还有我们现在的监控只支持同一个服务上的汇聚,是不分集群、不分机器的,那么是不是以后的指标可以分集群的,分机器的?举一个最简单的例子,比如一个服务上有 10 台机器,那么可能只是某一个机器上出了问题。但是它所有的指标都会平均分摊到其他的 9 台机器上去。你只是看到了整个服务延时增加了,但有可能只是某一台机器拖慢了整个服务集群。但是我们现在还做不到更多维度的监控。
还有智能化的报警,这个报警,就是快、全、准,我们现在做到更快了,做到更全了,怎么才能做到更准?每天的报警量高峰时间一分钟一千多个报警发出去。所有的一千报警都是有用的吗?报警多了之后,就相当于没有报警。大家都疲劳了,就不去看了。我怎么能够把这个报警更准确地区分出来?还有更智能化的链路分析?以后是不是我们的监控不要放监控指标,而是放链路分析,这样就能够很清晰的知道,这个问题对应的是哪一个结点上出了问题。
这些问题涉及我们做事的一个原则:东西够用就好,但是要能够未雨绸缪,做一定的超前规划。
IT技术群,期待你的加入
后台回复“入群”审核受邀
调节mcm链条包有三种方法,第一种,可以侧面打结,结处要留出环,挂个搭配的挂件掩盖即可;第二种,可以把链条在包包盖子里面绕一圈,链条长度也就短了;第三种,找专业人士调整,可以拿到修包的店里,让维修师傅把链条改短。mcm链条包是非常百搭的,姜黄色的连衣裙,搭配上mcm新款的Funky Giraffe系列的玫红色纹理花纹单肩包,尽显娇俏小女人味。包包上面是长颈鹿花纹,色彩也非常分明,整体的风格非常活泼。
3.8kg。MCM是一个奢侈时装品牌,1976年创始于德国的慕尼黑。MCM最早以制作皮具起家,在上世纪80年代该品牌的全盛时期,MCM生产包括珠宝、手表、香水、服装等。mcm单肩斜挎的包以MCM经典logo印花相机包女士单肩包斜挎包举例,尺寸是20×6.3×13厘米,重量有3.8千克。单肩包,顾名思义是指单边肩膀受力的包,又分单肩挎包和斜挎包。
1、准备一条丝巾和一个手提包,将丝巾的一端穿过手提包的把手,并打一个结,将丝巾绑在把手上面。2、将丝巾的另一端绕着手提包的把手,一圈一圈地将整个把手缠绕包裹起来。2、包头结:适用旅游度假和节日Party,将丝巾对折成大三角,裹住头部及前额的一部分。两角在颈后交叉打结,再次交叉后系好,整理造型,让秀发同丝带一起自然下垂。
一,检查MCM包的标志及铜牌是否正确。通过以上6点可以第一时间将低仿的MCM双肩包等剔除。3,MCM包正面的拼接部位,桂树叶和钻石标志都是完美吻合的,不会有错位。MCM原是具有浓厚德国文化气息的皮具品牌,于1976年创立于德国慕尼黑。经典系列Cognac Visetos蕴含MCM品牌的信念和工艺坚持。2005年,韩国女商人金圣珠 收购了MCM并将产地移至韩国。伴随着韩剧的热播,MCM在中国也逐渐成了热门,仿货自然应运而生。大叔整理了几点真假识别方法供大家参考。
美罗商城是其旗舰物业,另有金函商务会馆、进出口分公司、古玩公司、拍卖公司、典当行、江苏保险代理公司等十余家多元化经营的控股子公司。位于观前街245号的美罗商城已成为苏州引领时尚潮流的一个缩影。美罗商城,一个全新而又熟悉的名词,她宛如一座美丽的白衣女神塑像,静静地端坐于观西闹市。昔日享誉于苏城的工业品商场购物中心,如今已演变成注重品位、讲求格调的中高档的美罗商城,商城的发展轨迹始终与时俱进、合乎时代旋律,与千年古城苏州同步飞跃。
MCM的铆钉双肩包大家应该都不陌生吧?在“北上广”这些一线大城市,在大街上随处可见它的身影,就连很多明星们也都很热衷于这个牌子的双肩包,其实个人真实感觉就是MCM的双肩包并没有那么好看,只是一款满身大LOGO的双肩包而已,之所以它那么火,个人总结了这几点。这款邮差包是单肩包的系列,肩带是皮革质感的,可以调节,月桂叶包锁,看起来很有质感,里面有多个主隔层,装起物品很方便,有白色,黑色,干邑色三种颜色可以选择,比较复古的感觉,并且复古的前提下还不失可爱,所以适合各种性格的妹子,很好驾驭的一款包包,很百搭,不挑
梵克雅宝手链长度怎么调整 戒指翻新是怎么处理有哪些常见问题和解决方案 古驰pvc包包维修多少钱 古驰包包保养收费吗多少钱一个 迪奥包包划痕维修价格表 编主推荐 克徕帝钻戒翻新要收费吗多少钱 克徕帝戒指改大要加钱吗 定制钻戒注意事项有哪些 宝格丽蛇头手镯维修多少钱 Lv达芙妮五金扣磨损修复...
MCM新款Toni包近日背这个白色包包的频率比较高黑白的经典不用多说两者搭配中和起来也会有不一样的感觉不同程度的白色也形成不同的穿搭层次作为MCM在Toni经典款基础上升级的新款增加了牛皮革边 线条和外观也是很利落在干邑色、白色、黑色、粉色之间纠结选了白 清新明亮肩带和提手设计提供了不同的穿搭选择 就比较百搭是不容易出错的包包搭配选择容量也比较大 日常逛街通勤利用率比较高感觉纠结包包款式的姐妹可以试一试这个 不易踩雷☑️
TB一直是轻奢中的战斗机,kiea系列是早春新款,颜色多样,chelsea系类的风琴包也是经典《绯闻少女》中对toryburch 包包的演绎 但包包不一样,经典款的轻奢包包不仅仅是身份的象征,还超级百搭不过时,不需要太多的保养也能用上n年。mk可能是国内最早流行起来的轻奢包包品牌之一了。coach属于家喻户晓级别的选手了,公认的轻奢鼻祖,在一众年轻品牌里,有着得天独厚的历史沉淀感...
又回到得物的东西是不是正品这个问题上面了,分享一下我在得物买东西的经历叭 哈喽大家好,我是dawuhao,珍惜dawuhao的时光 所以大家买东西一定要擦亮眼睛,了解清楚平台的规则,不要像我一样只能吃哑巴亏...
首先看下书包的背带 会印有2个MCM 而且买包的时候会赠有一个黑色的小信封 里面是写MCM的简介。再者摸铆钉的质量是不是很光滑很有质地 而且买MCM会有一个专门的MCM白色布袋。 我目测你同学送你的是假的 除非是富二代送你 这样的包要卖2000-3000不等。哪个同学会送正品啊。MCM太非主流了,纪梵希皮的书包还不错,小鹿和狗头印花的书包有点浮夸,我觉得Alexander Wang的背包特别好看虽然在国外价格也只有七八千,还有就是saint laurent的皮包或者Valentino的包很帅,再贵一点就是
四个型号,分别是mini 、小号、 中号、 大号。3, MCM包的铜牌序号为一个字母+4位数字,每个包的序号都是唯一的,如果某店里的包序号有一样的则为假。MCM虽然是源于德国的慕尼黑,但是在2005年的时候被韩国的公司收购了,MCM的包包一般会分为韩版和德版。MCM 原是具有浓厚德国文化气息的皮具品牌,于1976年创立于德国慕尼黑。经典系列Cognac Visetos蕴含MCM品牌的信念和工艺坚持。2005年,韩国女商人金圣珠 收购了MCM并将产地移至韩国。
mcm兔子抽绳水桶包 今天,奢易买就给大家分享MCM兔子水桶包一眼辨别真假超简单的小方法。MCM兔子水桶包,个性十足,一经推出便风靡一时 正品兔头脸颊有弧度,鼻子眼睛居中,自然协调,整体呆萌,惹人喜爱。正品走线细密,线条颜色与包包皮子颜色一致,整体协调。仿品兔头脸颊浑圆,鼻子眼睛偏上,整体不协调。仿品走线松散,线条颜色浅,偏白,与包包颜色不协调。
mcm小号双肩包,虽然没有铆钉,但是还是重阿我有一个铆钉的,超级重,但是这个是没有铆钉!皮质也是超级重!!小号尺寸:2632.512小号里面容量比较大,a4大小书本都可以放但是这个书包真的是满大街都是假货可能因为热门,所以山寨的就特别多换现在我是肯定不会再买了...