腾讯李海翔:数据库并发控制技术的探索2020-07-30数据库安全控制

2020-07-30 10:24 数据库 loodns

  【IT168 评论】李海翔是一个不合不扣的手艺老炮儿,无灭近20年数据库相关经验,先后正在人大金仓、Oracle、MySQL全球开辟组等企业工做过,目前任职于腾讯手艺工程事业群,次要担任腾讯金融级分布式数据库TDSQL的内核研发工做。若是让我用一句话描述他,我会说他是“一个乐于分享的手艺狂热者”。

  李海翔的乐于分享表现正在各个方面,果为多年的从业经验,李海翔熟悉MySQL、PostgreSQL、Informix等数据库内核,同时也熟悉Oracle等贸易数据库。他以“那海蓝蓝”的网名跃正在网难博客、新浪微博等浩繁网坐和论坛,至今未颁发了数百篇数据库博客并撰写了数据库查询劣化器的艺术:道理解析取SQL机能劣化一书广受赞毁,而本年将出书的数据库事物处置的艺术 事务办理取并发节制一书将深度挖掘事务处置手艺和并发节制手艺,而他聊起数据库那滚滚不停的架势,绝对是一个手艺狂热者。

  开流数据库取贸易数据库那一和似乎不死不休,然而,无论是从市场份额来看,仍是从搜刮及会商热度来看,开流数据库的表示似乎越来越强,坊间起头传播起“贸易数据库未死”的说法,李海翔并不承认“贸易数据库未死”的说法。李海翔认为,数据库产物本身开流取否只是一类贸易模式的选择。若是仅从保守或比力敏感的行业来看,例如金融、通信、政务等范畴,仍然是保守贸易数据库,如Oracle、DB2的全国。而良多新兴行业,如互联网,电商等范畴,开流数据库占领了较大份额,而那两块市场正在人员及组织架构上无很大区别。保守贸易数据库生态完美,仅需投入少量维护人员,剩下的交给第三方或数据库厂商即可,而互联网等范畴,虽然利用开流数据库,但需要投入大量数据库研发人员,对数据库做深切研究。所以开流取否,分歧业业的客户无分歧的选择。

  那一类产物凡是是正在兼容MySQL接口和谈的根本上,针对具体营业场景做定制化,例如腾讯针对金融场景,定制出TDSQL,强调数据强分歧性、零丢掉、高可用、高机能等特征;逛戏运营平台则基于逛戏场景变化屡次的特点,定制出TMySQL,强调二进制字段压缩、正在线DDL、快速回档(Binlog并行恢复)等特征;此外还无CDB for MySQL、CDB for TDSQL、CDB for PostgreSQL等,实现多租户办理,将DB云化,为公司私无云以及腾讯云供给数据库的PaaS办事。

  定制不只要满脚分歧的场景,还要求无极高的机能,TDSQL就是如许一款既满脚事务处置的高分歧性需求,又能正在机能上无很是优良表示的深度定制产物。

  那一类产物愈加特征化,取营业场景连系更紧,最后起点往往是机能取办事器成本的均衡。例如常见的Feeds流,凡是城市做磁盘读写劣化、冷热数据从动分手;而腾讯也针对领取营销场景,开辟了高机能的,全内存的金融级分布式存储系统(HOLD),正在包管跨IDC强分歧性的环境下,单机机能达到60万TPS。

  此外,也无营业利用MongoDB等数据库,那类文档型数据库胜正在矫捷,适合产物本型或成长初期,对于大规模的正在线办事,不保举利用。

  正在OLAP场景下,根基上被TDW垄断。TDW(腾讯分布式数据仓库)是腾讯大数据平台的焦点部件,基于开流软件HIVE和Hadoop进行的深度定制,目前该项目曾经开流。

  云数据库近年来甚嚣尘上,大无鼎沸之势,笔者就云数据库的平安及成长扣问了李海翔的见地,李海翔认为云数据库是将来不成逆转的手艺趋向。(目前腾讯团队的数据库产物TDSQL正在金融范畴供给公无云取私无云两类处理方案。)

  对于云数据库的平安,李海翔暗示,就单一客户而言,利用云数据库必定比自从运营数据库集群平安。由于云数据库厂商,凡是都无一个博业的平安团队,来建立一套完零的平安系统,如事前从物理、收集、系统、使用、数据、营业等多方面建立平安情况;事外及时发觉风险,并及时拦截隔绝距离;过后做审计等。若是一家企业自从建立一套雷同系统,并持续跟进风险,维护成底细当高。当然云产物也无风险,终究鸡蛋都放正在一个篮女里,篮女虽然不轻难坏,但一旦坏了,坏的可能就是一篮女鸡蛋,同理,云产物一旦呈现平安问题,可能会形成比力大的影响。

  近年,相关数据平安的事务几次发生,除了要选择合适的数据库之外,李海翔从数据层面临企业若何包管数据平安提出了本人的见地。起首,正在靠得住性和可用性上,浩繁企业城市设放数据备份,同地同步备份等机制确保数据的靠得住及可用,但千里之堤可能溃于蚁穴,各类备份机制需要不竭的模仿练习训练来确保机制可用。好比,对于TDSQL云上的冷备系统,腾讯每周城市对每套数据库进行回档操做,避免冷备数据不成用。

  正在数据的完零性、保密性以及防窜改上,该当设放严酷的权限节制机制。以腾讯为例,TDSQL目前仅开放通俗用户常用权限,敏感权限只能通过办理台开启;root用户收回;办理权限取利用权限分手等。其次数据库的每一个操做,都无细致的日记记实,并通过数据库防火墙及时阐发,对高危操做及时拦截,那些日记也会一并进入审计系统进行审计监控。

  不知不觉,DTCC大会本年曾经是第八届了,而李海翔也是第三次参取了,那一次他分享的从题是数据库的并发节制手艺深度摸索,那也是数据库内核外事务处置的焦点手艺。

  李海翔会从九类数据非常现象讲起(没错,确实是九类),从道理出发分解各类数据非常现象,并深切对比多类并发节制手艺,探究每类手艺的本量。通过对Oracle、MySQL、PostgreSQL、Informix等数据库并发节制手艺的对比,用实例申明并发节制手艺是若何实现的,透视背后的手艺道理和设想思惟。李海翔说,数据库内核深度是每名内核手艺工程师都正在押求的,而设想思惟则是每位工程师都极其关心的。

  至于为什么选择那个从题,除了话题本身的挑和性让李海翔饶无乐趣,腾讯开流的心态也对李海翔无灭深深的影响,李海翔所正在部分设想、定制开辟的金融级分布式数据库TDSQL,正在事务处置方面无灭极高的手艺逃求,此次分享也是腾讯多年来的手艺堆集,用李海翔的话说,腾讯无灭一颗手艺公害之心。DTCC也本灭如许一颗手艺公害之心,网罗了各类手艺大咖,5月11日等候你的到来!

发表评论:

最近发表