金沙js29992

【金沙js29992】云总计的前生今生(上)

四月 27th, 2019  |  金沙js29992

原标题:120分钟!我和深信服云计算CTO都聊了啥?

“中国云计算市场非常有前景,公有云是未来的大趋势;与此同时,2006到2015年私有云在中国蓬勃发展,全球最大的私有云市场就在中国。”谈到中国云市场,华云数据CTO郑军如是说。

作者简介:刘超,网易云计算解决方案首席架构师。10年云计算领域研发及架构经验,Open
DC/OS贡献者。长期专注于kubernetes,
OpenStack、Hadoop、Docker、Lucene、Mesos等开源软件的企业级应用及产品化。曾出版《Lucene应用开发揭秘》。

蓉城成都,国家历史文化名城,古蜀文明发祥地,这几年俨然成为IT行业重镇。9月8日,2018深信服创新论坛在成都顺利举办,云技术社区北极熊受邀参加了本次论坛,并对深信服云计算CTO曹心驰做了长达120分钟的访谈,曹心驰深度分享了对当前云计算行业的看法,揭秘了深信服企业级云产品的一些研发思路和打法。

中国云计算市场独具特色

以下为正文:

先来分享先早上参加创新论坛的一些精华分析,再分享下午和深信服云计算CTO曹心驰长达120分钟的访谈精华文字版的记录。

金沙js29992 1

云计算概述

云计算主要解决了四个方面的内容:计算,网络,存储,应用。

计算就是CPU和内存,例如“1+1”这个最简单的算法就是把“1”放在内存里面,然后CPU做加法,返回的结果“2”又保存在内存里面。网络就是你插根网线能上网。存储就是你下个电影有地方放。本次讨论就是围绕这四个部分来讲的。其中,计算、网络、存储三个是IaaS层面,应用是PaaS层面。

深信服企业级云–大道至简

私有云市场方面,中国市场独具特色,大中型国有企业对IT建设有非常强烈的主导欲望
,而且经费方面也是自己主导,这一点跟其他国家完全不同。为什么说十年当中能够预见中国私有云的蓬勃崛起呢?因为有80%企业还没有上云。

云计算发展脉络

云计算整个发展过程,用一句话来形容,就是“分久必合,合久必分”。

深信服企业级云用四个字总结就是大道至简,一切从用户需求出发,将复杂留给自己,将极简、稳定、高性能、低TCO、安全送给用户。

中国私有云市场正在发生着巨变,对于云服务提供商而言,也面临着重大的机遇。

第一阶段:合,即物理设备

金沙js29992 2

金沙js29992 3

物理设备简介

在互联网发展初期,大家都爱用物理设备:

服务器用物理机,像戴尔、惠普、IBM、联想等物理服务器,随着硬件设备的进步,物理服务器越来越强大了,64核128G内存都算是普通配置;

网络用的是硬件交换机和路由器,例如思科的,华为的,从1GE到10GE,现在有40GE和100GE,带宽越来越牛;

存储方面有的用普通的磁盘,也有更快的SSD盘。容量从M,到G,连笔记本电脑都能配置到T,更何况磁盘阵列;


交付极简,特点是省时,基于场景模板化交付,用户只需要开箱并选择模板就可以。

华云数据CTO 郑军

物理设备的缺点

部署应用直接使用物理机,看起来很爽,有种土豪的感觉,却有大大的缺点:

人工运维。如果你在一台服务器上安装软件,把系统安装坏了,怎么办?只有重装。当你想配置一下交换机的参数,需要串口连上去进行配置;当你想增加一块磁盘,要买一块插进服务器,这些都需要人工来,而且很大可能要求机房。你们公司在北五环,机房在南六环,这酸爽。

浪费资源。其实你只想部署一个小小的网站,却要用128G的内存。混着部署吧,就有隔离性的问题。

隔离性差。你把好多的应用部署在同一台物理机上,他们之间抢内存、抢cpu,一个写满了硬盘,另一个就没法用了,一个弄挂了内核,另一个也跟著挂了,如果部署两个相同的应用,端口还会冲突,动不动就会出错。


上云极简,特点是省事,可以完成一键迁移,一键CDP,一键容灾,融合安全。

经过了这几年的发展,华云数据作为云服务提供商聚焦在四大领域,包括公有云、私有云、混合云和IDC转云。大数据挖掘,郑军认为应该属于云的一部分。在公有云方面,华云更加强调“高品质”。

第二阶段:分,即虚拟化


运维极简,特点是省人,基于业务实际的智能运营中心,对整体的运行状态一目了然。

据郑军介绍,今年年初,中国最大的游戏提供商之一测试了包括华云数据在内的五家主流云计算服务商的云主机,结果是华云云主机的性能最佳。这都得益于华云对KVM内核的深入研发,目前没有一家公司像华云这样舍得大手笔投入那么多核心内核工程师去做相关研发。

虚拟化简介

因为物理设备的以上缺点,就有了第一次“合久必分”的过程,叫做虚拟化。所谓虚拟化,就是把实的变成虚的:

物理机变为虚拟机。cpu是虚拟的,内存是虚拟的,内核是虚拟的,硬盘是虚拟的;

物理交换机变为虚拟交换机。网卡是虚拟的,交换机是虚拟的,带宽也是虚拟的;

物理存储变成虚拟存储。多块硬盘虚拟成一大块;


扩容极简,特点是省钱,基于超融合实现按需采购,性能和容量扩展简化到2步,数据智能平衡,用户无感知。

大幅提升虚拟化性能

虚拟化解决的问题

虚拟化很好地解决了在物理设备阶段存在的三个问题:

人工运维。虚拟机的创建和删除都可以远程操作,虚拟机被玩坏了,删了再建一个分钟级别的。虚拟网络的配置也可以远程操作,创建网卡、分配带宽都是调用接口就能搞定的;

资源浪费。虚拟化了以后,资源可以分配地很小很小,比如1个cpu,1G内存,1M带宽,1G硬盘,都可以被虚拟出来;

隔离性差。每个虚拟机都有独立的cpu、
内存、硬盘、网卡,不同虚拟机之间的应用互不干扰;

天下武功,唯快不破,深信服企业级云产品快速迭代,追求的就是极致,基于超融合架构,死死抓住用户痛点,持续舍得在研发上大量投入,致力于打造极简、稳定、高性能的云计算解决方案。

郑军同时介绍了华云数据在SDN/NFV和高性能计算方面的产品和解决方案创新。在Neutron架构下,华云数据在业界第一个实现了基于高性能VPP的虚拟路由器产品vRouter,并进行了详细的性能评价与Benchmark对比分析。相对于目前其它同类产品,华云数据的vRouter性能提升了8倍左右,可以轻松应对实时性要求较高的大型复杂云计算环境,为实现更复杂SDN/NFV方案奠定了坚实基础。

虚拟化时代的生态

在虚拟化阶段,领跑者是Vmware,可以实现基本的计算、网络、存储的虚拟化。如同这个世界有闭源就有开源、有windows就有linux、有Apple就有Android一样,有Vmware,就有Xen和KVM。

在开源虚拟化方面,Xen
的Citrix做的不错,后来Redhat在KVM发力不少;对于网络虚拟化,有Openvswitch,可以通过命令创建网桥、网卡、设置VLAN、设置带宽;对于存储虚拟化,本地盘有LVM,可以将多个硬盘变成一大块盘,然后在里面切出一小块给用户。

金沙js29992 4

OpenStack需要深度探索才能运用自如

虚拟化的缺点

但是虚拟化也有缺点。通过虚拟化软件创建虚拟机,需要人工指定放在哪台机器上、硬盘放在哪个存储设备上,网络的VLAN
ID、带宽的具体配置等,都需要人工指定。所以仅使用虚拟化的运维工程师往往有一个Excel表格,记录有多少台物理机,每台机器部署了哪些虚拟机。受此限制,一般虚拟化的集群数目都不是特别大。

在AI发展趋势的今天,深信服也正在预研基于AI技术的无运维超融合企业级云,必将又一次为用户带来巨大的收益。

OpenStack是当前炙手可热的开源技术,受到了诸多云计算企业力挺。郑军也表示非常看好这个技术,它能够给很多“草根”公司翻身的机会。云产品提供商须在Openstack框架之上做深入的创新实践和工程优化,才能为用户提供成熟、可靠、低使用成本的云计算产品技术。因为对于广大企业用户而言,将类似OpenStack这样的开源系统软件用于企业级应用场景是需要复杂的工程化开发过程,特别在企业级私有云方面,客户如果直接应用OpenStack开源版本会碰到很多挑战。总的来看,OpenStack还很长的路要走,它现在太过庞大、复杂了,企业要有清晰的技术战略去策划,否则很难从中实现盈利。华云数据已投入大量研发力量做深层次的技术创新和技术变革,并将其融合到OpenStack中。

第三阶段:合,即云计算

金沙js29992 5

与集成商合作推动行业发展

云计算解决的问题

为了解决虚拟化阶段遗留的问题,于是有了分久必合的过程。这个过程我们可以形象地称为池化。虚拟化将资源分得很细,但是如此细分的资源靠Excel去管理,成本太高。池化就是将资源打成一个大的池,当需要资源的时候,帮助用户自动地选择,而非用户指定。这个阶段的关键点:调度器Scheduler。

深信服如何看待当前的云计算发展,产品研发方面如何取舍,云技术社区北极熊对深信服云计算CTO曹心驰进行了长达120分钟的访谈,以下为访谈精华文字版的整理。

谈到未来愿景,郑军表示华云数据要成为像硅谷那些技术驱动型的公司。现在,一些优秀的高管人员加入华云,正在积极拓展渠道,吸引集成商成为产品分销商。华云提供武器,集成商去打项目。华云的重要精力还是放在产品创新和研发上面,当然也有自己精干的销售团队。

私有云、公有云的两极分化

这样,Vmware有了自己的Vcloud;也有了基于Xen和KVM的私有云平台CloudStack(后来Citrix将其收购后开源)。

当这些私有云平台在用户的数据中心里卖得奇贵无比、赚得盆满钵盈的时候,有其他的公司开始了另外的选择。这就是AWS和Google,他们开始了公有云领域的探索。

AWS最初就是基于Xen技术进行虚拟化的,并且最终形成了公有云平台。也许AWS最初只是不想让自己的电商领域的利润全部交给私有云厂商吧,所以自己的云平台首先支撑起了自己的业务。在这个过程中,AWS严肃地使用了自己的云计算平台,使得公有云平台并不是对资源的配置更加友好,而是对应用的部署更加友好,最终大放异彩。

金沙js29992 6

行业市场上,无论是电力系统、军工系统、通信系统,都有自己的核心IT供应商,如中电、信通,是国网最大的供应商,华云要与他们进行深度合作,基于产品提供一揽子的解决方案。例如针对税务应用,华云专门打造了一套私有云平台……目前,华云数据正在推混合云的合作伙伴计划。通过合作伙伴把产品推广出去,共同协助用户解决IT问题。

私有云厂商与公有云厂商的联系与区别

如果仔细观察就会发现,私有云和公有云虽然使用的是类似的技术,但在产品设计上却是完全不同的两种生物。

私有云厂商和公有云厂商也拥有类似的技术,但在产品运营上呈现出完全不同的基因。

私有云厂商是卖资源的,所以往往在卖私有云平台的时候伴随着卖计算、网络、存储设备。在产品设计上,私有云厂商往往会对客户强调其几乎不会使用的计算、网络、存储的技术参数,因为这些参数可以在和友商对标的过程中占尽优势。私有云的厂商几乎没有自己的大规模应用,所以私有云厂商的平台做出来是给别人用的,自己不会大规模使用,所以产品往往围绕资源展开,而不会对应用的部署友好。

公有云的厂商往往都是有自己大规模的应用需要部署,所以其产品的设计可以将常见的应用部署需要的模块作为组件提供出来,用户可以像拼积木一样,拼接一个适用于自己应用的架构。公有云厂商不必关心各种技术参数的PK,不必关心是否开源,是否兼容各种虚拟化平台,是否兼容各种服务器设备、网络设备、存储设备。你管我用什么,客户部署应用方便就好。

▲(深信服云计算CTO曹心驰和云技术社区北极熊合影)

如今,云计算在我国的发展可谓如火如荼,相关云企业也正处于群雄逐鹿阶段,市场洗牌在所难免。唯有“一招鲜”才能“吃遍天”,这个一招鲜就是技术、方案或者可靠性。华云数据优势的重要一方面就是技术,尤其是在虚拟化多核心内核研发方面更具竞争力,云厂商分化趋势已经显现,你准备好了吗?

公有云生态及老二的逆袭

公有云的第一名AWS活的自然很爽,作为第二名Rackspace就不那么舒坦了。

没错,互联网行业基本上就是一家独大,那第二名如何逆袭呢?开源是很好的办法,让整个行业一起为这个云平台出力。于是Rackspace与美国航空航天局(NASA)合作创始了开源云平台OpenStack。

OpenStack现在发展的和AWS有点像了,所以从OpenStack的模块组成可以看到云计算池化的方法。

深信服云计算CTO曹心驰访谈整理

OpenStack的组件

计算池化模块Nova:OpenStack的计算虚拟化主要使用KVM,然而到底在哪个物理机上开虚拟机呢,这要靠nova-scheduler;

网络池化模块Neutron:OpenStack的网络虚拟化主要使用Openvswitch,然而对于每一个Openvswitch的虚拟网络、虚拟网卡、VLAN、带宽的配置,不需要登录到集群上配置,Neutron可以通过SDN的方式进行配置;

存储池化模块Cinder:
OpenStack的存储虚拟化,如果使用本地盘,则基于LVM,使用哪个LVM上分配的盘,也是通过scheduler来的。后来就有了将多台机器的硬盘打成一个池的方式Ceph,而调度的过程,则在Ceph层完成。

1

OpenStack带来私有云市场的红海

有了OpenStack,所有的私有云厂商都疯了,原来VMware在私有云市场赚的实在太多了,眼巴巴的看着,没有对应的平台可以和他抗衡。现在有了现成的框架,再加上自己的硬件设备,几乎所有的IT厂商巨头,全部都加入到社区里,将OpenStack开发为自己的产品,连同硬件设备一起,杀入私有云市场。

北极 style=”font-size: 16px;”>熊: style=”font-size: 16px;”> style=”font-size: 16px;”> style=”font-size: 16px;”>

公有or私有?网易的选择

网易当然也没有错过这次风口,上线了自己的OpenStack集群,网易蜂巢基于OpenStack自主研发了IaaS服务,在计算虚拟化方面,通过裁剪KVM镜像,优化虚拟机启动流程等改进,实现了虚拟机的秒级别启动。在网络虚拟化方面,通过SDN和Openvswitch技术,实现了虚拟机之间的高性能互访。在存储虚拟化方面,通过优化Ceph存储,实现高性能云盘。

但是网易并没有杀进私有云市场,而是使用OpenStack支撑起了自己的应用,这是互联网的思维。而仅仅是资源层面弹性是不够的,还需要开发出对应用部署友好的组件。例如数据库,负载均衡,缓存等,这些都是应用部署必不可少的,也是网易在大规模应用实践中,千锤百炼过的。这些组件称为PaaS。

我们是云技术社区,专注云计算技术分享和交流,我们想了解下深信服企业云在技术上有什么特点可以分享给我们云技术社区用户。

第四阶段:分,即容器

现在来谈谈,应用层面,即PaaS层。

前面一直在讲IaaS层的故事,也即基础设施即服务,基本上在谈计算、网络、存储的事情。现在应该说说应用层,即PaaS层的事情了。

曹心驰:

1. PaaS的定义与作用

IaaS的定义比较清楚,PaaS的定义就没那么清楚了。有人把数据库、负载均衡、缓存作为PaaS服务;有人把大数据Hadoop,、Spark平台作为PaaS服务;还有人将应用的安装与管理,例如Puppet、
Chef,、Ansible作为PaaS服务。

其实PaaS主要用于管理应用层。我总结为两部分:一部分是你自己的应用应当自动部署,比如Puppet、Chef、Ansible、
Cloud
Foundry等,可以通过脚本帮你部署;另一部分是你觉得复杂的通用应用不用部署,比如数据库、缓存、大数据平台,可以在云平台上一点即得。

要么就是自动部署,要么就是不用部署,总的来说就是应用层你也少操心,就是PaaS的作用。当然最好还是都不用去部署,一键可得,所以公有云平台将通用的服务都做成了PaaS平台。另一些你自己开发的应用,除了你自己其他人不会知道,所以你可以用工具变成自动部署。

这一块有技术特色的东西比较多,我谈几个重点的,第一个存储,因为在计算方面KVM已经非常成熟了,目前我们的KVM层面仅仅在QEMU方面做了一些优化,更多的是围绕存储的可靠性方面做了大量的工作,这方面我们内部有大量数据,可以公开给合作伙伴和用户。

2. PaaS的优点

PaaS最大的优点,就是可以实现应用层的弹性伸缩。比如在双十一期间,10个节点要变成100个节点,如果使用物理设备,再买90台机器肯定来不及,仅仅有IaaS实现资源的弹性是不够的,再创建90台虚拟机,也是空的,还是需要运维人员一台一台地部署。所以有了PaaS就好了,一台虚拟机启动后,马上运行自动部署脚本,进行应用的安装,90台机器自动安装好了应用,才是真正的弹性伸缩。

这里还要特别说明下,因为很多能力都是基于我们自研的超融合架构,所以很多关键技术都是我们自己研发的,我们做任何设计都可以端到端,比如数据读写,从KVM到最底层的数据落盘,所有核心代码都在我们手里,都可以我们做到全栈自主可控,可以按照最理想最优化的路径来设计和实现从数据计算和存储路径,这样做可以大大提高基础架构的整体性能。没必要像OpenStack一样在各个组建中间调用很多接口来实现,造成性能损失。

3. PaaS部署的问题

当然这种部署方式也有一个问题,就是无论Puppet、
Chef、Ansible把安装脚本抽象的再好,说到底也是基于脚本的,然而应用所在的环境千差万别。文件路径的差别,文件权限的差别,依赖包的差别,应用环境的差别,Tomcat、
PHP、
Apache等软件版本的差别,JDK、Python等版本的差别,是否安装了一些系统软件,是否占用了哪些端口,都可能造成脚本执行的不成功。所以看起来是一旦脚本写好,就能够快速复制了,但是环境稍有改变,就需要把脚本进行新一轮的修改、测试、联调。例如在数据中心写好的脚本移到AWS上就不一定直接能用,在AWS上联调好了,迁移到Google
Cloud上也可能会再出问题。

标签:

Your Comments

近期评论

    功能


    网站地图xml地图