当前位置:首页 > 数码 > 不要把容器当做宇宙的中心!-Docker成立十周年-1号员工反思

不要把容器当做宇宙的中心!-Docker成立十周年-1号员工反思

admin5个月前 (04-29)数码53

作者丨Sam Alba

编译丨诺亚

本文作者 Sam Alba 目前是 Dagger 的联合创始人兼工程副总裁,也是前 Docker 的工程副总裁。他于 2010 年作为第一位员工加入 Docker,领导工程团队将其从三名成员扩展到 100 名成员。随后,他领导核心产品和工程团队,负责支持各种关键的 Docker 产品。

Docker 最近庆祝了其成立 10 周年,Sam 非常自豪 Docker 在过去取得的所有成就。如果没有容器成为计算消费的新单元,我们就不会看到如今的许多事物——基于微服务的架构、Kubernetes 等。并且,当你回顾人生的转折点时,你就能更清晰地看到一路走来的得失,对于 Sam 来说也是如此。

下面,让我们一起来看看当初 Docker 做对了什么,又有哪些地方做错了。

我们做对了哪些事

1. 容器将改变世界

当 Sam 在 2010 年加入 Solomon Hykes 构建 DotCloud(后来更名为 Docker)时,他很快意识到,如果只使用当时存在的工具,他们将永远无法实现愿景。DotCloud 是第一个支持任何语言的平台即服务 (PaaS),而 Heroku 和其他公司仍然仅限于运行单一语言堆栈。

在构建 DotCloud 时遇到的一个限制是缺乏虚拟机 (VM) 作为关键基础架构构建块的替代方案。虽然 VM 相对于基础设施领域的裸机服务器向前迈出了一大步,但它们未能提供进入云原生时代所需的敏捷性。他们需要足够轻量级的东西,以便可以将每个客户隔离在他们自己的命名空间(计算、网络、存储)上,同时在一台计算机上打包数百个开发人员应用程序。这是微服务模式的开始。

当时,在基础设施可重复性方面,VM 仍然是最先进的技术,而容器仍然是一种鲜为人知的技术,只有少数修修补补者才能使用。(还记得 LXC 需要一个内核补丁才能连接到正在运行的容器上吗?)其他人认为解决方案是让 VM 进行零碳水饮食。(还记得 JeOS 吗?)

很明显,尽管面临各种挑战,但围绕容器构建一切都是值得的。最终,事实证明他们是正确的。几年后,他们提取了 DotCloud 平台的核心组件:容器运行时。他们重写了它并开放了它的源代码。这是 Docker 的第一个版本。

最初的目标是让 Docker 成为从 DotCloud 中提取的众多开放组件中的第一个。容器编排器,即网络层,将紧随其后。但是考虑到 Docker 在早期获得的即时关注,时间表发生了很大的变化。

2. 开发人员是重中之重

史蒂夫·鲍尔默是对的。VMware 主要专注于为 IT 解决问题,而他们很早就意识到,改变世界的方式是专注于全球的软件开发人员。你必须改变软件的构建方式,而不仅仅是操作方式,这意味着首先从开发人员的需求开始。

作为管理过数千名开发人员的人,Sam 非常清楚软件开发人员每天面临的挑战。这可能是世界上最令人难以置信的工作之一,充满了具有挑战性的问题和创造美好事物的满足感,但它也可能是乏味的、令人沮丧的,有时甚至是令人愤怒的。基础设施和工具取得了巨大进步,但标准也提高了。

在 Docker,他们的目标是减少干扰、成本,让开发人员高效协作。最早的收购(和成功的产品集成)之一是一个名为 Fig 的产品,后来成为 Docker Compose,最初由 Ben Firshman(现 Replicate 创始人)和 Anand Prasad 构建的。有趣的是,Fig(composition.yml)实现的 YAML 模型直接受到了他们几年前构建的第一个 DotCloud 服务组合(DotCloud.yml)的启发。

虽然取得了很大的进展,但还有更多的工作要做,特别是超越容器作为唯一单元和编排容器管道的范围。这就是他们在 2018 年启动 Dagger 的原因之一,这是一个可编程的 CI/CD 引擎,可以在容器中运行你的管道。

3. 投资建设充满活力的社区

他们首先专注于建立一个伟大的社区。从第一天起,他们就相信他们无法独自实现愿景。他们需要开发人员、运营商、合作伙伴和贡献者的支持。他们举办聚会、建立在线社区并支持贡献者。

Docker 社区是他们最宝贵的资产之一。Docker 不会是今天的 Docker,如果没有社区的参与和反馈,他们绝对不会取得如此大的成功。

我们做错了哪些事

虽然他们做对了很多事情,但也有一些事情他们本可以做得更好。以下是最重要的教训:

1. 早期忽视安全

在早期,他们忽视了安全问题。他们认为容器是安全的,因为它们在隔离的环境中运行。随着越来越多的企业采用容器,他们意识到安全是一个严重的问题。

在 Docker 中加入安全功能非常重要。他们本可以做得更多来提高容器的安全性,例如:提供内置的安全机制、教育用户有关容器安全最佳实践的知识,以及与安全供应商合作提供集成解决方案。

2. 没有更多地投资于 Kubernetes

Kubernetes 是一个强大的容器编排系统,但它也是一个复杂的系统。Docker 本可以做得更多来让 Kubernetes 更易于使用和管理。他们本可以提供更多工具和支持,帮助用户在生产中部署和运行 Kubernetes。

他们没有更多地投资于 Kubernetes 是一个错误。如果他们这样做,他们本可以巩固自己在容器编排领域的领导地位,并帮助 Kubernetes 成为一个更受企业欢迎的平台。

3. 沟通不畅

有时,他们没有与社区和客户进行有效的沟通。这导致了一些误解和失望。重要的是就他们的产品路线图、未来计划以及对社区的承诺与利益相关者进行清晰的沟通。

他们本可以做得更多来改善沟通,例如:创建更清晰的产品路线图、提供更多更新,以及更积极地与社区互动。他们希望从中吸取教训,在未来做得更好。

结论

Docker 在过去十年取得了令人难以置信的成功,为云原生计算的兴起做出了重大贡献。他们做对了很多事情,但也犯了一些错误。从这些错误中吸取教训,他们希望继续为软件开发人员创造创新和有用的工具。

Docker成立十周年

Docker 的未来是光明的。随着容器变得越来越普遍,他们看到 Docker 继续发挥重要作用。他们致力于为开发人员提供构建、部署和管理应用程序所需的工具和技术。


蘑菇街基于 OpenStack 和 Docker 的私有云实践本次主要想分享一下过去一年时间里,我们在建设基于Docker的私有云实践过程中,曾经遇到过的问题,如何解决的经验,还有我们的体会和思考,与大家共勉。 在生产环境中使用Docker有一些经历和经验。 私有云项目是2014年圣诞节期间上线的,从无到有,经过了半年多的发展,经历了3次大促,已经逐渐形成了一定的规模。 架构集群管理大家知道,Docker自身的集群管理能力在当时条件下还很不成熟,因此我们没有选择刚出现的 Swarm,而是用了业界最成熟的OpenStack,这样能同时管理Docker和KVM。 我们把Docker当成虚拟机来跑,是为了能满足业务上对虚拟化的需求。 今后的思路是微服务化,把应用进行拆分,变成一个个微服务,实现PaaS基于应用的部署和发布。 通过OpenStack如何管理Docker?我们采用的是OpenStack+nova-docker+Docker的架构模式。 nova- docker是StackForge上一个开源项目,它做为nova的一个插件,通过调用Docker的RESTful接口来控制容器的启停等动作。 我们在IaaS基础上自研了编排调度等组件,支持应用的弹性伸缩、灰度升级等功能,并支持一定的调度策略,从而实现了PaaS层的主要功能。 同时,基于Docker和Jenkins实现了持续集成(CI)。 Git中的项目如果发生了git push等动作,便会触发Jenkins Job进行自动构建,如果构建成功便会生成Docker Image并push到镜像仓库。 基于CI生成的Docker Image,可以通过PaaS的API或界面,进行开发测试环境的实例更新,并最终进行生产环境的实例更新,从而实现持续集成和持续交付。 网络和存储网络方面,我们没有采用Docker默认提供的NAT网络模式,NAT会造成一定的性能损失。 通过OpenStack,我们支持Linux bridge和Open vSwitch,不需要启动iptables,Docker的性能接近物理机的95%。 容器的监控监控方面,我们自研了container tools,实现了容器load值的计算,替换了原有的top、free、iostat、uptime等命令。 这样业务方在容器内使用常用命令时看到的是容器的值,而不是整个物理机的。 目前我们正在移植Lxcfs到我们的平台上。 我们还在宿主机上增加了多个阈值监控和报警,比如关键进程监控、日志监控、实时pid数量、网络连接跟踪数、容器oom报警等等。 冗灾和隔离性冗灾和隔离性方面,我们做了大量的冗灾预案和技术准备。 我们能够在不启动docker daemon的情况下,离线恢复Docker中的数据。 同时,我们支持Docker的跨物理机冷迁移,支持动态的CPU扩容/缩容,网络IO磁盘IO的限速。 遇到的问题及解决方法接近一年不到的产品化和实际使用中我们遇到过各种的问题,使用Docker的过程也是不断优化Docker、不断定位问题、解决问题的过程。 我们现在的生产环境用的是CentOS 6.5。 曾经有个业务方误以为他用的Docker容器是物理机,在Docker容器里面又装了一个Docker,瞬间导致内核crash,影响了同一台物理机的其他Docker容器。 经过事后分析是2.6.32-431版本的内核对network namespace支持不好引起的,在Docker内创建bridge会导致内核crash。 upstream修复了这个bug,从2.6.32-431升级到2.6.32-504后问题解决。 还有一个用户写的程序有bug,创建的线程没有及时回收,容器中产生了大量的线程,最后在宿主机上都无法执行命令或者ssh登陆,报的错是bash: fork: Cannot allocate memory,但通过free看空闲的内存却是足够的。 经过分析,发现是内核对pid的隔离性支持不完善,pid_max(/proc/sys/kernel/pid_max)是全局共享的。 当一个容器中的pid数目达到上限,会导致宿主机和其他容器无法创建新的进程。 最新的4.3-rc1才支持对每个容器进行pid_max限制。 我们还观察到docker的宿主机内核日志中会产生乱序的问题。 经过分析后发现是由于内核中只有一个log_buf缓冲区,所有printk打印的日志先放到这个缓冲区中,docker host以及container上的rsyslogd都会通过syslog从kernel的log_buf缓冲区中取日志,导致日志混乱。 通过修改 container里的rsyslog配置,只让宿主机去读kernel日志,就能解决这个问题。 除此之外,我们还解决了device mapper的dm-thin discard导致内核crash等问题。 体会和思考最后分享一下我们的体会和思考,相比KVM比较成熟的虚拟化技术,容器目前还有很多不完善的地方,除了集群管理、网络和存储,最重要的还是稳定性。 影响稳定性的主要还是隔离性的不完善造成的,一个容器内引起的问题可能会影响整个系统。 容器的memcg无法回收slab cache,也不对dirty cache量进行限制,更容易发生OOM问题。 还有,procfs上的一些文件接口还无法做到per-container,比如pid_max。 另外一点是对容器下的运维手段和运维经验的冲击。 有些系统维护工具,比如ss,free,df等在容器中无法使用了,或者使用的结果跟物理机不一致,因为系统维护工具一般都会访问procfs下的文件,而这些工具或是需要改造,或是需要进行适配。 虽然容器还不完善,但是我们还是十分坚定的看好容器未来的发展。 Kubernetes、Mesos、Hyper、CRIU、runC等容器相关的开源软件,都是我们关注的重点。 Q&AQ:请问容器间的负载均衡是如何做的?A: 容器间的负载均衡,更多是PaaS和SaaS层面的。 我们的P层支持4层和7层的动态路由,通过域名的方式,或者名字服务来暴露出对外的接口。 我们能够做到基于容器的灰度升级,和弹性伸缩。 Q:请问你们的OpenStack是运行在CentOS 6.5上的吗?A: 是的,但是我们针对OpenStack和Docker依赖的包进行了升级。 我们维护了内部的yum源。 Q:请问容器IP是静态编排还是动态获取的?A: 这个跟运维所管理的网络模式有关,我们内部的网络没有DHCP服务,因此对于IaaS层,容器的IP是静态分配的。 对于PaaS层来说,如果有DHCP服务,容器的App所暴露出来IP和端口就可以做到动态的。 Q:请问你们当时部署的时候有没有尝试过用Ubuntu,有没有研究过两个系统间的区别,另外请问你们在OpenStack上是怎样对这些虚拟机监控的?A: 我们没有尝试过Ubuntu,因为公司生产环境上用的是CentOS。 我们的中间件团队负责公司机器的监控,我们和监控团队配合,将监控的agent程序部署到宿主机和每个容器里,这样就可以当成虚拟机来进行监控。 当然,容器的数据是需要从cgroups里来取,这部分提取数据的工作,是我们来实现的。 Q:容器间的网络选型有什么建议,据说采用虚拟网卡比物理网卡有不小的性能损失,Docker自带的weaves和ovs能胜任吗?A: 容器的网络不建议用默认的NAT方式,因为NAT会造成一定的性能损失。 之前我的分享中提到过,不需要启动iptables,Docker的性能接近物理机的95%。 Docker的weaves底层应该还是采用了网桥或者Open vSwitch。 建议可以看一下nova-docker的源码,这样会比较容易理解。 Q:静态IP通过LXC实现的吗?A: 静态IP的实现是在nova-docker的novadocker/virt/docker/中实现的。 实现的原理就是通过ip命令添加 veth pair,然后用ip link set/ip netns exec等一系列命令来实现的,设置的原理和weaves类似。 Q:容器内的进程gdb你们怎么弄的,把gdb打包到容器内吗?A: 容器内的gdb不会有问题的,可以直接yum install gdb。 Q:共享存储能直接mount到容器里吗?A: 虽然没试过,但这个通过docker -v的方式应该没什么问题。 Q:不启动Docker Daemon的情况下,离线恢复Docker中的数据是咋做到的?A: 离线恢复的原理是用dmsetup create命令创建一个临时的dm设备,映射到Docker实例所用的dm设备号,通过mount这个临时设备,就可以恢复出原来的数据。 Q:Docker的跨物理机冷迁移,支持动态的CPU扩容/缩容,网络IO磁盘IO的限速,是怎么实现的,能具体说说吗?A:Docker的冷迁移是通过修改nova-docker,来实现OpenStack迁移的接口,具体来说,就是在两台物理机间通过docker commit,docker push到内部的registry,然后docker pull snapshot来完成的。 动态的CPU扩容/缩容,网络IO磁盘IO的限速主要是通过novadocker来修改cgroups中的cpuset、iops、bps还有TC的参数来实现的。 Q:请问你们未来会不会考虑使用Magnum项目,还是会选择Swarm?A:这些都是我们备选的方案,可能会考虑Swarm。 因为Magnum底层还是调用了Kubernetes这样的集群管理方案,与其用Magnum,不如直接选择Swarm或者是Kubernetes。 当然,这只是我个人的看法。 Q:你们的业务是基于同一个镜像么,如果是不同的镜像,那么计算节点如何保证容器能够快速启动?A:运维会维护一套统一的基础镜像。 其他业务的镜像会基于这个镜像来制作。 我们在初始化计算节点的时候就会通过docker pull把基础镜像拉到本地,这也是很多公司通用的做法,据我了解,腾讯、360都是类似的做法。 Q:做热迁移,有没有考虑继续使用传统共享存储的来做?A: 分布式存储和共享存储都在考虑范围内,我们下一步,就计划做容器的热迁移。 Q:请问你们是直接将公网IP绑定到容器吗,还是通过其他方式映射到容器的私有IP,如果是映射如何解决原本二层的VLAN隔离?A:因为我们是私有云,不涉及floating ip的问题,所以你可以认为是公网IP。 VLAN的二层隔离完全可以在交换机上作。 我们用Open vSwitch划分不同的VLAN,就实现了Docker容器和物理机的网络隔离。 Q:Device mapper dm-thin discard问题能说的详细些吗?A:4月份的时候,有两台宿主机经常无故重启。 首先想到的是查看/var/log/messages日志,但是在重启时间点附近没有找到与重启相关的信息。 而后在/var/crash目录下,找到了内核crash的日志。 日志的生成时间与宿主机重启时间一致,可以说明宿主机是发生了kernel crash然后导致的自动重启。 “kernel BUG at drivers/md/persistent-data/dm-btree-remove.c:181!”。 从堆栈可以看出在做dm-thin的discard操作(process prepared discard),虽然不知道引起bug的根本原因,但是直接原因是discard操作引发的,可以关闭discard support来规避。 我们将所有的宿主机配置都禁用discard功能后,再没有出现过同样的问题。 在今年CNUTCon的大会上,腾讯和大众点评在分享他们使用Docker的时候也提到了这个crash,他们的解决方法和我们完全一样。 Q:阈值监控和告警那块,有高中低多种级别的告警吗,如果当前出现低级告警,是否会采取一些限制用户接入或者砍掉当前用户正在使用的业务,还是任由事态发展?A:告警这块,运维有专门的PE负责线上业务的稳定性。 当出现告警时,业务方和PE会同时收到告警信息。 如果是影响单个虚拟机的,PE会告知业务方,如果严重的,甚至可以及时下掉业务。 我们会和PE合作,让业务方及时将业务迁移走。 Q:你们自研的container tools有没有开源,GitHub上有没有你们的代码,如何还没开源,后期有望开源吗,关于监控容器的细粒度,你们是如何考虑的?A:虽然我们目前还没有开源,单我觉得开源出来的是完全没问题的,请大家等我们的好消息。 关于监控容器的细粒度,主要想法是在宿主机层面来监控容器的健康状态,而容器内部的监控,是由业务方来做的。 Q:请问容器的layer有关心过层数么,底层的文件系统是ext4么,有优化策略么?A:当然有关心,我们通过合并镜像层次来优化docker pull镜像的时间。 在docker pull时,每一层校验的耗时很长,通过减小层数,不仅大小变小,docker pull时间也大幅缩短。 Q:容器的memcg无法回收slab cache,也不对dirty cache量进行限制,更容易发生OOM问题。 ----这个缓存问题你们是怎么处理的?A:我们根据实际的经验值,把一部分的cache当做used内存来计算,尽量逼近真实的使用值。 另外针对容器,内存报警阈值适当调低。 同时添加容器OOM的告警。 如果升级到CentOS 7,还可以配置_in_bytes来做一定的限制。 Q:能详细介绍下你们容器网络的隔离?A:访问隔离,目前二层隔离我们主要用VLAN,后面也会考虑VXLAN做隔离。 网络流控,我们是就是使用OVS自带的基于port的QoS,底层用的还是TC,后面还会考虑基于flow的流控。 Q:请问你们这一套都是用的CentOS 6.5吗,这样技术的实现。 是运维还是开发参与的多?A:生产环境上稳定性是第一位的。 CentOS 6.5主要是运维负责全公司的统一维护。 我们会给运维在大版本升级时提建议。 同时做好虚拟化本身的稳定性工作。 Q:请问容器和容器直接是怎么通信的?网络怎么设置?A:你是指同一台物理机上的吗?我们目前还是通过IP方式来进行通信。 具体的网络可以采用网桥模式,或者VLAN模式。 我们用Open vSwitch支持VLAN模式,可以做到容器间的隔离或者通信。 Q:你们是使用nova-api的方式集成Dcoker吗,Docker的高级特性是否可以使用,如docker-api,另外为什么不使用Heat集成Docker?A:我们是用nova-docker这个开源软件实现的,nova-docker是StackForge上一个开源项目,它做为nova的一个插件,替换了已有的libvirt,通过调用Docker的RESTful接口来控制容器的启停等动作。 使用Heat还是NOVA来集成Docker业界确实一直存在争议的,我们更多的是考虑我们自身想解决的问题。 Heat本身依赖的关系较为复杂,其实业界用的也并不多,否则社区就不会推出Magnum了。 Q:目前你们有没有容器跨DC的实践或类似的方向?A:我们已经在多个机房部署了多套集群,每个机房有一套独立的集群,在此之上,我们开发了自己的管理平台,能够实现对多集群的统一管理。 同时,我们搭建了Docker Registry V1,内部准备升级到Docker Registry V2,能够实现Docker镜像的跨DC mirror功能。 Q:我现在也在推进Docker的持续集成与集群管理,但发现容器多了管理也是个问题,比如容器的弹性管理与资源监控,Kubernetes、Mesos哪个比较好一些,如果用在业务上,那对外的域名解析如何做呢,因为都是通过宿主机来通信,而它只有一个对外IP?A: 对于Kubernetes和Mesos我们还在预研阶段,我们目前的P层调度是自研的,我们是通过etcd来维护实例的状态,端口等信息。 对于7层的可以通过Nginx来解析,对于4层,需要依赖于naming服务。 我们内部有自研的naming服务,因此我们可以解决这些问题。 对外虽然只有一个IP,但是暴露的端口是不同的。 Q:你们有考虑使用Hyper Hypernetes吗? 实现容器与宿主机内核隔离同时保证启动速度?A:Hyper我们一直在关注,Hyper是个很不错的想法,未来也不排除会使用Hyper。 其实我们最希望Hyper实现的是热迁移,这是目前Docker还做不到的。 Q:你们宿主机一般用的什么配置?独立主机还是云服务器?A:我们有自己的机房,用的是独立的服务器,物理机。 Q:容器跨host通信使用哪一种解决方案?A: 容器跨host就必须使用3层来通信,也就是IP,容器可以有独立的IP,或者宿主机IP+端口映射的方式来实现。 我们目前用的比较多的还是独立ip的方式,易于管理。 Q:感觉贵公司对Docker的使用比较像虚拟机,为什么不直接考虑从容器的角度来使用,是历史原因么?A:我们首先考虑的是用户的接受程度和改造的成本。 从用户的角度来说,他并不关心业务是跑在容器里,还是虚拟机里,他更关心的是应用的部署效率,对应用本身的稳定性和性能的影响。 从容器的角度,一些业务方已有的应用可能需要比较大的改造。 比如日志系统,全链路监控等等。 当然,最主要的是对已有运维系统的冲击会比较大。 容器的管理对运维来说是个挑战,运维的接受是需要一个过程的。 当然,把Docker当成容器来封装应用,来实现PaaS的部署和动态调度,这是我们的目标,事实上我们也在往这个方向努力。 这个也需要业务方把应用进行拆分,实现微服务化,这个需要一个过程。 Q:其实我们也想用容器当虚拟机使用。 你们用虚拟机跑什么中间件?我们想解决测试关键对大量相对独立环境WebLogic的矛盾?A:我们跑的业务有很多,从前台的主站Web,到后端的中间件服务。 我们的中间件服务是另外团队自研的产品,实现前后台业务逻辑的分离。 Q:贵公司用OpenStack同时管理Docker和KVM是否有自己开发Web配置界面,还是单纯用API管理?A:我们有自研的Web管理平台,我们希望通过一个平台管理多个集群,并且对接运维、日志、监控等系统,对外暴露统一的API接口。 Q:上面分享的一个案例中,关于2.6内核namespace的bug,这个低版本的内核可以安装Docker环境吗,Docker目前对procfs的隔离还不完善,你们开发的container tools是基于应用层的还是需要修改内核?A:安装和使用应该没问题,但如果上生产环境,是需要全面的考虑的,主要还是稳定性和隔离性不够,低版本的内核更容易造成系统 crash或者各种严重的问题,有些其实不是bug,而是功能不完善,比如容器内创建网桥会导致crash,就是network namespace内核支持不完善引起的。 我们开发的container tools是基于应用的,不需要修改内核。 Q:关于冗灾方面有没有更详细的介绍,比如离线状态如何实现数据恢复的?A:离线状态如何实现恢复数据,这个我在之前已经回答过了,具体来说,是用dmsetup create命令创建一个临时的dm设备,映射到docker实例所用的dm设备号,通过mount这个临时设备,就可以恢复出原来的数据。 其他的冗灾方案,因为内容比较多,可以再另外组织一次分享了。 你可以关注一下,到时候我们会分享出来。 Q:贵公司目前线上容器化的系统,无状态为主还是有状态为主,在场景选择上有什么考虑或难点?A:互联网公司的应用主要是以无状态的为主。 有状态的业务其实从业务层面也可以改造成部分有状态,或者完全不状态的应用。 不太明白你说的场景选择,但我们尽量满足业务方的各种需求。 对于一些本身对稳定性要求很高,或对时延IO特别敏感,比如redis业务,无法做到完全隔离或者无状态的,我们不建议他们用容器。 多进程好还是多线程好等等,并不是说因为Spark很火就一定要使用它。 在遇到这些问题的时候、图计算,目前我们还在继续这方面的工作:作为当前流行的大数据处理技术? 陈,它能快速创建一个Spark集群供大家使用,我们使用OpenStack? 陈。 问,Hadoop软硬件协同优化,在OpenPOWER架构的服务器上做Spark的性能分析与优化:您在本次演讲中将分享哪些话题。 问。 多参与Spark社区的讨论。 曾在《程序员》杂志分享过多篇分布式计算、Docker和Spark打造SuperVessel大数据公有云”,给upstrEAM贡献代码都是很好的切入方式、SQL,并拥有八项大数据领域的技术专利,MapReduce性能分析与调优工具。 例如还有很多公司在用Impala做数据分析:企业想要拥抱Spark技术,对Swift对象存储的性能优化等等。 例如与Docker Container更好的集成,大数据云方向的技术负责人,Spark还是有很多工作可以做的?企业如果想快速应用Spark 应该如何去做,具体的技术选型应该根据自己的业务场景,Docker Container因为在提升云的资源利用率和生产效率方面的优势而备受瞩目,高性能FPGA加速器在大数据平台上应用等项目,再去调整相关的参数去优化这些性能瓶颈,一些公司在用Storm和Samaza做流计算: 相比于MapReduce在性能上得到了很大提升?

免责声明:本文转载或采集自网络,版权归原作者所有。本网站刊发此文旨在传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及版权、内容等问题,请联系本网,我们将在第一时间删除。同时,本网站不对所刊发内容的准确性、真实性、完整性、及时性、原创性等进行保证,请读者仅作参考,并请自行核实相关内容。对于因使用或依赖本文内容所产生的任何直接或间接损失,本网站不承担任何责任。

标签: 容器

“不要把容器当做宇宙的中心!-Docker成立十周年-1号员工反思” 的相关文章

容器与虚拟机的优劣势分析-全面解读云计算架构选择 (容器与虚拟机有什么不同)

容器与虚拟机的优劣势分析-全面解读云计算架构选择 (容器与虚拟机有什么不同)

简介 在现代云计算中,容器和虚拟机 (VM) 都是常用的技术,它们在实现资源隔离和应用程序部署方面有着不同的方式和特点。本文将对容器和虚拟机的区别进行详细探讨,以帮助读者更好地理解它们的应用场景...

Docker的替代品-Containerd容器管理 (docker logs)

Docker的替代品-Containerd容器管理 (docker logs)

Introduction CRI-O is a container runtime engine developed by Red Hat. It is a lightweight altern...

几款热门容器化编排工具对比

几款热门容器化编排工具对比

什么是容器管理? 容器管理是一系列涉及部署、运行、监控和维护容器化应用程序的操作,以有效管理这些应用程序。 容器编排工具 Kubernetes Docker...

Kubernetes-容器编排的行业标准 (kubernetes与docker的关系)

Kubernetes-容器编排的行业标准 (kubernetes与docker的关系)

Kubernetes(简称K8s)是一个开源的容器编排平台,它能够自动化管理容器的部署、扩展、维护和升级。本文将深入探讨 Kubernetes 的概念、特点、应用场景以及未来发展趋势。 1....

容器资源分配策略-兼顾稳定性和成本效益 (容器资源管理)

容器资源分配策略-兼顾稳定性和成本效益 (容器资源管理)

弹性云分级保障体系:确保容器服务稳定性 前言 随着假期出行的兴起和需求的增加,弹性云服务面临着巨大的稳定性保障压力。本文将介绍弹性云分级保障体系,旨在通过提供明确的容器资源保障等级,确保不同优先级...

深化探求容器间路由和服务发现-BGP-容器网络通常-Calico (深化探求容器的方法)

深化探求容器间路由和服务发现-BGP-容器网络通常-Calico (深化探求容器的方法)

前言 G行全栈云容器大规模运转在信创主机的虚构机里,发现如跨NUMA访问CPU或许造成性能不平衡、容器网络和IaaSSDN耦合、虚构层自身资源消耗等诸多疑问。为处置这些疑问,G行探求将容器运...

Dockerfile-Buildpack-替代-轻松构建容器镜像-使用 (docker logs)

Dockerfile-Buildpack-替代-轻松构建容器镜像-使用 (docker logs)

在现代的云原生交付领域中,效率、速度和简捷性至关重要。Buildpacks(构建包)已成为一种强大的工具,彻底改变了创建项目的镜像方式。相较于传统的费时费力的 Dockerfile 创建和维...