博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
简介分布式计算系统的硬件架构
阅读量:2429 次
发布时间:2019-05-10

本文共 721 字,大约阅读时间需要 2 分钟。

作者:朱金灿

来源:

 

         一个分布式计算系统的硬件应该如何配置?个人愚见,应该根据分布式计算的计算类型来配置。分布式并行处理系统从磁盘I/O角度可以分为弱I/O和强I/O两种。一般的互联网大数据分析为弱I/O,这样存储可以采用分布式存储,具体为一个计算节点上挂一个大硬盘,典型例子为阿里云。架构图如下:

        上图展示了Hadoop 系统的分布式存储和并行计算构架。从硬件体系结构上看,Hadoop 系统是一个运行于普通的商用服务器集群的分布式存储和并行计算系统。集群中将有一个主控节点用来控制和管理整个集群的正常运行,并协调管理集群中各个从节点完成数据存储和计算任务。每个从节点将同时担任数据存储节点和数据计算节点两种角色,这样设计的目的主要是在大数据环境下实现尽可能的本地化计算,以此提高系统的处理性能。为了能及时检测和发现集群中某个从节点发生故障失效,主控节点采用心跳机制(Heartbeat)定期检测从节点,如果从节点不能有效回应心跳信息,则系统认为这个从节点失效

 

       下面具体谈谈强I/O的,强I/O的业务有遥感图像处理等。强I/O对网速和磁盘寻址速度的要求很高。一般采用这样的系统架构,采用集中式存储,底层为san磁盘阵列,通过san交换机和计算服务器相连,各个计算服务器通过万兆以太网交换机相连,这样形成两个网络:存储网络和计算网络。硬件架构图如下:

 

        上图展示了强I/O类型的分布式计算的硬件架构。可以看到这种架构形成了三层网络,首先是存储阵列和计算节点基于数据存储形成了存储网络,然后各个计算节点基于管理的需要(如添加和删除节点)形成了管理网络,计算节点基于分布式计算的需要形成了计算网络(主要用于计算过程中的数据传输)。

 

参考文献:

 

1.

你可能感兴趣的文章
LoRa vs NB-IOT:哪个物联网标准更具优势?
查看>>
移动周刊第 205 期:Google 正式发布 ARCore 预览版、iOS 工程打包速度提升十倍的解决方案...
查看>>
八大 IoT 安全关键技术解析
查看>>
有钱 Python,没钱 PHP,编程语言也嫌贫爱富
查看>>
Docker是啥?容器变革的火花?
查看>>
假如从餐饮店的角度来看架构…
查看>>
这个充电宝太黑科技了,又小又不用自己带线,长见识了~
查看>>
HDC.2019后再发力,AppGallery Connect服务新升级
查看>>
网易云音乐热评的规律,44万条数据告诉你
查看>>
超神!GitHub 标星 5.5w,如何用 Python 实现所有算法?
查看>>
扛住100亿次请求——如何做一个“有把握”的春晚红包系统
查看>>
在北京看场雪为什么这么难?
查看>>
新年了,5G手机芯片,到底买谁?
查看>>
疫情之下「在家办公模式」开启,你该选择哪些远程协同工具?
查看>>
如何使用pdpipe与Pandas构建管道?
查看>>
远程办公的33种预测
查看>>
阿里巴巴架构师:十问业务中台和我的答案
查看>>
华为云发布三类六款计算实例 打造更强云端计算能力
查看>>
PHP 语言地位遭受挑战,PHP 程序员路在何方?
查看>>
PostgreSQL好评如潮,它是如何做到的?
查看>>