当前位置:首页 > 数码 > 应答海量信息存储-万亿条信息如何妥善控制

应答海量信息存储-万亿条信息如何妥善控制

admin3个月前 (04-21)数码15

咱们如何设计一个能存储数万亿条信息的系统?

Discord的信息存储演进给咱们提供了实在案例参考。

下图显示了Discord信息存储的演化环节:MongoDB->Cassandra->ScyllaDB

图片

第一阶段

2015年,Discord的第一个版本建设在单个MongoDB之上。2015年11月左右,MongoDB存储了1亿条信息,其内存无法再容纳数据和索引。提前变得无法预测。信息存储须要转移到另一个数据库。这时Cassandra被选中。

第二阶段

2017年,Discord领有12个Cassandra节点,存储了数十亿条信息。

2022年终,Discord领有177个Cassandra节点,存储了数万亿条信息。此时,提前再次变得难以预测,保养的老本也变得过于低廉。

形成这一疑问有几个要素:

第三阶段

这时,Discord从新设计了信息存储的架构:

新架构的长处在于:

为了进一步包全ScyllaDB,Discord针对数据服务还做了以下优化:

优化后的系统性能大大提高:

该系统可轻松应答环球杯流量高峰。

本文参考Discordblog。


如何确保信息安全?

存储

确保信息安全需要采取多种措施,包括以下几个方面:1. 加强密码管理:设置复杂且不易被猜测的密码,定期更换密码,同时使用不同的密码来保护不同的账户。 2. 保护个人信息安全:不随意填写个人信息,特别是敏感信息,如身份证号、银行卡号等。 在网站上填写个人信息时,要选择可信赖的网站,并确保网站具有安全加密措施。 3. 使用安全软件:安装防病毒软件,并确保其及时更新。 同时,使用防火墙和入侵检测系统等安全软件来保护个人计算机或手机。 4. 保护网络隐私:使用安全的网络连接方式,如虚拟专用网络(VPN)或加密传输协议,以保护网络连接的隐私和安全。 5. 备份重要数据:定期备份重要数据,以防数据丢失或损坏。 同时,要确保备份数据也得到充分保护,如加密或存储在安全的地方。 6. 谨慎处理电子邮件和附件:不要随意打开未知来源的电子邮件和附件,特别是带有附件的电子邮件。 7. 禁用不必要的账户和功能:删除不需要的账户和功能,以减少潜在的安全风险。 8. 谨慎使用公共无线网络:在使用公共无线网络时,要格外小心,避免进行敏感操作,如网上银行交易等。 9. 定期更新操作系统和应用程序:及时更新操作系统和应用程序,以修复安全漏洞和缺陷。 10. 提高安全意识:加强安全教育和培训,提高个人和组织的安全意识和防范能力。 总之,确保信息安全需要综合运用多种技术和措施,同时加强管理和监督,及时发现和处理潜在的安全风险。

分析现在存在哪些信息安全问题,应如何解决

在这个信息爆炸的年代,现代人每天不论于公于私,都面临必须经手大量数字信息、而在数据安全问题上会出现各种麻烦;另一方面,随着数据量的增加,人们对存储认识程度也日益加深,特别是企业对于存储过程中数据安全问题尤为关注。 一个稳定、安全、可靠的存储基础架构对企业来说是必不可少的。 企业的信息系统不可避免地受到来自外界的安全危胁,包括自然灾害、网络、硬件、软件等方面,也包括人员的操作失误。 数据存储的任何失误都可能给企业带来巨大的经济损失。 随着数据价值不断提升,以及存储网络化不断发展,数据遭受的安全威胁日益增多,若无存储安全防范措施,一旦攻击者成功渗透到数据存储系统中,其负面影响将是无法估计的。 这要求企业在特定存储系统结构下,从存储安全性综合考虑。 而企业在业务运作的过程中最常面临的存储安全问题,主要是由自然灾害,网络、硬件,人员的操作失误这几方面引起的。 自然灾害导致数据存储安全首先,这个不是一个人为的行为,大量的数据存储在企业的服务器存储系统中,业务在运营中由于停电或是数据传输过程中的线路突然短路导致的数据的丢失情况,对于企业是一个不小的损失,在这种状态下,由于自然灾害原因导致企业数据的丢失可以说对于一个企业的数据信息是一个很大的安全威胁,系统的正常运行,数据库的合理优化,操作人员的完善的操作程序都确保数据的稳定安全,而突发的停电、火灾以及后备电源的不到位对于中小企业是时常面临的问题,同时数据的存储安全成为面对该情况时必须要解决的问题,也是企业及时需要应对的措施,保证数据的安全,但如何面对该情况应对企业数据的存储安全呢?网络硬件其次,企业数据的硬件环境方面的问题也会导致存储过程中数据安全,众所周知信息化快速发展的今天,硬件的更新换代速度之快,从而使得企业的传统的存储环境已经难以应对如今海量的数据需求,企业也要升级换代才可以适应现在数据存储的环境要求。 硬件环境的老化导致传输速率的降低,同时网络的优化也需要良好的硬件环境作为基础,在传输数据的过程中如果数据量过于庞大,而企业的硬件环境没有改善那么网络的延迟导致系统的崩溃,从而丢失数据会造成巨大的经济损失,而对于这些方面,就需要企业根据业务发展的需要有针对性地升级存储服务器的配置,提高网络的良性环境,保证存储过程数据安全。 人员的操作失误“金无足赤,人无完人”是对于当今任何企业在数据管理人员方面的一句良言,每个人在工作的过程中不可避免的犯错误或者在操作上失误,特别是对于从事数据库管理工作的人员,数据量之大,系统运行之繁琐,都会给工作中带来不必要的失误,从而对于企业的数据上的安全和完整性存在危胁,同时中小企业的数据管理人员还肩负存储系统的运维工作,这就对其数据存储过程中的安全性提出了更高的要求,面对着企业存储过程数据安全问题,应该如何的解决,采取什么样的措施保证数据的安全是摆在每个企业面前的主要问题,数据是企业运营的核心,强大的数据的支持保障企业在市场中能够乘风破浪,如何解决存储过程数据安全问题,下面针对以上的问题给以简单的建议。 一般而言,解决存储过程中的数据安全问题,企业有很多可以采用的方案:异地备份可以避免发生自然灾害时的数据损失;采用RAID(独立磁盘冗余阵列)可以减少磁盘部件的损坏;采用镜像技术 可以减少存储设备损坏;快照可以迅速恢复遭破坏的数据,减少宕机损失。 而这些技术采用可以很好的应对企业面临的自然灾害,网络、硬件,人员的操作失误这几方面引起的数据的安全问题。 异地备份 异地备份是保护数据的最安全的方式,无论发生什么情况自然灾害,那怕是火灾、地震,当其他保护数据的手段都不起作用时,异地容灾的优势就体现出来了,异地备份问题在于速度和成本,这要求拥有足够带宽的网络连接和优秀的数据复制管理软件。 通常状态下主要三方面实现异地备份,一是基于磁盘阵列,通过软件的复制模块,实现磁盘阵列之间的数据复制,这种方式适用于在复制的两端具有相同的磁盘阵列。 二是基于主机方式,这种方式与磁盘阵列无关。 三是基于存储管理平台,它与主机和磁盘阵列均无关。 RAID RAID系统使用许多小容量磁盘驱动器来存储大量数据,并且使可靠性和冗余度得到增强。 对计算机来说,这样一种阵列就如同由多个磁盘驱动器构成的一个逻辑单元。 所有的RAID系统共同的特点是“热交换”能力:用户可以取出一个存在缺陷的驱动器,并插入一个新的予以更换。 对大多数类型的RAID来说,不必中断服务器或系统,就可以自动重建某个出现故障的磁盘上的数据。 镜像 这个技术是针对如果故障发生在异地分公司,可以使用镜像技术,进行不同卷的镜像或异地卷的远程镜像,或采用双机容错技术自动接管单点故障机,保证无单点故障和本地设备遇到不可恢复的硬件毁坏时,仍可以启动异地与此相同环境和内容的镜像设备,以保证服务不间断。 当然,这样做必然会提升对设备的投资力度。 快照 在数据保护技术中,快照技术(snapshot)是极为基础和热门的技术之一,应用在很多存储过程中,比如数据复制和备份都在使用这种技术。 IBM的FlashCopy、IBM NAS的PSM软件以及VERITAS的FlashSnap软件都是快照技术的代表。 快照可以迅速恢复遭破坏的数据,减少宕机损失,可以针对与数据库管理人员在操作中的失误进行数据恢复。 综述: 对于企业在存储过程中的数据安全问题,还有很多解决的方案,存储安全固然十分重要,但是存储安全只是数据中心整个安全解决方案的一个组成部分。 安全是一个内涵很广泛的话题,存储在业务流程中扮演的并非是主角,但确实是关键角色,因为存储包含了公司绝大部分记录,如果没有存储,很多业务流程将没法继续。 因此,对于面对存储过程数据安全问题每个企业应该注视起来,投入更多的精力,数据是一个企业的核心竞争力,安全强大的数据是企业腾飞的保证,存储技术的发展,硬件环境的完善相信会给企业数据安全无疑提供强有力的支持。

免责声明:本文转载或采集自网络,版权归原作者所有。本网站刊发此文旨在传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及版权、内容等问题,请联系本网,我们将在第一时间删除。同时,本网站不对所刊发内容的准确性、真实性、完整性、及时性、原创性等进行保证,请读者仅作参考,并请自行核实相关内容。对于因使用或依赖本文内容所产生的任何直接或间接损失,本网站不承担任何责任。

标签: 存储