分布式存储系统如何应对SSD硬盘UNC坏块可靠性问题？

Uncorrectable Bit Errors（UNC），也有时候叫做Media Error（介质错误）是指在闪存设备中出现的无法修复的位错误。Media Error的产生意味着即使硬盘自身已经用尽了所有容错手段（如LDPC解码，retry等），该扇区（LBA）的数据已经无法被正确读出，这些错误是由于闪存单元的物理磨损或损坏所导致的，随着闪存设备使用时间的增长，出现UNC的可能性也逐渐增加。

对云数据中心和业务的影响主要体现在以下几个方面：

1. 数据可靠性下降：UNC的出现意味着数据已经发生了永久性的损坏，无法被修复。这将对云数据中心的数据可靠性造成负面影响，可能导致数据丢失或损坏，进而影响业务的正常运行。
2. 设备寿命缩短：随着UNC的出现，闪存设备的寿命也将逐渐缩短。这将增加云数据中心的运营成本，需要更频繁地更换设备，同时也可能导致设备供应短缺。
3. 性能下降：闪存设备在出现UNC之前，往往会首先出现可纠正的位错误（CE）。随着CE数量的增加，设备需要进行更多的错误修复操作，这将消耗更多的资源并降低设备的性能。
4. 安全风险增加：UNC的出现可能会导致数据被篡改或窃取，进而增加云数据中心的安全风险。如果UNC发生在关键的业务数据上，可能会对业务造成重大影响。

综上所述，Uncorrectable Bit Errors（UNC）对云数据中心和业务的影响非常大，需要采取有效的措施来预防和处理UNC的出现。

近日看到一篇关于Facebook工程师通过分布式系统优化降低UNC影响的论文，小编觉得挺好的，这里分享下这篇文章的核心思路，心急的朋友可以直接点击文章底部“阅读原文”直接获取论文pdf文档。

本文提出了一种解决闪存寿命问题的方案DIRECT（Distributed error Isolation and RECovery Techniques），通过采用更密集、可靠性更低的闪存存储技术，以允许设备以更高的位错误率运行。DIRECT使用端到端的方法，包括数据编码、解码和错误纠正等技术，以实现数据的持久性和可用性。

DIRECT策略是一种用于提高分布式存储系统可靠性的方法，其主要内容包括以下几个方面：

1. 错误放大减少：DIRECT策略要求系统减少数据对象的错误放大，并修复远程副本中的损坏。错误放大是指当存储系统中发生错误时，这些错误会在数据读取和写入过程中被放大。通过减少错误放大，DIRECT可以减少数据的损坏，提高系统的可靠性。
2. 本地元数据错误放大减少：DIRECT策略还要求系统减少本地元数据的错误放大。元数据是描述数据的数据，例如文件的名称、大小、创建时间等等。由于元数据在存储系统中的重要性，其错误放大会比数据错误放大更加严重。通过减少本地元数据的错误放大，DIRECT可以提高系统的可靠性。
3. 安全恢复语义：DIRECT策略要求系统确保安全恢复语义。这意味着在发生故障时，系统能够恢复到一致的状态，而不会出现数据丢失或损坏的情况。通过确保安全恢复语义，DIRECT可以提高系统的可靠性

DIRECT策略是一种利用分布式级别冗余来提高闪存存储技术可靠性的策略。它通过使用端到端的方法来增加分布式存储系统的可靠性。在ZippyDB和HDFS两个真实的分布式存储系统中实施DIRECT策略

1. 在ZippyDB中，DIRECT通过减少应用程序可见的错误率和恢复时间来提高可靠性。它能够将应用程序可见的错误率降低100倍以上，并将恢复时间缩短10000倍以上。这意味着，如果出现错误，DIRECT可以更快地将系统恢复到正常状态，从而减少了故障对应用程序的影响。

1. 在HDFS中，DIRECT则允许系统容忍更高的位错误率，而不会出现应用程序可见的错误。具体来说，DIRECT可以使HDFS容忍比传统存储系统高10000到100000倍的位错误率。这意味着，使用DIRECT的HDFS可以在更恶劣的存储条件下运行，而不会影响到应用程序的正常运行。

从这篇论文的技术分享来看，分布式存储系统的软件强大，可以极大概率弥补硬件上的可靠性问题，减少对云存储系统的安全性。