DMC – 技术引领web3.0的产物

如今,Web3正在快速发展,出现了各种Web3应用,例如NFT、去中心化游戏、元宇宙、Web3社交应用和DAO等。但这些Web3应用都以“Web2应用提供服务+集中式数据库存储应用数据+区块链存储金融资产并进行资产交易”的模式运行。这些Web3应用的前景有限。如果无法实现应用数据的去中心化存储,就很难构建真正的去中心化Web3应用。像以太坊这样的区块链只能解决金融的去中心化,但无法在以太坊上存储大量的应用数据。

分布式存储底层技术

分布式存储底层技术是指支持分布式存储的技术基础,包括分布式文件系统、分布式数据库、分布式缓存、分布式计算等。这些技术为分布式存储提供了底层支持,可以实现存储容量扩展、数据备份和灾备、数据共享和协同等功能,提高了存储系统的可靠性、可扩展性和性能。

分布式文件系统是分布式存储的核心技术之一,其主要功能是将文件数据分散存储在多个节点上,实现文件访问和管理的统一性。常见的分布式文件系统包括HDFS、Ceph、GlusterFS等,它们通过数据分片、数据复制、数据冗余等技术保证了文件数据的可靠性和高可用性。

分布式数据库是另一个重要的分布式存储技术,它将数据分布在多个节点上,通过数据分区、数据复制、数据同步等技术实现数据管理和查询的统一性。常见的分布式数据库包括MySQL Cluster、HBase、Cassandra等,它们通过横向扩展、数据分片、数据冗余等技术提高了系统的性能和可靠性。

分布式缓存是用于提高数据访问性能的分布式存储技术,通过将数据缓存在多个节点上,实现数据的快速访问和响应。常见的分布式缓存包括Memcached、Redis等,它们通过数据分区、数据同步等技术提高了缓存系统的可靠性和性能。

分布式计算是一种支持分布式存储的计算模式,通过将计算任务分散到多个节点上,实现数据的分布式计算和分析。常见的分布式计算框架包括Hadoop、Spark、Flink等,它们通过数据分片、任务调度、数据缓存等技术提高了计算系统的可靠性和性能。

总之,分布式存储底层技术是实现分布式存储的基础,对于支持大规模数据存储和处理、提高数据可靠性和性能具有重要意义。随着数据量的不断增长和应用场景的不断扩展,分布式存储底层技术也将不断发展和创新。





在现有的去中心化存储解决方案中,最受欢迎、最实用、拥有最大社区的是IPFS+FileCoin。但它仍然存在许多缺点。现在让我们对它进行客观分析:

IPFS数据存储过程

IPFS的设计思想是每个人都可以自由运行自己的IPFS节点来形成一个P2P网络。您的数据存储在您的节点上,并可以自愿由其他节点进行备份。每个数据在整个网络中都有一个唯一的CID。只要您知道CID,就可以从网络中检索数据,实现数据的分散存储和检索。其具体的操作机制如下:每个节点维护自己的DHT,该DHT维护了一小部分节点的地址信息,并“提供者记录”网络中一小部分数据。“提供者记录”是记录哪个节点具有某些数据的方式,例如“Alice具有CID_D此数据”。IPFS的总体架构如图所示:



当Alice节点存储数据D时,她需要在网络中检索最接近该数据的m个节点(通常是20个),并请求它们在其DHT中保存提供者记录“Alice拥有CID_D数据”。计算节点和CID_D之间“距离”的算法使用Kademlia算法。检索过程是这样的,Alice首先从自己的DHT中找到K个与数据D“最接近”的节点,并请求它们保存记录。如果这些节点在它们自己的DHT中找到比自己“更接近”的节点,它们会向Alice推荐它们,并且Alice将请求这些“更接近”的节点。通过多轮请求,最终可以找到相对最接近的节点,并让它们存储记录。

缺陷

尽管IPFS看起来不错,但它有一个致命的缺陷,即网络中没有激励机制,这意味着每个人都需要提供对他人具有负面效益的服务。例如,维护DHT、响应他人的检索请求会消耗大量带宽,为他人存储提供者记录和数据会消耗大量存储空间。所有这些都需要成本,但这些事情与自己无关,而且没有好处。我相信大多数人都不想做这样的事情。IPFS文档也承认IPFS无法保证数据被检索到。



FileCoin

很多人认为FileCoin是IPFS的激励层,以鼓励节点行为。但实际上不是这样的。FileCoin用于为IPFS中的数据提供长期备份,以防止数据丢失,而IPFS则用于分散检索数据。FileCoin和IPFS是两个不同的网络。此外,FileCoin的激励模型也存在问题。FileCoin的理念是存储的数据越多,存储时间越长,就会获得更多的FIL奖励。那么对于矿工来说,是不是存储自己的垃圾数据比存储真正的用户数据更划算呢?因此,尽管FileCoin声称存储了大量数据,但几乎所有矿工都知道这是垃圾数据。此外,一旦FIL价格急剧下跌,矿工就不愿提供存储。如果用户真的将数据保存在FileCoin上,很可能会丢失。

CYFS的创新设计

CYFS使用创新的架构来解决IPFS上述问题,实现了真正可行的去中心化存储基础设施。与IPFS的节点类似,我们也让用户运行自己的OOD(Owner Online Device)来形成一个P2P网络。架构图如下:

激励机制

IPFS的根本缺陷在于没有设计激励机制。那么问题来了,这个激励机制应该如何设计呢?这看起来很复杂,但让我们回到人类商业社会的基本原则,就会清楚:谁有需求,谁支付成本。在分散式存储系统中,即“谁有对数据的可靠存储和检索需求,他就应该支付成本”。显然,只有数据所有者自然拥有这个需求。因此,现在的激励机制已经很清楚了:数据所有者本人应该负责数据的存储和检索,如果需要依靠第三方,他们应该向数据所有者收费。IPFS的数据检索涉及数百个随机节点,这使得在技术上不可能设计激励机制。

我们在CYFS中创新地使用区块链替换DHT,称为meta-chain。只要Alice在meta-chain上发布她的OOD的最新地址,Bob就可以通过设备ID从meta-chain中获取它,并连接到Alice的OOD。问题解决了!后续过程与IPFS相同。Bob直接向Alice请求数据,并通过检查对象ID证明数据是原始数据。只要Alice确保她的OOD在线,整个过程就无法被其他人干扰,并且具有与Web2相同的性能。

更可靠的数据存储

许多人可能会问,如果数据存储在自己的OOD上,如果OOD崩溃了,数据会丢失怎么办?解决这个问题的两种方法,一种是使用多个OOD实现高可用性,另一种是付费将重要数据加密备份到其他人的OOD上(以防止其他人窃取数据)。只要您可以在任何地方重新运行您的OOD,就可以使用私钥取回您的数据。CYFS设计了DSG协议,提供完整的服务证明方法,可以保护双方的利益。同时,DSG协议支持在其上建立分散存储匹配市场,为存储资源提供合理的价格和更多激励。

还有人可能会问:“维护我的OOD在线太麻烦了,有没有一种方法可以在不需要运行OOD的情况下存储和检索我的数据?”IPFS同意这种观点,这就是为什么它们提供像pinata这样的集中式ping服务。但这与AWS S3有什么不同呢?这种解决方案易于实现,但我们首先应该知道Web3数据去中心化的意义是什么?Web3数据去中心化的意义在于让用户真正拥有自己的数据。如果不涉及拥有权,将其放在Web2应用程序上更为方便。如果您想真正拥有自己的数据,就必须控制自己的存储设备。

DMC生态系统

DMC存储网络是一个完全去中心化的市场,专门在CYFS上创建,该开源协议可以实现完全去中心化的应用程序的创建。CYFS是下一代去中心化技术,通过升级Web(TCP/IP + DNS + HTTP)的基本协议,构建具有完全去中心化和自由的Web3。通过CYFS,每个人都能拥有自己的资产、数据和应用程序。

DMC网络将消费者对去中心化存储的需求与矿工对去中心化存储的供应相匹配。该网络还解决了去中心化存储客户面临的许多困难和风险,例如价格欺诈、流动性不足和虚假存储服务能力。所有这些都没有任何集中的服务器或服务。

为实现高效的去中心化存储市场,DMC为生态系统中的每个角色创建了可持续的运营环境。包括存储客户、矿工和矿池、有限合伙人、交易员和开发人员在内的所有利益相关者都是DMC生态系统中不可或缺的参与者。

矿工在DMC生态中的作用

矿工在DMC存储网络中扮演着至关重要的角色。通过零门槛设置,任何存储客户都可以以去中心化的方式租用分散式存储空间,从而消除了由中介带来的信息壁垒。

矿工包括个人矿工和大型矿池,任何人都可以挖掘DMC。最重要的参数是闲置的在线存储容量,这是网络的主要资源。通过允许任何人挖掘DMC,确保了DMC生态系统中的供应将高度分散和地理分布,提高了网络的弹性。个人只需要一个设备就可以成为DMC矿工,并获得存储交易和交易奖励,这可以帮助他们相应地扩大运营规模。

大型企业矿池,包括新的战略合作伙伴OKX、Gate.io、BIT Mining Limited、IPFSMain和BCT Incorporated,为具有大量数据的客户提供长期稳定的加密存储服务,矿池通过更稳定的存储交易和更好的回报获得更好的回报。此外,这些较大的客户对持久性、可用性和响应时间有更高的期望。DMC的矿池社区为这些客户提供更灵活、更具成本效益的数据存储解决方案。