简体   繁体   English

从头开始模仿 HDFS(Hadoop 分布式文件系统)

[英]Mimicking HDFS(Hadoop Distributed File System) from Scratch

I want to create my own mini-HDFS setup on my system, complete with the architectural structure consisting of Data Nodes and Name Nodes and replication of data across nodes using python.我想在我的系统上创建我自己的 mini-HDFS 设置,完成由数据节点和名称节点组成的架构结构以及使用 python 跨节点复制数据。 Could anyone help me with some resources for doing this?谁能帮我提供一些资源来做到这一点?

You can use Raft Protocol.您可以使用 Raft 协议。 This is my implemention for this protocol: https://github.com/Ehsan2754/Fall2021/tree/main/DPN/Lab8 you can pretty much see the way it works in my documents in my repo.这是我对这个协议的实现: https : //github.com/Ehsan2754/Fall2021/tree/main/DPN/Lab8你几乎可以在我的 repo 的文档中看到它的工作方式。 here is a interactive way to tell you how this protocol works.这是一种交互式方式来告诉您该协议的工作原理。 http://thesecretlivesofdata.com/raft/ http://thesecretlivesofdata.com/raft/

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM