hdfs中的Java加载序列文件为JavaRDD <Vector>

Question

我有以下方法将文件写入HDFS

public void writePointsToFile(Path path, FileSystem fs, Configuration conf,
        List<Vector> points) throws IOException {

    SequenceFile.Writer writer = SequenceFile.createWriter(conf,
            Writer.file(path), Writer.keyClass(LongWritable.class),
            Writer.valueClass(Vector.class));

    long recNum = 0;

    for (Vector point : points) {
        writer.append(new LongWritable(recNum++), point);
    }
    writer.close();
}

我需要知道如何以JavaRDD<Vector>读取此文件以在Spark Clustering K-mean ？

Answer 1

Spark的典型模式是将不可变的对象转换为新的对象，因此转换DRM（Mahout分布式行矩阵）或Mahout Vectors集合是您应该这样做的方式。 所以不确定您要问什么。