如何使用python在hadoop文件系统中创建json文件

Question

 os.system('echo "%s" | hadoop fs -put -f - /app/hdp/logs/json/a.json' %(json_string))

json_string=json.dumps({"a":"b"})

该文件是在 HDFS 中创建的，但 json 格式错误。 它存储的格式是{a:b} ，没有双引号，这不是正确的 json 格式。

这种方法有什么问题？

Answer 1

尝试使用以下方法：

import subprocess, json

json_string=json.dumps({"a":"b"})

proc = subprocess.Popen('echo "{0}" | hadoop fs -put -f - /app/hdp/logs/json/a.json'.format(json_string), shell=True)

字符串的格式应为"{"a":"b"}"

Answer 2

import subprocess, json
json_string=json.dumps({"a":"b"})
#json_string=json_string.replace('"','\"') try escaping quotes too
proc = subprocess.run('echo {0} | hadoop fs -put -f - /app/hdp/logs/json/a.json'.format(json_string), shell=True)

Answer 3

您将需要包含转义字符

在 shell 终端中回显 "{"a":"b"}"

输出：{a:b}