如何删除 a.json 文件中的所有“$oid”和“$date”？

Question

我有一个 .json 文件保存在我的计算机中，其中包含$oid或$date类的内容，稍后会在 BigQuery 中给我带来麻烦。 例如：

{
  "_id": {
  "$oid": "5e7511c45cb29ef48b8cfcff"
  },
  "about": "some text",
  "creationDate": {
  "$date": "2021-01-05T14:59:58.046Z"
  }
}

我希望它看起来像（所以它不仅仅是从字符串中删除一些字母）：

{
  "_id": "5e7511c45cb29ef48b8cfcff",
  "about": "some text",
  "creationDate": "2021-01-05T14:59:58.046Z"
}

使用 Pymongo，可以执行以下操作：

my_file['id']=my_file['id']['$oid']
my_file['creationDate']=my_file['creationDate']['$date']

如果不使用 Pymongo，这会怎样，因为我想首先找到这样的键并删除所有有问题的$oid或$date ？

编辑：抱歉措辞不好，我的意思是是否有可能找到包含这些有问题的键 $ 而无需写下字典中的每个键。 实际上，有更多带有大表的文件，其中许多可以包含这个。

Answer 1

我会尝试如下所示的方法。

import json
file = open('data.json','r')
data = json.load(file)
for k,v in data.items():
    #check if key has dict value
    if type(v) == dict:
        #find id with $
        r = list(data[k].keys())[0]
        #change value if $ occurs
        if r[0] == '$':
            data[k] = data[k][r]
print(data)

好像我们得到了这个 output。

{'_id': '5e7511c45cb29ef48b8cfcff', 'about': 'some text', 'creationDate': '2021-01-05T14:59:58.046Z'}

Answer 2

当您使用bson.json_util.dumps()使用默认编码器时，会出现$oid和$date字段。

如果您可以控制这些文件的来源，您可能希望从源头解决“问题”，而不必围绕它编写代码。 下面的代码片段显示了如何实现自定义编码器来格式化 output 的格式：

import json
import datetime
from pymongo import MongoClient


class MyJsonEncoder(json.JSONEncoder):
    def default(self, obj):
        if isinstance(obj, datetime.datetime):
            return obj.isoformat()
        if hasattr(obj, '__str__'):  # This will handle ObjectIds
            return str(obj)

        return super(MyJsonEncoder, self).default(obj)


db = MongoClient()['mydatabase']
db.mycollection.insert_one({'Date': datetime.datetime.now()})
record = db.mycollection.find_one()
print(json.dumps(record, indent=4, cls=MyJsonEncoder))

印刷：

{
    "_id": "60a55e3cea5bf57c79177871",
    "Date": "2021-05-19T19:51:40.808000"
}