[英]Shuffle rows of a large csv
我想打乱这个数据集以获得一个随机集。 它有 160 万行,但第一行是 0,最后一行是 4,所以我需要随机选择样本以获得多个 class。实际代码仅打印 class 0(意味着只有 1 类)。 我从这个平台上听取了建议,但没有用。
fid = open("sentiment_train.csv", "r")
li = fid.readlines(16000000)
random.shuffle(li)
fid2 = open("shuffled_train.csv", "w")
fid2.writelines(li)
fid2.close()
fid.close()
sentiment_onefourty_train = pd.read_csv('shuffled_train.csv', header= 0, delimiter=",", usecols=[0,5], nrows=100000)
sentiment_onefourty_train.columns=['target', 'text']
print(sentiment_onefourty_train['target'].value_counts())
因为您使用 Pandas 读取数据,您还可以使用pd.sample
以不同的方式进行随机化:
df = pd.read_csv('sentiment_train.csv', header= 0, delimiter=",", usecols=[0,5])
df.columns=['target', 'text']
df1 = df.sample(n=100000)
如果失败,最好检查唯一值的数量以及它们出现的频率。 如果前 1,599,999 个是 0 而最后一个只有 4,那么你很可能得不到任何 4。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.