使用K最近邻居创建特征

Question

我是Python和机器学习的新手，但我一直在为按揭价格建立预测模型。 我苦苦挣扎的地方是使用K最近邻居算法来创建要素。

这是我了解要完成的工作的方式：

1. 我有两个数据文件：已出售抵押和列出抵押
2. 在这两个数据文件中，我具有相同的功能（包括纬度/经度）。
3. 我想在“抵押贷款列出”中创建一列，该列代表紧邻区域中最密切相关的房屋的中间价格。
4. 我将使用3中列出的方法来创建1-3个月，4-6个月，7-12个月的列。
5. 另一列将是这三列的趋势。

我在KNN插补中找到了一些东西，但这似乎并不是我想要的。

我该如何执行这个想法？ 有没有我可能会错过的资源会有所帮助？

任何指导将不胜感激。 谢谢！

Answer 1

因此，据我了解，您希望使用按揭出售数据来拟合KNN模型，以预测按揭列表数据的价格。 这是一个经典的KNN问题，您将需要针对列表数据中的每个特征向量在Sold数据中找到最接近的特征向量，然后取这些特征向量的中值。

• 假设在售出数据中有n行，并且每行的特征向量为X1，X2，...，Xn，而相应的价格为P1，P2，...，Pn

  X_train = [X1, X2, ..., Xn]

  y_train = [P1, P2, ..., Pn]

• 请注意，每个Xi本身都是一个特征向量，并且是第i行的代表

• 现在，考虑要为列出数据中的每一行在已售数据中最接近5行。 因此，此处可能需要稍后优化的KNN模型参数为：

  NUMBER_OF_NEIGHBOURS = 5

• 现在，训练代码将如下所示：

  from sklearn.neighbors import KNeighborsClassifier

  knn_model = KNeighborsClassifier(n_neighbors=NUMBER_OF_NEIGHBOURS)

  knn_model.fit(X_train, y_train)

• 为了进行预测，请考虑列出数据中有m行，每行的特征向量为F1，F2，...，Fm。 需要确定相应的中位数价格Z1，Z2，...，Zm。

  X_test = [F1, F2, ..., Fm]

• 请注意，应使用相同的Vectorizer / Transformer对X_train和X_test中的特征向量进行矢量化。 在此处阅读有关Vectorizer的更多信息。

• 预测代码如下所示：

  y_predicted = knn_model.predict(X_test)

• y_predicted列表中的每个元素（在这种情况下）将包含y_train的5个最接近的价格。 那是：

  y_predicted = [(P11, P12, .., P15), (P21, P22, .., P25), .., (Pm1, Pm2, .., Pm5)]

• 对于y_predicted的每个第j个元素：

  import numpy as np

  Zj = np.median(np.array([Pj1, Pj2, .., Pj5]))

• 因此，以这种方式，您可以找到列出数据的每一行的中位数价格Zj

• 现在，进入参数优化部分。 您的KNN模型中唯一的超参数是NUMBER_OF_NEIGHBOURS。 您可以通过将X_train本身划分为80:20的比率来找到此参数的最佳值。 对80％的部分进行训练，对其余20％的部分进行交叉验证。 一旦确定了准确度数字足够好，就可以使用超参数NUMBER_OF_NEIGHBOURS的该值进行y_test的预测。

• 最后，对于按月分析，您将需要创建按月模型。 例如，M1 =训练在1-3个月的销售数据，M2 =训练在4-6个月的销售数据，M3 =训练在7-12个月的销售数据，等等。

参考： http : //scikit-learn.org/stable/modules/generated/sklearn.neighbors.KNeighborsClassifier.html