Pandas写表到MySQL：“无法回滚”

Question

我需要帮助才能使这个工作。 我有一个pd.DataFrame (df) ，我需要加载到MySQL数据库。 我不明白错误消息的含义以及如何解决它。

任何帮助将受到高度赞赏。

这是我试过的：

    import MySQLdb
    from pandas.io import sql

    #METHOD 1 
    db=MySQLdb.connect(host="***",port=***,user="***",passwd="***",db="***")
    df.to_sql(con=db, name='forecast', if_exists='replace', flavor='mysql')
    ##Also tried
    sql.write_frame(df, con=db, name='forecast', if_exists='replace', flavor='mysql')

   **DatabaseError**: Execution failed on sql: SHOW TABLES LIKE %s
   (2006, 'MySQL server has gone away')
   unable to rollback


   #METHOD 2: using sqlalchemy
   from sqlalchemy import create_engine

   engine =   create_engine("mysql+mysqldb://**username***:**passwd**@***host***:3306/**dbname**")
   conn = engine.raw_connection()
   df.to_sql(name='demand_forecast_t', con=conn,if_exists='replace',    flavor='mysql',index=False, index_label='rowID')
   conn.close()

错误消息是：

**OperationalError**: DatabaseError: Execution failed on sql: SHOW TABLES LIKE %s
(2006, 'MySQL server has gone away') unable to rollback

Answer 1

使用sqlalchemy时，您应该传递引擎而不是原始连接：

engine = create_engine("mysql+mysqldb://...")
df.to_sql('demand_forecast_t', engine, if_exists='replace', index=False)

不使用sqlalchemy写入MySQL（因此指定flavor='mysql' ）已弃用。

当问题是你有一个太大的框架可以立即写入时，你可以使用chunksize关键字（参见docstring ）。 例如：

df.to_sql('demand_forecast_t', engine, if_exists='replace', chunksize=10000)

Answer 2

我能够解决这个问题。 我试图将一个大表加载到MySQL中，结果导致错误。 一个简单的for循环以块的形式上传数据解决了这个问题！ 非常感谢所有回复的人。

Answer 3

对我来说这是固定使用

MySQLdb.connect("127.0.0.1","root","","db" )

代替

MySQLdb.connect("localhost","root","","db" )

然后

df.to_sql('df',sql_cnxn,flavor='mysql',if_exists='replace', chunksize=100)

Answer 4

您可以使用mysql flavor（使用DBAPI连接）以下列方式在mysql表中编写pandas数据帧

step1：安装mysqldb模块 - $ sudo apt-get install python-dev libmysqlclient-dev然后$ pip install MySQL-python

step2：与mysql import MySQLdb连接import MySQLdb con = MySQLdb.connect("hostname","username","password","databasename")

step3：使用df.to_sql df.to_sql('TableName',con = con,flavor='mysql',if_exists='replace', chunksize=100)在mysql表中编写pandas数据帧