并发MySQL用GORM写入导致报错

Question

我在 Golang 中实现了一个复杂的 csv 导入脚本。 我为此使用了 Workerpool 实现。 在该工作池中，工作人员处理 csv 大小的数千个文件，对产品进行分类、标记和标记。 他们都写入同一个数据库表。 到目前为止，一切都很好。

我面临的问题是，如果我选择了 2 个以上的工人，该过程会随机崩溃并显示以下消息

工作流程是

foreach (csv) {
 workerPool.submit(csv)
}

func worker(csv) {
 foreach (line) {
   import(line)
 }
}

import(line) {
 product = get(line)
 product.category = determine_category(product)
 product.brand = determine_brand(product)
 save(brand)
 product.tags = determine_tags(product)
 //and after all
 save(product)
}

我试图将 save() 调用包装在事务中，但没有帮助。

现在我有以下问题：

1. MySQL适合并发保存到1张表吗？
2. 如果需要交易来完成这个，他们应该在哪里设置？
3. Go SQL 驱动程序（错误总是发生在数据包中。go:1102）是否适合执行此操作？
4. 谁能帮助我（也许可以雇用几个小时）？

我完全卡住了。 如果有帮助，我也可以分享源代码。 但我首先想知道你猜这是我的代码还是一般问题。

Answer 1

在每个 goroutine（或线程，对于使用线程的语言）中打开一个新的数据库连接。

MySQL 的协议是有状态的，这意味着如果多个 goroutine 尝试使用同一个连接，请求和响应会变得非常混乱。

尝试在 goroutine 之间共享任何其他类型的有状态协议连接时，您会遇到同样的问题。

例如 ftp 也是一个有状态协议，这样可能更容易理解。 客户端 goroutine 可能会发送一条消息，如“获取文件 x”，响应应该是一系列包含该文件内容的消息。 如果另一个 goroutine 在该请求/响应正在进行时尝试使用相同的连接，则两个客户端都会感到困惑。 第二个 goroutine 将读取属于它未请求的文件的数据包。 第一个请求该文件的 goroutine 会发现它期望的一些数据包已经被读取。

同样，MySQL 的协议也不支持多个客户端 goroutine 共享一个连接。