MySQL与GORM并发写入导致错误
MySQL与GORM的并发写入问题一直是开发者们头疼的难题。在高并发的情况下,多个线程同时写入数据库可能导致数据不一致或者错误的结果。php小编百草为你解析该问题的原因和解决方案,帮助你避免并发写入带来的困扰。通过合理的设计和优化,可以有效地解决MySQL与GORM的并发写入问题,保证数据的一致性和准确性。
问题内容
我在 golang 中实现了一个复杂的 csv 导入脚本。 我使用 workerpool 实现。在该工作池中,工作人员运行 1000 个小型 csv 文件,对产品进行分类、标记和品牌化。 它们都写入同一个数据库表。到目前为止一切顺利。
我面临的问题是,如果我选择了 2 个以上的工作人员,进程会随机崩溃并显示以下消息
工作流程是
foreach (csv) {
workerPool.submit(csv)
}
func worker(csv) {
foreach (line) {
import(line)
}
}
import(line) {
product = get(line)
product.category = determine_category(product)
product.brand = determine_brand(product)
save(brand)
product.tags = determine_tags(product)
//and after all
save(product)
}
我尝试将 save() 调用包装在事务中,但没有帮助。
现在我有以下问题:
- mysql 是否适合同时保存到 1 个表?
- 如果需要事务来完成此任务,应该在哪里设置?
- go sql 驱动程序(错误总是发生在 packet.go:1102 中)是否适合执行此操作?
- 有人可以帮助我吗(也许可以雇佣几个小时)?
我完全被困住了。如果有帮助的话我也可以分享源代码。但我首先想知道你猜这是我的代码还是一般问题。
解决方法
在每个 goroutine(或线程,对于使用线程的语言)中打开一个新的数据库连接。
MySQL 的协议是有状态的,这意味着如果多个 goroutine 尝试使用同一个连接,请求和响应会变得非常混乱。
尝试在 goroutine 之间共享任何其他类型的有状态协议连接时,您也会遇到同样的问题。
例如ftp也是一个有状态的协议,这可能更容易理解。客户端 goroutine 可能会发送类似“获取文件 x”的消息,响应应该是一系列包含该文件内容的消息。如果另一个 goroutine 在请求/响应正在进行时尝试使用相同的连接,则两个客户端都会感到困惑。第二个 goroutine 将读取属于它未请求的文件的数据包。第一个请求该文件的 goroutine 会发现它所期望的一些数据包已被读取。
同样,MySQL 的协议也不支持多个客户端 goroutine 共享单个连接。
以上就是MySQL与GORM并发写入导致错误的详细内容,更多请关注编程网其它相关文章!
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341