我的编程空间,编程开发者的网络收藏夹
学习永远不晚

MySQL与GORM并发写入导致错误

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

MySQL与GORM并发写入导致错误

MySQL与GORM的并发写入问题一直是开发者们头疼的难题。在高并发的情况下,多个线程同时写入数据库可能导致数据不一致或者错误的结果。php小编百草为你解析该问题的原因和解决方案,帮助你避免并发写入带来的困扰。通过合理的设计和优化,可以有效地解决MySQL与GORM的并发写入问题,保证数据的一致性和准确性。

问题内容

我在 golang 中实现了一个复杂的 csv 导入脚本。 我使用 workerpool 实现。在该工作池中,工作人员运行 1000 个小型 csv 文件,对产品进行分类、标记和品牌化。 它们都写入同一个数据库表。到目前为止一切顺利。

我面临的问题是,如果我选择了 2 个以上的工作人员,进程会随机崩溃并显示以下消息

工作流程是

foreach (csv) {
 workerPool.submit(csv)
}

func worker(csv) {
 foreach (line) {
   import(line)
 }
}

import(line) {
 product = get(line)
 product.category = determine_category(product)
 product.brand = determine_brand(product)
 save(brand)
 product.tags = determine_tags(product)
 //and after all
 save(product)
}

我尝试将 save() 调用包装在事务中,但没有帮助。

现在我有以下问题:

  1. mysql 是否适合同时保存到 1 个表?
  2. 如果需要事务来完成此任务,应该在哪里设置?
  3. go sql 驱动程序(错误总是发生在 packet.go:1102 中)是否适合执行此操作?
  4. 有人可以帮助我吗(也许可以雇佣几个小时)?

我完全被困住了。如果有帮助的话我也可以分享源代码。但我首先想知道你猜这是我的代码还是一般问题。

解决方法

在每个 goroutine(或线程,对于使用线程的语言)中打开一个新的数据库连接。

MySQL 的协议是有状态的,这意味着如果多个 goroutine 尝试使用同一个连接,请求和响应会变得非常混乱。

尝试在 goroutine 之间共享任何其他类型的有状态协议连接时,您也会遇到同样的问题。

例如ftp也是一个有状态的协议,这可能更容易理解。客户端 goroutine 可能会发送类似“获取文件 x”的消息,响应应该是一系列包含该文件内容的消息。如果另一个 goroutine 在请求/响应正在进行时尝试使用相同的连接,则两个客户端都会感到困惑。第二个 goroutine 将读取属于它未请求的文件的数据包。第一个请求该文件的 goroutine 会发现它所期望的一些数据包已被读取。

同样,MySQL 的协议也不支持多个客户端 goroutine 共享单个连接。

以上就是MySQL与GORM并发写入导致错误的详细内容,更多请关注编程网其它相关文章!

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

MySQL与GORM并发写入导致错误

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

MySQL与GORM并发写入导致错误

MySQL与GORM的并发写入问题一直是开发者们头疼的难题。在高并发的情况下,多个线程同时写入数据库可能导致数据不一致或者错误的结果。php小编百草为你解析该问题的原因和解决方案,帮助你避免并发写入带来的困扰。通过合理的设计和优化,可以有效
MySQL与GORM并发写入导致错误
2024-02-09

编程热搜

目录