我的编程空间,编程开发者的网络收藏夹
学习永远不晚

深入理解Cassandra中用户指定的Compaction执行

短信预约 信息系统项目管理师 报名、考试、查分时间动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

深入理解Cassandra中用户指定的Compaction执行

在本文中,我将向您介绍Apache Cassandra中的一个高级选项,称为用户自定义compaction。顾名思义,这是一个告诉Cassandra显式地为一个或多个表创建compaction任务,然后这个任务被移交给Cassandra运行时,像其他任何compaction一样执行。

这不是你每天都需要做的操作。但是,当您希望立即回收磁盘空间,而不希望等待正常compaction启动时,它非常有用。

除非您运行的是Cassandra 3.4版(请参阅CASSANDRA-10660),否则需要使用JMX来发布用户定义的Compact.如果您以前没有使用过jmx命令,那么一开始可能会觉得很难接受。如果您来自非java背景,那么它很可能是一个完全陌生的概念。别让那吓跑你!在本文结束时,您将能够使用名为jmxterm的实用程序执行用户定义的compact。

为了演示这个过程,我们将使用本地安装的Cassandra 3.0.9,它加载了movielens数据(请参阅Movielens项目),使用CDM实用程序并强制刷新到磁盘(要了解更多关于CDM的信息,请参阅此TLP博客文章):

cdm install movielens
nodetool flush

需要调用nodetool flush以确保memtables已写入磁盘,如果我们不这样做,我们的数据将被放在内存中,Compaction是需要数据存在磁盘上。

我注意到movielens keyspace的用户目录中的数据文件:

jhaddad@rustyrazorblade ~/dev/cassandra$ find data/data/movielens/  -name "*Data.db"
data/data/movielens//movies-6728183094d311e68b105dbb96ed2de2/mc-1-big-Data.db
data/data/movielens//ratings_by_movie-6c2408d094d311e68b105dbb96ed2de2/mc-1-big-Data.db
data/data/movielens//ratings_by_user-69a85a7094d311e68b105dbb96ed2de2/mc-1-big-Data.db
data/data/movielens//users-68668ba094d311e68b105dbb96ed2de2/mc-1-big-Data.db

你可以在上面的输出中看到,我们有一个“users”目录,其中有一个数据文件mc-1-big-data.db。我们稍后需要完整的路径。

既然磁盘上有SSTables,那么让我们使用JMX来调用compact,因此我们首先需要获取jmxterm,这可能是整个过程中最棘手的部分,因为原始jmxterm页面上的下载链接已断开。从下载jmxterm的目录中使用以下命令启动它:

  java -jar jmxterm-1.0-alpha-4-uber.jar

要查看所有可用的命令,请使用help命令(输出被截断):

$>help
#following commands are available to use:
about    - Display about page
bean     - Display or set current selected MBean.
beans    - List available beans under a domain or all domains
...
open     - Open JMX session or display current connection
option   - Set options for command session
quit     - Terminate console and exit
run      - Invoke an MBean operation
set      - Set value of an MBean attribute

不过,我们要做的第一件事实际上是链接上Cassandra。标准的jmx端口是7199,你可以将其与主机一起传递给open命令:

$>open localhost:7199
#Connection to localhost:7199 is opened

在连接打开的情况下,我们可以在这里键入bean以获取可以访问的mbean列表。mbean只是通过jmx控制数据库的一种方式。我简化了输出,以便更容易找到我们要找的东西,CompactionManager:

$>beans -d org.apache.cassandra.db
#domain = org.apache.cassandra.db:
org.apache.cassandra.db:columnfamily=IndexInfo,keyspace=system,type=ColumnFamilies
org.apache.cassandra.db:columnfamily=aggregates,keyspace=system_schema,type=ColumnFamilies
...
org.apache.cassandra.db:type=CompactionManager
...

现在我们知道了mbean的名称,可以调用run命令,将mbean方法名forceuserdefinedcompaction和一个或多个文件路径作为参数传递:

$>run -b org.apache.cassandra.db:type=CompactionManager forceUserDefinedCompaction data/data/movielens//users-68668ba094d311e68b105dbb96ed2de2/mc-1-big-Data.db
#calling operation forceUserDefinedCompaction of mbean org.apache.cassandra.db:type=CompactionManager
#operation returns:
null

不幸的是,不是很令人高兴的输出。只有在查看目录后,我们才能看到文件号已从mc-1更改为mc-2:

jhaddad@rustyrazorblade ~/dev/cassandra$ ls data/data/movielens/users-68668ba094d311e68b105dbb96ed2de2/*Data.db
data/data/movielens/users-68668ba094d311e68b105dbb96ed2de2/mc-2-big-Data.db

Compact多个文件只是将它们传递给MBean,用逗号分隔。

此时,您应该熟悉使用jmxterm通过JMX启动用户定义的compact的过程我建议您在笔记本电脑上尝试一下,以适应这个过程,并探索其他可用的MBean。如果您更喜欢使用可视化工具而不是命令行工具,请查看jconsole,它随oracle jdk一起提供,但通常在生产中不太有用。

本文翻译自:https://thelastpickle.com/blog/2016/10/18/user-defined-compaction.html

入群邀约
为了营造一个开放的 Cassandra 技术交流环境,社区建立了微信群公众号和钉钉群,为广大用户提供专业的技术分享及问答,定期开展专家技术直播,欢迎大家加入。另外阿里云提供免费Cassandra试用:https://www.aliyun.com/product/cds

 

》》阿里云双11领亿元补贴,拼手气抽iPhone 11 Pro、卫衣等好礼,点此参与:http://t.cn/Ai1hLLJT

阅读原文
本文为云栖社区原创内容,未经允许不得转载。
 

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

深入理解Cassandra中用户指定的Compaction执行

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

深入理解Cassandra中用户指定的Compaction执行

在本文中,我将向您介绍Apache Cassandra中的一个高级选项,称为用户自定义compaction。顾名思义,这是一个告诉Cassandra显式地为一个或多个表创建compaction任务,然后这个任务被移交给Cassandra运行时,像其他任何com
2014-11-15

深入理解JS中的微任务和宏任务的执行顺序及应用场景

JavaScript中的任务分为宏任务和微任务,它们的执行顺序会影响代码的执行结果。了解它们的机制可以帮助我们更好地理解事件循环和异步编程,避免出现一些意想不到的错误
2023-05-19

深入理解Go语言文档中的flag.Usage函数自定义命令行帮助信息

深入理解Go语言文档中的flag.Usage函数自定义命令行帮助信息在Go语言中,我们经常会使用flag包来处理命令行参数。flag包提供了一种方便的方式来解析和处理命令行参数,让我们的程序可以接受用户输入的不同选项和参数。在flag包中,
深入理解Go语言文档中的flag.Usage函数自定义命令行帮助信息
2023-11-04

编程热搜

目录