PyMongo 查询数据的实现
查询数据
往 mongodb存储的所有数据,都是为了需要读取的时候能够取出。
但读取除了按某一列比如分数: 排序 读取;还会出现我只看某一段时间、某个班的条件筛选;还会出现我想看每个班平均分 聚合 求平均....等等多样操作
这些操作都可以通过 find_one()、find() 完成:
ret2find = collect.find_one()
# {'_id': ObjectId('5ea780bf747e3e128470e485'), 'class_name': '高三(1)班', 'student_name': '张三', 'subject': '英语', 'score': 100, 'date': '20200301'}
ret2find = collect.find()
# <pymongo.cursor.Cursor object at 0x0000024BBEBE15C8>
从上面的结果可以看出,find_one() 查询得出单一字典;find()则是一个生成器对象能够通过 for val in ret2find: 遍历取出
设置查询条件
但能取出全部数据还不够,查询一般是会带条件、甚至复杂的条件 —— 比如:查询出 高三(1)班,张三 或 李四,成绩大于90 的科目,该怎么做呢?
ret2find = collect.find({"class_name":"高三(1)班","score":{"$gt":90},"$or":[{"student_name":"张三"},{"student_name":"李四"}]})
for val in ret2find:
print(val)
上面有两个要点:
{"class_name":"高三(1)班","score":{"$gt":90}}
这一段 写法 表示 “高三(1)班 且 分数 > 90”;
而 $gt 比较操作符,表 大于意思,除 $gt 操作符以外还有:
符号 | 含义 |
---|---|
$lt | 小于 |
$lte | 小于等于 |
$gt | 大于 |
$gte | 大于等于 |
$ne | 不等于 |
$in | 在范围内 |
$nin | 不在范围内 |
{"$or":[{"student_name":"张三"},{"student_name":"李四"}]}
这一段 写法 表示 “学生名称为 张三 或 李四”
而其中的 $or 逻辑操作符,用它来表示条件之间的关系。除了 $or 以外的逻辑操作符还有:
符号 | 含义 |
---|---|
$and | 按条件取 交集 |
$not | 单个条件的 相反集合 |
$nor | 多个条件的 相反集合 |
$or | 多个条件的 并集 |
更多查询操作
除了上述常规操作外,具体使用场景中我们还会用到:
符号 | 含义 | 示例 | 示例含义 |
---|---|---|---|
$regex | 正则匹配 | {"student_name":{"regex":".∗三"}} | 学生名以 “三” 结尾 |
$expr | 允许查询中使用 聚合表达式 | {"expr":{"gt":["spent","budget"]}} | 查询 花费 大于 预算 的超支记录 |
$exists | 属性是否存在 | {"date":{"$exists": True}} | date属性存在 |
$exists | 属性是否存在 | {"date":{"$exists": True}} | date属性存在 |
$type | 类型判断 | {"score":{"$type":"int"}} | score的类型为int |
$mod | 取模操作 | {'score': {'$mod': [5, 0]}} | 分数取5、0的模 |
更多 查询操作符 可以点击 查看官方文档
PS:pymongo最大查询限制
在用pyhton遍历mongo数据中时候,发限查询到101行就会阻塞,如下
lista_a = []
for info in db.get_collection("dbs").find():
lista_a.append(info)
print("info nums=",len(info))
'''结果显示'''
'''info nums=101'''
分析原因:mongodb的find()方法返回游标cursor,可能有一个限制阈值101,参考文档,如下
原文:
The MongoDB server returns the query results in batches. The amount of data in the batch will not exceed the maximum BSON document size. To override the default size of the batch, see batchSize() and limit().
New in version 3.4: Operations of type find(), aggregate(), listIndexes, and listCollections return a maximum of 16 megabytes per batch. batchSize() can enforce a smaller limit, but not a larger one.
find() and aggregate() operations have an initial batch size of 101 documents by default. Subsequent getMore operations issued against the resulting cursor have no default batch size, so they are limited only by the 16 megabyte message size.
For queries that include a sort operation without an index, the server must load all the documents in memory to perform the sort before returning any results.
翻译:
MongoDB服务器批量返回查询结果。批处理中的数据量不会超过最大BSON文档大小。要覆盖批处理的默认大小,请参见batchSize()和limit()。
新版本3.4:类型为find()、aggregate()、listIndexes和listCollections的操作每批最多返回16兆字节。batchSize()可以执行较小的限制,但不能执行较大的限制。
find()和aggregate()操作的初始批处理大小默认为101个文档。针对生成的游标发出的后续getMore操作没有默认的批处理大小,因此它们仅受16mb消息大小的限制。 对于包含没有索引的排序操作的查询,服务器必须在返回任何结果之前加载内存中的所有文档来执行排序。
解决方案
lista_a = []
for info in db.get_collection("dbs").find().batch_size1(5000): #修改最大限制阈
lista_a.append(info)
print("info nums=",len(info))
但是这种方法是每次游标返回5000条数据,循环遍历,如果单词查找50000次应该怎么写呢?如下
lista_a = []
cousor=db.get_collection("dbs").find().batch_size1(5000)
for i in range(50000): #修改最大限制阈
lista_a.append(next(cousor))
到此这篇关于PyMongo 查询数据的实现的文章就介绍到这了,更多相关PyMongo 查询数据内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网!
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341