您的位置:首页技术文章
文章详情页

mysql - SQL语句可以提供“查询表,并至第100条结果为止”吗?

【字号: 日期:2022-06-20 16:24:24浏览:38作者:猪猪

问题描述

描述问题:目前想用SQL语句来查询一个表(50万条),并将表内昵称为空的用户Openid拿出来,每百条查询一次。环境MySQL。

问题关键:一次性取出,分百条查询,也会给服务器造成很大压力(*1),能不能让SQL查询出100条符合结果的记录,并返回最后一条的ID?

拓展:除了我这种想法,业界有没有一个合适的方案?或者关于SQL大容量查询 的一些书籍。

*1:首先,我的服务器是小水管,50万条已经相当重了。其次,就算我现在扩展服务器配置,假设某天达到了1亿条,也会成为很大的负载压力。

表结构:id openid nickname avatar

部分openid的nickname或avatar(头像)是空的,想要每次查出100个nickname或avatar(头像)为空的openid,并调用微信接口,将获取到的信息插入。

问题解答

回答1:

能不能让SQL查询出100条符合结果的记录,并返回最后一条的ID?

这个问题有点奇怪,到底是要返回100条数据呢?还是返回这100条数据里的最后一条ID呢?

首先50W条数据不算多,除非部署服务器的机器性能非常差,所以查询速度应该不至于很慢(除非你写了很复杂或者性能很低的SQL),分多次取出的话的确可以减轻数据库压力,但会增加网络传输压力。

另外,50W表数据的解决方案跟1E表数据的解决方案是完全不同的,所以不要妄想一套方案可以一劳永逸。

附上SQL:

SELECT DISTINCT openid FROM tableWHERE nickname IS NULLOR avatar IS NULLORDER BY id DESCLIMIT 100

由于用到了OR,所以估计用不上nickname和avatar的索引,或者你可以增加一个叫completed的字段,表示该条记录是否已经完善(即nickname和avatar均不为空,在程序插入数据时就维护该字段),这样你的查询SQL就可以避免OR连接了。

回答2:

把需要查询的字段都建上索引,在你现在这个场景下千万级数据都不会有压力

回答3:

1.索引加了没有?2.SQL优化一下

50万数据真心不算多啊。

回答4:

搞不懂你要实现什么功能,查出100条却只返回最后一条的一个列,没意义,区区50w数据而已,非要实现加索引写存储过程也就差不多了mysql - SQL语句可以提供“查询表,并至第100条结果为止”吗?mysql - SQL语句可以提供“查询表,并至第100条结果为止”吗?480w行的表查符合条件的列并返回所有整行,10秒而已,你的问题可能出在符合条件的行太多输出时内存不够,你可以写游标把结果一条一条插入一张新表,时间慢点而已。

回答5:

加索引,或者把数据库定时写入缓存

回答6:

你这样很没意思,搞得我声望成负的了,结果不理想可以讨论,直接删算什么