改进MySQL Order By Rand()的低效率

时间：2017-06-21 15:02:06

最近由于需要研究了一下MYSQL的随机抽取实现方法。举个例子，要从tablename表中随机提取一条记录，大家一般的写法就是：

SELECT * FROM content ORDER BY RAND() LIMIT 1

3万条记录查询花费 0.3745 秒（下同）；从mysql slow query log看出“ORDER BY RAND() ”全表扫描了2次！

后来我查了一下MYSQL的官方手册，里面针对RAND()的提示大概意思就是，在ORDER BY从句里面不能使用RAND()函数，因为这样会导致数据列被多次扫描。但是在MYSQL 3.23版本中，仍然可以通过ORDER BY RAND()来实现随机。

但是真正测试一下才发现这样效率非常低。一个15万余条的库，查询5条数据，居然要8秒以上。查看官方手册，也说rand()放在ORDER BY 子句中会被执行多次，自然效率及很低。

搜索Google，采用JOIN，查询max(id) * rand()来随机获取数据。

SELECT * 
FROM `content` AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `content`)) AS id) AS t2 
WHERE t1.id >= t2.id 
ORDER BY t1.id ASC LIMIT 1;

查询花费 0.0008 秒，认为可以推荐使用这个语句！！

但是这样会产生连续的5条记录。解决办法只能是每次查询一条，查询5次。即便如此也值得，因为15万条的表，查询只需要0.01秒不到。

下面的语句，mysql的论坛上有人使用

SELECT * 
FROM `content` 
WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM `content` ) 
ORDER BY id LIMIT 1;

【查询花费 1.2254 秒，强烈不推荐！因为实测后，3万行的表，这个语句竟然会扫描500万行！！】

跟上面的语句还是有很大差距。总觉有什么地方不正常。于是我把语句改写了一下。

SELECT * FROM `content` 
WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM `content`)))  
ORDER BY id LIMIT 1;

【查询花费 0.0012 秒】

这下，效率又提高了，查询时间只有0.01秒

最后，再把语句完善一下，加上MIN(id)的判断。我在最开始测试的时候，就是因为没有加上MIN(id)的判断，结果有一半的时间总是查询到表中的前面几行。
完整查询语句是：

SELECT * FROM `content` 
WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `content`)-(SELECT MIN(id) FROM `content`)) + (SELECT MIN(id) FROM `content`)))  
ORDER BY id LIMIT 1;

【查询花费 0.0012 秒】

SELECT * 
FROM `content` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `content`)-(SELECT MIN(id) FROM `content`))+(SELECT MIN(id) FROM `content`)) AS id) AS t2 
WHERE t1.id >= t2.id 
ORDER BY t1.id LIMIT 1;

【查询花费 0.0008 秒】

最后在php中对这两个语句进行分别查询10次，
前者花费时间 0.147433 秒
后者花费时间 0.015130 秒
看来采用JOIN的语法比直接在WHERE中使用函数效率还要高很多。

======================================
【好了，最后来总结下】：
第一种方案，即原始的 Order By Rand() 方法：

$sql="SELECT * FROM content ORDER BY rand() LIMIT 12";
$result=mysql_query($sql,$conn);
$n=1;
$rnds='';
while($row=mysql_fetch_array($result)){
    $rnds=$rnds.$n.". <a href='show".$row['id']."-".strtolower(trim($row['title']))."'>".$row['title']."</a><br />\n";
    $n++;
}

3万条数据查12条随机记录，需要0.125秒，随着数据量的增大，效率越来越低。

第二种方案，改进后的 JOIN 方法：

for($n=1;$n<=12;$n++){
    $sql="SELECT * FROM `content` AS t1 
    JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `content`)) AS id) AS t2 
    WHERE t1.id >= t2.id ORDER BY t1.id ASC LIMIT 1";
    $result=mysql_query($sql,$conn);
    $yi=mysql_fetch_array($result);
    $rnds = $rnds.$n.". <a href='show".$yi['id']."-".strtolower(trim($yi['title']))."'>".$yi['title']."</a><br />\n";
}

3万条数据查12条随机记录，需要0.004秒，效率大幅提升，比第一种方案提升了约30倍。缺点：多次select查询，IO开销大。

第三种方案，SQL语句先随机好ID序列，用 IN 查询（飘易推荐这个用法，IO开销小，速度最快）：

$sql = "SELECT MAX(id),MIN(id) FROM content";
$result = mysql_query($sql, $conn);
$yi = mysql_fetch_array($result);
$idmax = $yi[0];
$idmin = $yi[1];
$idlist = '';
for ($i = 1; $i <= 20; $i++) {
    if ($i == 1) {
        $idlist = mt_rand($idmin, $idmax);
    } else {
        $idlist = $idlist . ',' . mt_rand($idmin, $idmax);
    }
}
$idlist2 = "id," . $idlist;
$sql = "select * from content where id in ($idlist) order by field($idlist2) LIMIT 0,12";
$result = mysql_query($sql, $conn);
$n = 1;
$rnds = '';
while ($row = mysql_fetch_array($result)) {
    $rnds = $rnds . $n . ". <a href='show" . $row['id'] . "-" . strtolower(trim($row['title'])) . "'>" . $row['title'] . "</a><br />\n";
    $n++;
}

 

3万条数据查12条随机记录，需要0.001秒，效率比第二种方法又提升了4倍左右，比第一种方法提升120倍。注，这里使用了 order by field($idlist2) 是为了不排序，否则 IN 是自动会排序的。缺点：有可能遇到ID被删除的情况，所以需要多选几个ID。