我有一张桌子,里面有大约520万行.我必须获取所有行并在Nosql数据库中导入它们(非规范化).
该表有两个整数字段C_ID和A_ID以及3个索引,一个在C_ID上,一个在A_ID上,一个在两个字段上.
我一开始就尝试过这种方式：
SELECT C_ID,A_ID FROM M_TABLE;
这从未在合理的时间内给我任何结果(我没有可能测量时间,因为它似乎永远不会完成).
我以这种方式更改了查询：
SELECT /*+ ALL_ROWS */ C_ID,A_ID FROM (SELECT
rownum rn,C_ID,A_ID
FROM
M_TABLE WHERE rownum < ((:1 * :2 ) +1 )) WHERE rn >= (((:1 -1) * :2 ) +1 );
我使用3个线程并行运行此查询,并使用大小为1000的页面进行分页.
我试着介绍三种优化：
1)我在表格上创建了统计数据：
ANALYZE TABLE TABLE_M ESTIMATE STATISTICS SAMPLE 5 PERCENT;
2)我在8个分区中对表进行了分区.
3)我用并行选项创建了表.
现在我能够每秒获取10000行,因此整个过程大约需要15个小时才能完成(数据库运行在4核,8 GB机器上).
问题是我需要在最多5个小时内完成所有操作.
我没有想法,所以,在我要求新机器之前,你知道如何在这种情况下提高性能.
解决方法
我问的原因是通常一个FULL SCAN(没有ORDER BY)会立即返回第一行.如果您要将结果输出到文件,您应该会看到它立即开始填满.如果不这样做,这意味着在段的开头有很多空的空间,这可以解释为什么查询永远不会返回(至少在合理的时间内).
所以当你说你的查询没有回复我有点担心时,你怎么知道？以下块是否返回？
DECLARE
l NUMBER := 0;
BEGIN
FOR cc IN (SELECT C_ID,A_ID FROM M_TABLE) LOOP
l := l + 1;
EXIT WHEN l >= 100000;
END LOOP;
END;
如果是,则表示正在处理您的全扫描.通过对上述查询进行计时,您应该能够计算完整单个SCAN所需的时间,假设该段是均匀密集的.
读取500M行是很多工作但是行很小,所以如果表段压缩得很好,Oracle应该在合理的时间内返回所有行.如果重复删除,则表段可能具有低效的空间配置,然后加载INSERT / * APPEND * /.重建表(ALTER TABLE MOVE)将删除段中所有空的无用空间.顺便说一句,当您对表进行分区时,您确实重建了它,因此这可能就是您的查询现在返回的原因！
在任何情况下,我都会建议您重建FULL TABLE SCAN,可能在重建表格后重置任何空白区域和高水位标记.单个FULL TABLE SCAN是迄今为止访问大量数据的最可靠方法(也是最有效的方法之一).
如果您需要进一步提高性能,我建议您查看ROWID分区(DIY parallel processing方案)或内置软件包DBMS_PARALLEL_EXECUTE.
