Skip to content

chaogefeng/tpcds-for-spark

 
 

Repository files navigation

执行步骤:

1. 设置环境变量

vi tpcds-env.sh
  • 数据量
  • 环境变量
  • 设置数据生成节点vi nodenum.sh

2. 生成测试数据

cd tpcds-kit/tools
make clean
make
cd ../..
./gen-data.sh

3. 创建hdfs数据目录

./hdfs-mkdirs.sh

4. 上传数据到hdfs

./upload-data.sh

5. 创建外部表

create-external-tables.sh

6. 创建对应的分区表、并对事实表进行格式化、压缩

create-parquet-partition-tables.sh

7. 生成查询sql

./gen-sql.sh

8. Spark Sql 方式执行测试

./spark-query-tpcds.sh

9. Beeline方式执行测试

./spark-query-tpcds-beeline.sh

注意需要先启动对应的thrift server

10. 说明

当前tpcds-kit目录中的query_templates已为最新修改完成后的templates query_templates_modify目录为修改的sql语句,适配Spark

原项目为 https://github.com/cloudera/impala-tpcds-kit 本项目只为方便在Spark端测试,如有侵权,立刻删除。

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages

  • C 86.0%
  • TSQL 5.4%
  • Makefile 3.3%
  • Shell 2.4%
  • Yacc 1.3%
  • Lex 0.6%
  • Other 1.0%