Skip to content

zixuedanxin/bigdata_learn

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

53 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

bigdata_learn

历史大数据项目以及大数据学习,主要是spark数据处理

kafkaweb 目录

1、用来web api接收各个系统发过的数据

2、将数据转发到kafka集群

hyspark 目录

1、spark streaming 微批次处理kafka的数据

2、数据处理后分别插入mongodb 和 hbase

ybd_spark 目录

1、 maxwell 解析mysql binlog 日志,并发送到kafka

2、 解析后的mysql数据实时同步的hbase

spark-scala-learn

spark 项目混杂 用于学习 练习