千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機構(gòu)

手機站
千鋒教育

千鋒學(xué)習(xí)站 | 隨時隨地免費學(xué)

千鋒教育

掃一掃進入千鋒手機站

領(lǐng)取全套視頻
千鋒教育

關(guān)注千鋒學(xué)習(xí)站小程序
隨時隨地免費學(xué)習(xí)課程

當(dāng)前位置:首頁  >  應(yīng)聘面試  >  大數(shù)據(jù)面試題  > Flume結(jié)構(gòu)攔截器

Flume結(jié)構(gòu)攔截器

來源:千鋒教育
發(fā)布人:wjy
時間: 2022-09-01 15:59:41 1662019181

所有events,增加頭,類似json格式里的"headers":{" key":" value"} 時間戳(頭部插入時間戳)、主機(頭部插入主機名和IP)、靜態(tài)(頭部插入指定KV)、正則過濾(留下符合條件的)、自定義 攔截器作用   1)ETL攔截器:輕度清洗,過濾出Json格式不完整的數(shù)據(jù)   2)時間攔截器:提取日志時間作為分區(qū)的依據(jù),避免零點漂移問題 自定義攔截器步驟   1)實現(xiàn)Interceptor   2)重寫方法    ?。?)initialize初始化方法     (2)public Event intercept(Event event) 處理單個Event    ?。?)public List intercept(List events) 處理多個Event,在這個方法中調(diào)用Event intercept(Event event)    ?。?)close方法   3)靜態(tài)內(nèi)部類,實現(xiàn)Interceptor.Builder   4)打包,上傳至flume/lib目錄下   5)在配置文件中關(guān)聯(lián):全類名 + $builder 攔截器可以不用嗎?   可以不用,在hive的dwd層或sparkStream中處理即可,也可以用,但會影響性能,不推薦用在實時性高的場景

Flume結(jié)構(gòu)攔截器

tags:
聲明:本站稿件版權(quán)均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強師集結(jié),手把手帶你蛻變精英
請您保持通訊暢通,專屬學(xué)習(xí)老師24小時內(nèi)將與您1V1溝通
免費領(lǐng)取
今日已有369人領(lǐng)取成功
劉同學(xué) 138****2860 剛剛成功領(lǐng)取
王同學(xué) 131****2015 剛剛成功領(lǐng)取
張同學(xué) 133****4652 剛剛成功領(lǐng)取
李同學(xué) 135****8607 剛剛成功領(lǐng)取
楊同學(xué) 132****5667 剛剛成功領(lǐng)取
岳同學(xué) 134****6652 剛剛成功領(lǐng)取
梁同學(xué) 157****2950 剛剛成功領(lǐng)取
劉同學(xué) 189****1015 剛剛成功領(lǐng)取
張同學(xué) 155****4678 剛剛成功領(lǐng)取
鄒同學(xué) 139****2907 剛剛成功領(lǐng)取
董同學(xué) 138****2867 剛剛成功領(lǐng)取
周同學(xué) 136****3602 剛剛成功領(lǐng)取
相關(guān)推薦HOT
快速通道