1. “消費組中的消費者個數(shù)如果超過topic的分區(qū)，那么就會有消費者消費不到數(shù)據(jù)”這句話是否正確?如果正確，那么有沒有什么hack的手段？
答案：正確，可以通過自定義分區(qū)分配策略，將消費者指定到某個分區(qū)
2. 有哪些情形會造成重復(fù)消費或消息丟失？
答案：
1）當(dāng)poll部分消息集后，立即提交offset，在這部分消息集處理，可能會發(fā)生異常，這就導(dǎo)致部分消息丟失。
2）位移提交的動作是在消費完所有拉取到的消息之后才執(zhí)行的，中間可能發(fā)生異常，恢復(fù)后重新重新拉取，可能會導(dǎo)致重復(fù)消費
3. KafkaConsumer是非線程安全的，那么怎么樣實現(xiàn)多線程消費？
答案：
1）在每個線程中新建一個KafkaConsumer
2）單線程創(chuàng)建KafkaConsumer，多個處理線程處理消息(難點在于是否要考慮消息順序性，offset的提交方式)
4. 當(dāng)你使用kafka-topics.sh創(chuàng)建(刪除)了一個topic
答案：
創(chuàng)建：
1)會在zookeeper中的/brokers/topics節(jié)點下創(chuàng)建一個新的topic節(jié)點，如：/brokers/topics/first
2)觸發(fā)Controller的監(jiān)聽程序
3)kafka Controller 負責(zé)topic的創(chuàng)建工作，并更新metadata cache
刪除：
調(diào)用腳本刪除topic會在zk上將topic設(shè)置待刪除標(biāo)志，kafka后臺有定時的線程會掃描所有需要刪除的topic進行刪除
5. topic的分區(qū)數(shù)，增減問題
答案：分區(qū)只能增加，不能減少(若是減少分區(qū)需要考慮的問題太多，事物性問題，順序性問題，時間戳問題，但是收益太小)，副本可以減少
6. 內(nèi)部topic
_consumeroffsets：作用是保存 Kafka 消費者的位移信息，logCleaner線程來完成清除無用的提交(沒有消息消費了，默認5s一直在提交);
_transactionstate：用來存儲事務(wù)日志消息
7. 優(yōu)先副本選舉
答案：解決當(dāng)某個主機down機后，部分主機會有多個leader 副本，導(dǎo)致負載不均衡，優(yōu)先副本選舉就是解決此問題，生產(chǎn)上不建議開啟，可以手動控制。
8. 副本怎么同步？
答案：所謂同步，必須滿足兩個條件：
副本節(jié)點必須能與zookeeper保持會話(心跳機制)
副本能復(fù)制leader上的所有寫操作，并且不能落后太多(卡主或滯后的副本控制由replica.lag.time.max.ms配置)
利用HW，LEO進行復(fù)制同步。
9. 如果我指定了一個offset，Kafka怎么查找到對應(yīng)的消息？
答案：
1）跳躍表找到分段文件
2）利用稀疏索引(.index)，通過二分法定位到相鄰的offset
3）接著在segment順序查找
更多關(guān)于大數(shù)據(jù)培訓(xùn)的問題，歡迎咨詢千鋒教育在線名師，如果想要了解我們的師資、課程、項目實操的話可以點擊咨詢課程顧問，獲取試聽資格來試聽我們的課程，在線零距離接觸千鋒教育大咖名師，讓你輕松從入門到精通。
京公網(wǎng)安備 11010802030320號