分布式爬蟲指的是在分布式計(jì)算環(huán)境中運(yùn)行的網(wǎng)絡(luò)爬蟲程序。通常情況下，爬蟲程序在單個(gè)計(jì)算機(jī)上運(yùn)行，通過網(wǎng)絡(luò)爬取目標(biāo)網(wǎng)站的數(shù)據(jù)。但是，隨著互聯(lián)網(wǎng)中數(shù)據(jù)量的增加，單個(gè)計(jì)算機(jī)的處理能力已經(jīng)無法滿足大規(guī)模數(shù)據(jù)爬取的需求，因此分布式爬蟲應(yīng)運(yùn)而生。

　　分布式爬蟲的基本原理是將任務(wù)分解成多個(gè)子任務(wù)，由多個(gè)計(jì)算機(jī)并行執(zhí)行，通過網(wǎng)絡(luò)協(xié)作完成數(shù)據(jù)的爬取和處理。每個(gè)計(jì)算機(jī)都負(fù)責(zé)處理部分任務(wù)，將爬取到的數(shù)據(jù)存儲(chǔ)到共享的數(shù)據(jù)存儲(chǔ)系統(tǒng)中，以便其他計(jì)算機(jī)訪問和處理。