在這個(gè)科技高度發(fā)達(dá)的時(shí)代，百度已經(jīng)成為人們能獲取新聞的主要途徑。但現(xiàn)在的百度，到處充斥著一些重復(fù)的內(nèi)容，對用戶的訪問造成很大的困擾。因此，百度需要對網(wǎng)頁重復(fù)進(jìn)行判斷，對重復(fù)的網(wǎng)頁，只選取一些高質(zhì)量的我那工業(yè)，共用戶瀏覽。然而，現(xiàn)有技術(shù)中一般是通過比較兩個(gè)頁面的內(nèi)容和借點(diǎn)，來確認(rèn)兩個(gè)頁面的相似度。

這種方法能夠計(jì)算的比較準(zhǔn)確，可時(shí)間復(fù)雜度太高，計(jì)算很費(fèi)時(shí)間。通過對一個(gè)頁面中的某些主要信息進(jìn)行簽名，然后比較兩個(gè)頁面的簽名，來計(jì)算相似度，這種體例比較簡單高效，計(jì)算速度比較快，比較適合百度這種海量信息的應(yīng)用場景。

1，網(wǎng)站重復(fù)內(nèi)容的判斷

A，獲取多個(gè)網(wǎng)頁;

B，分別提取網(wǎng)頁的網(wǎng)頁正文;

C，從網(wǎng)頁正文中提取一個(gè)或多個(gè)句子，并根據(jù)一個(gè)或多個(gè)句子計(jì)算網(wǎng)頁正文句子簽名;

D，根據(jù)網(wǎng)頁正文句子簽名對多個(gè)網(wǎng)頁進(jìn)行聚類;

E，針對每一類下的網(wǎng)頁，計(jì)算網(wǎng)頁的附加簽名;

F，根據(jù)附加簽名判斷每一類下的網(wǎng)頁是否重復(fù)。

網(wǎng)站頁面基本架構(gòu)

提取正文

A，對網(wǎng)頁進(jìn)行分塊;

B，對分塊后的網(wǎng)頁進(jìn)行塊過濾，以獲取包含網(wǎng)頁正文的內(nèi)容快;

C，從內(nèi)容塊中提取網(wǎng)頁正文。

正文分句

A，對網(wǎng)頁正文進(jìn)行分句;

在本步驟中，可行使分號，句號，感嘆號等透露表現(xiàn)句子完結(jié)的標(biāo)志符號來對網(wǎng)頁正文進(jìn)行分句。此外上海網(wǎng)頁設(shè)計(jì)，還可以通過網(wǎng)頁正文的視覺信息來對網(wǎng)頁正文進(jìn)行分句。

B，對分句后的網(wǎng)頁正文進(jìn)行過濾及轉(zhuǎn)換;

在步驟中，首先過濾掉句子中的數(shù)字信息;版權(quán)信息以及其他對網(wǎng)頁重復(fù)判斷不起決定性作用的信息。隨后，對句子進(jìn)行轉(zhuǎn)換，例如，進(jìn)行全角/半角轉(zhuǎn)換或者繁體/簡體轉(zhuǎn)換，以使得轉(zhuǎn)換后的句子的格式同一。

C，從過濾及轉(zhuǎn)換后的網(wǎng)頁正文中提取好長的一個(gè)或多個(gè)句子;

在本步驟中，過濾及轉(zhuǎn)換后的網(wǎng)頁正文提掏出好長的一個(gè)句子或者做場的預(yù)定數(shù)量延續(xù)句子的組合。例如，某個(gè)網(wǎng)頁實(shí)例中，經(jīng)過過濾及轉(zhuǎn)換后的某段好長，遠(yuǎn)超其他句子百度網(wǎng)站排名，因此可選擇該段為網(wǎng)頁正文句子，或者選擇好長的延續(xù)句子組合作為網(wǎng)頁正文句子。

D，對一個(gè)或多個(gè)句子進(jìn)行hash簽名運(yùn)算，以獲取網(wǎng)頁正文句子簽名。

simhash算法就是比較各網(wǎng)頁的附加簽名是否相同或相似來判斷網(wǎng)頁是否重復(fù)。具體來說，在比較行使simhash簽名運(yùn)算獲得的網(wǎng)頁正文簽名時(shí)，比較網(wǎng)頁正文簽名的不同位數(shù)，不同位越少，透露表現(xiàn)網(wǎng)頁重復(fù)的可能性越高，在比較其他的附加簽名時(shí)，若附加簽名相等，透露表現(xiàn)網(wǎng)頁在該緯度上重復(fù)。

總結(jié)：

1、兩個(gè)網(wǎng)頁的真實(shí)題目簽名相同。

2、兩個(gè)我那工業(yè)的網(wǎng)頁內(nèi)容簽名相同。

3、兩個(gè)網(wǎng)頁的網(wǎng)頁正文簽名的不同位數(shù)小于6.。

4、兩個(gè)網(wǎng)頁的網(wǎng)頁位置簽名相同，并且url文件名簽名相同。

5、評論塊簽名、資源簽名、標(biāo)簽題目簽名、摘要簽名、url文件名簽名中有三個(gè)簽名相同。

附加信息整站判斷重復(fù)標(biāo)準(zhǔn)：