搜索引擎為了滿足對速度苛刻的要求(現在商業的搜索引擎的查詢時間單位都是微秒數量級的)，所以采用緩存支持查詢需求的方式，也就是說我們在查詢搜索時所得到的結果并不是及時的，而是在其服務器已經緩存好了的結果。那么搜索引擎工作的大體流程是什么樣子呢?我們可以理解為三段式。

 

    本文僅僅是對著三段工作流程進行大體上的講解與綜述，其中一些詳細的技術細節將會用其它的文章進行單獨的講解。

 

    一.網頁搜集。

 

    網頁搜集，其實就是大家常說的蜘蛛抓取網頁。那么對于蜘蛛(google稱之為機器人)來說，他們感興趣的頁面分為三類：

 

    1.蜘蛛從未抓去過的新頁面。

 

    2.蜘蛛抓去過，但頁面內容有改動的頁面。

 

    3.蜘蛛抓取過，但現在已刪除了的頁面。

 

    那么如何行之有效的發現這三類頁面并進行抓取，就是spider程序設計的初衷與目的。那么這里就涉及到一個問題，蜘蛛抓取的起始點。

 

    每一位站長只要你的網站沒有被嚴重降權，那么通過網站后臺的服務器，你都可以發現勤勞的蜘蛛光顧你的站點，但是你們有沒有想過從編寫程序的角度上來說，蜘蛛是怎么來的呢?針對于此，各方有各方的觀點。有一種說法，說蜘蛛的抓取是從種子站(或叫高權重站)，依照權重由高至低逐層出發的。另一種說法蜘蛛爬在URL集合中是沒有明顯先后順序的，搜索引擎會根據你網站內容更新的規律，自動計算出何時是爬取你網站的最佳時機，然后進行抓取。

 

    其實對于不同的搜索引擎，其抓取出發點定然會有所區別，針對于百度，Mr.Zhao較為傾向于后者。在百度官方博客發布的《索引頁鏈接補全機制的一種辦法》(地址：http://stblog.baidu-tech.com/?p=2057)一文中，其明確指出“spider會盡量探測網頁的發布周期，以合理的頻率來檢查網頁”，由此我們可以推斷，在百度的索引庫中，針對每個URL集合，其都計算出適合其的抓取時間以及一系列參數，然后對相應站點進行抓取。

 

    在這里，我要說明一下，就是針對百度來說，site的數值并非是蜘蛛已抓取你頁面的數值。比如site:www.seozhao.com，所得出的數值并不是大家常說的百度收錄數值，想查詢具體的百度收錄量應該在百度提供的站長工具里查詢索引數量。那么site是什么?這個我會在今后的文章中為大家講解。

 

    那么蜘蛛如何發現新鏈接呢?其依靠的就是超鏈接。我們可以把所有的互聯網看成一個有向集合的聚集體，蜘蛛由起始的URL集合A沿著網頁中超鏈接開始不停的發現新頁面。在這個過程中，每發現新的URL都會與集合A中已存的進行比對，若是新的URL，則加入集合A中，若是已在集合A中存在，則丟棄掉。蜘蛛對一個站點的遍歷抓取策略分為兩種，一種是深度優先，另一種就是寬度優先。但是如果是百度這類商業搜索引擎，其遍歷策略則可能是某種更加復雜的規則，例如涉及到域名本身的權重系數、涉及到百度本身服務器矩陣分布等。

 

    二.預處理。

 

    預處理是搜索引擎最復雜的部分，基本上大部分排名算法都是在預處理這個環節生效。那么搜索引擎在預處理這個環節，針對數據主要進行以下幾步處理：

 

    1.提取關鍵詞。

 

    蜘蛛抓取到的頁面與我們在瀏覽器中查看的源碼是一樣的，通常代碼雜亂無章，而且其中還有很多與頁面主要內容是無關的。由此，搜索引擎需要做三件事情：?代碼去噪。去除掉網頁中所有的代碼，僅剩下文本文字。②去除非正文關鍵詞。例如頁面上的導航欄以及其它不同頁面共享的公共區域的關鍵詞。③去除停用詞。停用詞是指沒有具體意義的詞匯，例如“的”“在”等。

 

    當搜索引擎得到這篇網頁的關鍵詞后，會用自身的分詞系統，將此文分成一個分詞列表，然后儲存在數據庫中，并與此文的URL進行一一對應。下面我舉例說明。

 

    假如蜘蛛爬取的頁面的URL是http://www.seozhao.com/2.html，而搜索引擎在此頁面經過上述操作后提取到的關鍵詞集合為p，且p是由關鍵詞p1,p2,……,pn組成，則在百度數據庫中，其相互間的關系是一一對應，如下圖。

 

 

 

    2.消除重復與轉載網頁。

 

    每個搜索引擎其識別重復頁面的算法均不相同，但是其中Mr.Zhao認為，如果將消重算法理解為由100個元素組成，那么所有的搜索引擎恐怕其80個元素都是完全一樣的。而另外20個元素，則是根據不同的搜索引擎針對seo的態度不同，而專門設立的對應策略。本文僅對搜索引擎大體流程進行初步講解，具體數學模型不多做講解。

 

    3.重要信息分析。

 

    在進行代碼除噪的過程中，搜索引擎并非簡單的將其去除掉而已，而是充分利用網頁代碼(例如H標簽、strong標簽)、關鍵詞密度、內鏈錨文本等方式分析出此網頁中最重要的詞組。

 

    4.網頁重要度分析。

 

    通過指向該網頁的外鏈錨文本所傳遞的權重數值，來為此網頁確定一個權重數值，同時結合上述的“重要信息分析”，從而確立此網頁的關鍵詞集合p中每一個關鍵詞所具備的排名系數。

 

    5.倒排文件。

 

    正如上文所說，用戶在查詢時所得到的查詢結果并非是及時的，而是在搜索引擎的緩存區已經大體排好的，當然搜索引擎不會未卜先知，他不會知道用戶會查詢哪些關鍵詞，但是他可以建立一個關鍵詞詞庫，而當其處理用戶查詢請求的時候，會將其請求按照詞庫進行分詞。那么這樣下來，搜索引擎就可以在用戶產生查詢行為之前，將詞庫中的每一個關鍵詞其對應的URL排名先行計算好，這樣就大大節省了處理查詢的時間了。

 

    簡單來說，搜索引擎用控制器來控制蜘蛛爬取，然后將URL集與原始數據庫進行保存，保存之后再用索引器控制每個關鍵詞與URL之間的對應關系，并將其保存在索引數據庫中。

 

    下面我們來舉例說明。

 

    假若http://www.seozhao.com/2.html頁面被切詞成p={p1，p2，p3，……，pn}，則其在索引數據庫中由下圖方式體現。

 

 

 

    上圖是為了方便大家便于理解而做出來的，索引數據庫實際上是搜索引擎中對性能要求最高的數據庫，因為里面所有因素都會受到算法影響，所以實際上的索引數據庫我覺得應該是由多維數組所組成的較為復雜的索引表，但其主要體現的大體作用與上圖相同。

 

    三、查詢服務。

 

    查詢服務顧名思義，就是處理用戶在搜索界面的查詢請求。搜索引擎構建檢索器，然后分三步來處理請求。

 

    1.根據查詢方式與關鍵詞進行切詞。

 

    首先先把用戶搜索的關鍵詞切分為一個關鍵詞序列，我們暫時用q來表示，則用戶搜索的關鍵詞q被切分為q={q1，q2，q3，……，qn}。

 

    然后再根據用戶查詢方式，例如是所有詞連在一起，還是中間有空格等，以及根據q中不同關鍵詞的詞性，來確定所需查詢詞中每一個詞在查詢結果的展示上所占有的重要性。

 

    2.搜索結果排序。

 

    我們有了搜索詞集合q，q中每個關鍵詞所對應的URL排序——索引庫，同時也根據用戶的查詢方式與詞性計算出每個關鍵詞在查詢結果的展示上所占有的重要，那么只需要進行一點綜合性的排序算法，搜索結果就出來了。

 

    3.展示搜索結果與文檔摘要。

 

    當有了搜索結果后，搜索引擎就會將搜索結果展示在用戶閱覽的界面上以供用戶使用。

 

    在這里，大家可以思考兩個個問題。

 

    ?大家在搜索界面中經常發現百度展示的摘要是用戶搜索詞周圍的，如果我不僅僅只看第一頁，多往后翻一些頁，會看到有些結果由于其目標頁面本身并未完全包含搜索詞，而在百度提取的摘要中標紅詞僅是部分搜索詞，那么我們可以這樣理解，百度在搜索詞不被完全包含的情況下，是不是應該優先展現在分詞結果中被百度認為較為重要的詞呢?那么從這些搜索結果中我們是不是就可以看出百度分詞算法的部分端倪呢?

 

    ②有時候頁面中會多次出現搜索詞，而百度搜索結果頁面中在網站摘要部分僅會顯示部分，通常這么部分是連續的，那我們是不是可以理解在摘要部分，百度會優先展示頁面中它認為與對此搜索詞最重要的部分呢?那么由此我們是不是可以揣度出百度針對頁面除噪后對不同部分賦予權重的算法呢?

 

    這兩個問題仁者見仁智者見智，做SEO的朋友們自己去探索與摸索吧，Mr.Zhao不敢在此誤人子弟。

 

    四、現今百度的流程漏洞。

 

    請原諒我用流程漏洞來形容這個模塊，但我不得不說，在如今點擊器橫行的天下，我覺得說是漏洞無可厚非。

 

    那就是除了上面三個大環節外，百度還構建了用戶行為模塊，來影響原始數據庫與索引庫。而影響原始數據庫的，是百度的快照投訴，主要處理互聯網暴利的一些行為，這點無可厚非。而影響索引庫的，是用戶的點擊行為，這個設計本身也無可厚非，但百度算法的不成熟，導致了點擊器作弊猖獗。

 

    百度的用戶行為分析模塊很簡單，除了自身投訴的提交入口外，就是搜集用戶在搜索界面的點擊行為，如果此頁面結果被大部分用戶閱覽，但沒有產生點擊，用戶居然大部分選擇點擊第二頁甚至更后面的頁面，則此現象就會被百度工程師們所知道，則會根據這方面來微調算法。如今百度針對不同行業，其算法早已不同了。

 

    如果前兩頁內某個搜索界面被大量用戶選擇點擊，則通常會在24小時候，這個搜索結果被大幅前提，甚至會被提升至第一名。

 

    五、搜索引擎大體流程圖(加上用戶行為分析器)

 

 

 

    以上就是我所對搜索引擎工作的基礎流程與原理的理解。

 

    最后我想說