百度與360公司爬蟲機器人不正當競爭糾紛案，又被稱爲Robots協議案，是中國搜索領域爬蟲機器人競爭第一案，該案關係互聯網行業尤其是搜索引擎的基本遊戲規則而廣泛被業界、政府和網民關注。8月7日，該案宣判，北京市第一中級人民法院駁回了百度有關不正當競爭的訴求，表明百度單方面利用歧視性Robots協議打擊競爭對手的行爲不會被公衆和法庭所支持，而360則可以繼續抓取百度的內容網站。
據悉，Robots協議由荷蘭籍網絡工程師Martijn Koster於1994年首次提出，是一個被放置在網站中的文件，爲搜索引擎爬蟲做出提示，設置允許與不允許兩種語句，網絡爬蟲據此“自覺地”抓取或者不抓取該網頁內容。Robots協議的目的，是爲了保障著作權、保護個人隱私，儘可能地讓互聯網健康發展。
雖然名爲“協議”，但Robots協議只是行業慣用的說法。它既不是法律意義上的協議，也不是國際組織採納的標準，因此不受任何機構保護。而百度的Robots協議的特別之處，在於其白名單機制——允許除360之外的搜索引擎訪問百度網站，這種白名單在全球是絕無僅有的。
法院判360搜索可抓取百度內容：自由競爭的勝利 請看下一頁
“從百度對360的訴訟來看，有不公平競爭之嫌。”知名IT人士於剛表示，把Robots協議的作用強調於奇虎360身上，而自己卻在抓取其他搜索引擎內容或網站裏的視頻、音樂文件時忽視Robots協議。這樣的行爲，並非Robots協議初衷。
己所不欲勿施於人，爲何百度在robots協議面前，採用兩套做法?答案很簡單，打擊和封堵直接競爭對手360搜索的自由發展。
業內人士分析，360的產品一向以迅速擴張著稱，當年白手起家的安全產品如此，今日擁有幾億用戶並有入口優勢的360更不容小覷。而搜索，是百度的根本，百度不會坐以待斃，眼看着搜索市場被360分割。
據庭審資料顯示，谷歌退出中國市場前，國內的搜索引擎市場百度佔到60%，谷歌佔到20%。在谷歌退出中國市場後，百度佔到了80%的市場。2012年8月16日，360正式推出搜索引擎，並在上線6天后，佔據中國搜索市場10%的份額，成爲僅次於百度的第二大搜索流量來源。至2013年9月，百度的市場份額從81.49%直線下降到63.14%，而360搜索則佔到了19.04%。
所以，爲了反制360，百度迅速採取了措施，將所有來自360搜索的用戶請求跳轉至百度首頁，用戶需要二次點擊才能得到搜索的結果。另一方面，便是在百度知道、百科、貼吧等產品在Robots文件中禁止360搜索抓取索引。根據用戶協議，這些內容的版權並不歸屬於百度，而是歸生產和製造這些內容的用戶所有。
法院判360搜索可抓取百度內容：自由競爭的勝利 請看下一頁
即使是百度公司的專家證人，也在庭審中表示設置Robots協議一是從技術角度，避免網站服務器被攻擊癱瘓;二是從內容角度，避免用戶留在其他網站而不到自己的網站瀏覽。對於限制搜索引擎抓取應有的行業公認合理的正當理由，百度專家證人也說不出來。
中國政法大學法制新聞研究中心研究員陳杰人一針見血地指出，百度建立Robots協議白名單，只限制360搜索進行內容抓取，具有一定的歧視性，其目的顯然不是維護產品間遊戲規則的健康有序，而是將Robots協議作爲一種打壓對手的競爭工具。
衆所周知，作爲全球最大的中文搜索引擎，百度搜索的強大，不僅體現在其爬蟲機器人的抓取能力，還體現在百度自身就是一個有海量信息的內容網站。百度知道、百度百科、百度經驗、百度音樂和百度旅遊等內容網站囊括的信息量之巨，足以決定像360這樣的搜索新手的生死存亡：如果360搜索無法提供上述百度內容網站的信息，必然被網民認爲信息不全而夭折。
也就是說，對這些百度的內容網站，360搜索要麼抓，要麼死。由此可見，法院爲了維護互聯網的正常秩序，駁回了百度訴360不正當競爭的訴求。
就該案，互聯網業界專家、博客中國創始人方興東認爲，Robots協議是個很好的東西，但百度很明顯，他希望把它當成一個競爭攻略，爲自己建一個競爭壁壘，最好百度每個網站都能抓，而別的搜索引擎都不能抓取。
法院判360搜索可抓取百度內容：自由競爭的勝利 請看下一頁
“我覺得這樣的話這個事情就變成非常嚴重的事情，因爲我們原來做個網站也沒有說什麼都是協議，做一個網站肯定是大家可以自由看的，然後搜索引擎可以自由抓取。如果以後我們每個網站都要先定義一下，哪幾個網站能讓他抓取，哪些能讓他看，那互聯網基本的信息自由那就完全變味了，整個互聯網秩序就亂了。搜索引擎這個扭曲在這個社會也好，在互聯網產業也好，影響非常大。我覺得這個事情在搜索引擎行業裏真的是越來越嚴重。” 方興東說。
互聯網市場沒有那麼明確的先來後到。網民用之、棄之是瞬間決定並完成的事情，這也決定了互聯網行業的競爭一刻都不能停歇，因爲喘息之間可能已經有幾十、幾百萬用戶的得失。激烈的競爭更需要公平合理的競爭規則，否則過於放任的競爭會讓互聯網行業變成屠場並最終走向壟斷。屆時，中國互聯網將從互聯互通的信息海洋變爲一個個信息孤島，開放、平等、協作、分享的互聯網精神在搜索引擎服務領域將不復存在。
在本案的判決書中法院寫道：規則的缺失會讓互聯網行業陷入“叢林法則”的誤區，但同時，市場競爭需要給每一個競爭者公平的競爭環境，即使是後進入市場的競爭者，也應該有公平的競爭機會，以免陷入“叢林法則”中強者可以任意欺凌弱者的誤區。判決書中還提到：360已經多次向百度表示要求修改robots協議，該主張是清晰明確的，而百度未能明確提出拒絕360的合理理由，故對《自律公約》簽訂之後，百度主張360構成不正當競爭的主張本院不予支持。
這個案件中，法院在沒有明確的法律可以適用的情況下，表現出難能可貴的開拓精神和創新勇氣，捍衛了互聯網開放、平等的互聯網精神，爲互聯網行業的自由競爭和健康發展開闢了道路。
瑞麗谷
