IT用語辞典

クローラ

クローラ (Crawler) とは、ウェブ上の文書や画像などを周期的に取得し、自動的にデータベース化するプログラムである。「スパイダー」や「ロボット」などとも呼ばれる。

主に検索エンジンのデータベース、インデックス作成に用いられているほか、統計調査などの目的にも利用される。近年では電子メールアドレス収集業者などもクローラを利用して、スパムの送信効率を上げている。

一般にクローラは、既知のHTML文書の新しいコピーを要求し、文書中に含まれるリンクをたどり別の文書を収集するという動作を繰り返す。新しい文書を見つけた場合はデータベースに登録する。また、既知のファイルが存在しないことを検出した場合はデータベースから削除する。
出典: フリー百科事典『ウィキペディア(Wikipedia)』

※ホームページ制作・SEO対策のご用命は横浜のビーコネクト株式会社へ
商品・物件の更新がラクラク!Movable Type(ムーバブル・タイプ)で制作致します。

お問い合わせはこちら!