クローラ
(ウェブクローリング から転送)
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2025/05/31 01:17 UTC 版)
|
この記事は検証可能な参考文献や出典が全く示されていないか、不十分です。 (2022年2月)
|
|
この記事は英語版の対応するページを翻訳することにより充実させることができます。（2024年11月）
翻訳前に重要な指示を読むには右にある[表示]をクリックしてください。
|
クローラもしくはクローラー (Crawler) とは、ウェブ上の文書や画像などを周期的に取得し、自動的にデータベース化するプログラムである。「ボット」 (bot)、「スパイダー」、「ロボット」などとも呼ばれる。
主に検索エンジンのデータベース、インデックス作成に用いられているほか、統計調査などの目的にも利用されている。近年では、電子メールアドレス収集業者などもクローラを利用してスパムの送信効率を上げている。
一般にクローラは、既知のHTML文書の新しいコピーを要求して文書中に含まれるリンクをたどり、別の文書を収集するという動作を繰り返す。新しい文書を見つけた場合はデータベースに登録するほか、既知のファイルが存在しないことを検出した場合はデータベースから削除する。
主なクローラ
- ManifoldCF (Apache)
- ダウンロードNinja（イーフロンティア、ダウンロード用ソフト（ダウンローダー））
- GetHTMLW - ダウンローダー
- Wget - ダウンローダー
- Octoparse
- Googlebot
関連項目
- スパム (メール) - 検索エンジンスパム
- メールアドレス検索ロボット
- インターネットボット
- ウェブスクレイピング
- Robots Exclusion Standard
- 岡崎市立中央図書館事件 - 2010年
 |
この項目は、コンピュータに関連した書きかけの項目です。この項目を加筆・訂正などしてくださる協力者を求めています（PJ:コンピュータ/P:コンピュータ）。 |
| 典拠管理データベース: 国立図書館 |
|---|
- ウェブクローリングのページへのリンク
