クローラ
【英】crawler, web crawler, search robot, searchbot
クローラとは、インターネット上のあらゆるWebサイトの情報を取得して、検索用データベース・インデックスを作成する自動巡回プログラムのことである。Webサイトを這う(クロールする)ことからこのような名称が付けられた。
クローラでは、WebサイトのHTMLに記載されているリンクをたどり、そのWebサイトがどのような内容なのか、どのような構造になっているのかなどを判断し、データベース化していく。クローラがアクセスできるファイル・情報はすべてデータベース化され、誰もが検索できるようになってしまうので、機密文書などに関してはアクセス権を設定するなどの注意が必要である。
近年では検索結果の上位に表示させるためのSEOとして、有名検索Webサイトのクローラの動きを特に意識したWebサイト構築が目立つようになってきている。
クローラー
建設機械や軍用車両、雪上車などに用いられる無限軌道、あるいは履帯式と呼ばれる駆動装置。接地面圧が低く悪路、泥濘地、砂地、雪上などでの走破性に優れる。最近では、ベルト状のクローラーを使った軽商用車も商品化されている。クローラーとは、英語のクロール(crawl=這う)からの造語。
クローラ
![]() | この記事は検証可能な参考文献や出典が全く示されていないか、不十分です。(2022年2月) |
![]() | この記事は英語版の対応するページを翻訳することにより充実させることができます。(2024年11月) 翻訳前に重要な指示を読むには右にある[表示]をクリックしてください。
|
クローラもしくはクローラー (Crawler) とは、ウェブ上の文書や画像などを周期的に取得し、自動的にデータベース化するプログラムである。「ボット」 (bot)、「スパイダー」、「ロボット」などとも呼ばれる。
主に検索エンジンのデータベース、インデックス作成に用いられているほか、統計調査などの目的にも利用されている。近年では、電子メールアドレス収集業者などもクローラを利用してスパムの送信効率を上げている。
一般にクローラは、既知のHTML文書の新しいコピーを要求して文書中に含まれるリンクをたどり、別の文書を収集するという動作を繰り返す。新しい文書を見つけた場合はデータベースに登録するほか、既知のファイルが存在しないことを検出した場合はデータベースから削除する。
主なクローラ
- ManifoldCF (Apache)
- ダウンロードNinja(イーフロンティア、ダウンロード用ソフト(ダウンローダー))
- GetHTMLW - ダウンローダー
- Wget - ダウンローダー
- Octoparse
- Googlebot
関連項目
クローラー
出典: フリー百科事典『ウィキペディア(Wikipedia)』 (2022/06/15 02:13 UTC 版)
「メタルギア サヴァイヴ」の記事における「クローラー」の解説
蜘蛛のような見た目をしたクリーチャー。大半が木の上などの高所に群れており、下を通ろうとした獲物を発見すると一斉に落ちて攻撃態勢に入る。
※この「クローラー」の解説は、「メタルギア サヴァイヴ」の解説の一部です。
「クローラー」を含む「メタルギア サヴァイヴ」の記事については、「メタルギア サヴァイヴ」の概要を参照ください。
- クローラーのページへのリンク