ウェブページの巡回・収集を行うクローラーに関連する説明や、REP(Robots Exclusion Protocol)に従ったrobots.txtの設置方法などの解説。 クローラーによるウェブページの巡回と収集 このページでは、検索エンジンでウェブページの巡回・収集をするクローラーが、どのようにしてウェブページを見つけて巡回し、ウェブページの収集を行っているかを説明しています。 ロボッツ・エクスクルージョン・プロトコルとクローラー サイト管理者は、ロボッツ・エクスクルージョン・プロトコル(Robots Exclusion Protocol=REP)に従って記述されたrobots.txtやメタタグの記述で、クローラーの巡回を制限できます。 サイト単位、ディレクトリ単位での巡回の拒否設定 1 このページでは、robots.txtを使ったクローラーの巡回の制限方法について、基本的な記述のルールや
サイトには、URLは異なるがウェブページの内容は変わらないというケースがあります。たとえば、URLがトラッキング用のパラメータを含んでいる場合や、URLに含まれるパラメータをもとに閲覧環境によってウェブページの表示を最適化しているような場合です。 例 http://www.example.com/products?trackingid=feed http://www.example.com/products?sessionid=hgjkeor2 http://www.example.com/products?printable=yes&trackingid=footer このような場合、検索エンジンのインデックスに個々のURLで登録されると、同じ内容のウェブページが検索結果に表示されたり、同じ内容のウェブページであるにもかかわらず、各URLにクローラーが巡回し、サーバーに負荷をかけてしまう
クローラー ウェブページの巡回・収集を行うクローラーに関連する説明や、REP(Robots Exclusion Protocol)に従ったrobots.txtの設置方法などの解説。 クローラーによるウェブページの巡回と収集 ロボッツ・エクスクルージョン・プロトコルとクローラー サイト単位、ディレクトリ単位での巡回の拒否設定 1 » 一覧を見る
ブログ パスワード認証 閲覧するには管理人が設定した パスワードの入力が必要です。 管理人からのメッセージ https://mac-tegaki.comへ移転中 閲覧パスワード Copyright © since 1999 FC2 inc. All Rights Reserved.
サイトマップとは何ですか。 サイトマップを使うと、ウェブマスターはサイト内のクロールされるページを検索エンジンに簡単に知らせることができます。 サイトマップは、最終アップロード日、通常の更新頻度、サイト内の他の URL との相対的な URL 優先度など、各 URL の詳細メタデータのほか、サイトの URL がリストされている簡単な形式の XML ファイルであるため、検索エンジンでより正確にサイトをクロールできます。 通常、ウェブ クローラは、サイト内のリンクや他のサイトからのリンクを基にページを検出します。サイトマップはこのデータを補足するもので、サイトマップをサポートしているクローラがサイトマップ内のすべての URL を取得し、関連付けられているメタデータを使用して、URL に関する詳細情報を把握できるようにします。サイトマップ プロトコルを使用しても、検索エンジンにウェブページが必ず登
サイトマップとは何ですか。 サイトマップを使うと、ウェブマスターはサイト内のクロールされるページを検索エンジンに簡単に知らせることができます。 サイトマップは、最終アップロード日、通常の更新頻度、サイト内の他の URL との相対的な URL 優先度など、各 URL の詳細メタデータのほか、サイトの URL がリストされている簡単な形式の XML ファイルであるため、検索エンジンでより正確にサイトをクロールできます。 通常、ウェブ クローラは、サイト内のリンクや他のサイトからのリンクを基にページを検出します。サイトマップはこのデータを補足するもので、サイトマップをサポートしているクローラがサイトマップ内のすべての URL を取得し、関連付けられているメタデータを使用して、URL に関する詳細情報を把握できるようにします。サイトマップ プロトコルを使用しても、検索エンジンにウェブページが必ず登
SEO施策にはざっくり分けて「内的SEO」と「外的SEO」の2種類がある。内的SEOはサイト内のテキスト記述や、文書構造の施策。外的SEOは被リンクの数を稼ぐのと、ヒットさせたいキーワードにお金を出して、そのキーワードでユーザーがGoogleやYahooで検索した時に上位に表示させる施策。 Web制作屋としてできる事は内的SEOであり、口すっぱくして「コンテンツが〜」とか「なにやりたいのか〜」とか、クライアントにヒアリングをして、それにあわせてマークアップをするんだが、クライアントの目線が外部(ユーザー視点)にある場合の落としどころが難しい。サッカー用品売ってるサイトの来訪キーワードが「ボール」だからって「じゃ、ボール専門サイトを作ろう」ってのも変な話。木を見て森をウンタラではと。 つまりユーザーにどのキーワードで検索した時にサイトに来て欲しいのかが無い場合。 企業系サイトだとアクセス数は
前回、Clubhouseを通してSNSの今後を憂う意図の記事を記載しました。 Clubhouseを使ってみて、気づいた事と、これからのSNSに期待する事 あれからさらに1週間が過ぎ、当初の加熱ムードもどこへやら。 予想通り、著名人の活用の徐々に減り、現状で継続して利用をしているユーザーも、だいぶセグメント化が進んできている様です。 SNSのマーケティング利用について議論をしているroomもありますが、ポジショントークの域をでません。 なのでポジショントークついでに客観的に拝見していて、今、思ってることを追記としてツラツラと。 SNSがマーケティングツールになり得る理由 Twitterやmixiが世に出た10年前から、当然とある機能(UI)にフォロー数、フォロワー数があります。 その数字にマーケティング的な価値を見出し、「影響力がある」=スゴい人という同調バイアスに近いものが生まれ、 そこに
車の運転中の急なハンドル・ペダルの操作は、危険であることはもちろん、同乗者にとって乗り心地が悪く、またエコの観点からも、気をつけたいものです。 『Safety Rec 』は、運転中の車の挙動をiPhoneのセンサーで記録し、ドライバーのクセの診断や、危険運転の録画ができるドライブレコーダー・アプリです。 加速度センサーで急なハンドル操作・アクセル・ブレーキなどを監視し、100点満点でドライバーの運転を採点。危険と思われる運転を動画で振り返ることで、安全運転に役立てることができます。 実際にドライブに出かける前に、ユーザー(ドライバー)の登録をしておきます。 サーバー上にユーザー登録するのではなく、アプリ内で運転履歴をドライバー毎に管理するためのもので、顔写真・ユーザー名・車両番号の3つの項目を登録できます。 ユーザーの登録が終わったら、iPhoneをダッシュボードに固定します。 今回のテス
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く