WEBクローラー用クラスに関する注意
2006年03月04日-
スポンサード リンク
先のエントリ、PHPで書かれたWEBクローラー用クラス で紹介したクローラークラスですが、外部に向けてクロールするような処理を行う際には注意が必要です。
筆者が見た限り、このクラスにはリクエスト間隔を制御する仕組みが見当たらなかった。クロール全体におけるダウンロード量の制限設定値などはあったがそれもデフォルトでは制限無し状態にセットされている。そのまま使えば、1秒間に数百リクエストくらい投げることができてしまうだろう。そのとき、クロールされる側のWebサーバーはどうなるか?考えてもみてほしい。
使うな→PHPで書かれたWEBクローラー用クラス
スレッドを使わないだけまだマシなんでしょうが、間隔が指定できないので他サーバへ負荷をかけてしまうという問題点があります。
先のエントリで思慮が足りませんでしたので補足でアナウンスさせて頂きます。
スポンサード リンク
Advertisements
SITE PROFILE
最新のブログ記事(新着順)
- 15000以上のいい感じの線形アイコン「Lineicons」
- CSSやTailwindでのCSSスニペットライブラリ「CSS Snippets Library」
- AIを使ってサイトマップが作れる「Octopus.do」
- ライブラリ依存のないモーダルオープンライブラリ「Blendy」
- 個性的な明朝フリーフォント「築豊初号明朝OFL」
- CSSで太陽が差し込むようなアニメーション実装
- 可愛くアニメーションする「beautifully crafted animated icons」
- アイソメトリックなアイコンがアイコンがPNG,SVGでゲットできる「Isoicons」
- ユニークなカタカナフォントtorisippo
- 美しいメッシュグラデーションをCSSで簡単に取得できる「MSHR」
- 過去のエントリ