WEBクローラー用クラスに関する注意
2006年03月04日-
スポンサード リンク
先のエントリ、PHPで書かれたWEBクローラー用クラス で紹介したクローラークラスですが、外部に向けてクロールするような処理を行う際には注意が必要です。
筆者が見た限り、このクラスにはリクエスト間隔を制御する仕組みが見当たらなかった。クロール全体におけるダウンロード量の制限設定値などはあったがそれもデフォルトでは制限無し状態にセットされている。そのまま使えば、1秒間に数百リクエストくらい投げることができてしまうだろう。そのとき、クロールされる側のWebサーバーはどうなるか?考えてもみてほしい。
使うな→PHPで書かれたWEBクローラー用クラス
スレッドを使わないだけまだマシなんでしょうが、間隔が指定できないので他サーバへ負荷をかけてしまうという問題点があります。
先のエントリで思慮が足りませんでしたので補足でアナウンスさせて頂きます。
スポンサード リンク
Advertisements
SITE PROFILE
最新のブログ記事(新着順)
- 洋菓子店の店主が3,790字を手書き。商用利用も無料の日本語フォントがすごい
- これまでJavaScriptで実装していたWebUIを最新のHTMLとCSSだけで軽く作るためのコード実装例集
- CSS設計手法「BEM」を絵文字だけで表現する実験的プロジェクト「BEMoji」
- classを付与するだけで気持ちいいアニメーションを実装する「AliveUI」
- heerich.js — SVGで3Dボクセルが描けるエンジン
- 8KBで完結するモダンUIライブラリ「Oat 」
- Web開発者が知っておくべき画面サイズ確認ツール「WhatIsMyScreenSize.com」
- Webデザイン分析を一瞬で終わらせるChrome拡張「MiroMiro」
- プログラミングで使う記号を美しく整列させることに特化したフォント「Myna」
- DarkもLightも自動生成:UI向けカラーパレット生成ツール「Harmonizer」紹介
- 過去のエントリ



















間違いの指摘をしていただける方はメール、あるいはTwitter/FBでお願いします(クリック)


