80legsは、ウェブスクレイピングとウェブクローリングの両方のサービスを提供するクラウドベースのプラットフォームです。使いやすく、ユーザーはクローリングやスクレイピングの条件に合わせて設定を素早く変更できます。80legsには無料プランもありますが、プレミアムプランと比較すると機能には明らかに制限があります。
80legsを最大限に活用するには、ウェブスクレイピングやクロールを行う際に、80legsのプロキシと組み合わせて使用する必要があります。これは、ほとんどのウェブサイトがサイト内でのボットの使用に対して厳しい制限を設けており、プロキシを使用することでこれらの制限を回避し、ウェブサイトからアクセス禁止処分を受けるのを防ぐことができるためです。
これが可能なのは、80legsプロキシがすべてのウェブリクエストを代行するため、どのウェブサイトもプロキシサーバーのIPアドレスのみを認識し、あなたのIPアドレスは認識されないからです。 プロキシのローテーションを継続的に行うことで、スクレイピング対象のウェブサイトに、80legsからのリクエストがボットではなく本物のユーザーからのものだと誤認させることができます。
それでは、80legsプロキシサーバーを設定してみましょう。
Windowsの場合：
Windowsでプロキシを設定するには、Windowsの検索バーで「プロキシ設定」と検索し、検索結果を開くだけです。
すると、プロキシ設定の自動検出 または [プロキシ設定の手動設定] の 2 つの選択肢が表示されます。Windows にプロキシ設定を自動的に検出させたい場合は、最初のオプションを選択してください。特定の IP アドレスとポート番号を使用したい場合は、2 番目のオプションを選択してください。
最初のオプションを選択した場合は、次の手順に従ってください：
- **「設定を自動的に検出する」**をオンにします
- **「セットアップスクリプトを使用する」**をオンにします
- スクリプトのアドレスを入力します
- **「保存」**をクリックします
2番目のオプションを選択した場合は、次の手順に従ってください：
- プロキシサーバーを使用する をオンにします
- サーバーアドレスとポート番号の両方を入力します
- プロキシを経由せずにアクセスしたいアドレスがある場合は、ここにそのアドレスを入力します
- プロキシを使用せずにローカルサーバーにアクセスしたい場合は、「ローカルアドレスにはプロキシサーバーを使用しない」チェックボックスをオンにします
- **「保存」**をクリックします
画像の代替テキスト: Windows の自動プロキシ設定
Macの場合：
macOSでプロキシ設定を行うには、以下の手順に従ってください：
手順 1. Appleアイコンをクリックします。
手順 2. ドロップダウンメニューから、**「システム環境設定」**をクリックします。
手順 3. **「ネットワーク」**をクリックします。
手順 4. **「詳細」**をクリックします。
注：まずWi-Fiに接続していることを確認してください。
手順 5. **「プロキシ」**をクリックします
これにより、macOSのプロキシ設定画面に遷移します。macOSはWindowsに比べて設定がシンプルです。プロキシサーバーを手動で設定するという1つのオプションのみがあります。
手順は以下の通りです：
- 設定したいプロキシのIPプロトコルを選択します。これは、プロキシサービスプロバイダが提供しているプロトコルによって異なります。
- セキュアWebプロキシを有効にします
- プロキシサーバーのアドレスとポート番号を入力します
- OKをクリックして設定を保存します
注：設定を保存する際に、Macのユーザーパスワードの入力を求められる場合があります。
画像の代替テキスト：MacOSのプロキシ設定
おめでとうございます！これで80legsプロキシサーバーの設定が完了しました。
