爬虫代理IP是什么？为什么需要它？
爬虫代理IP是指使用其他计算机的网络地址来访问目标网站的一种技术。它可以隐藏爬虫程序的真实IP地址，避免被网站识别和封禁12。
在进行网络数据采集时，我们经常会遇到一些反爬措施，比如网站限制同一个IP地址的访问频率、次数或时间2。如果我们不使用代理IP，就可能导致爬虫程序被拒绝访问或者被封禁2。因此，使用代理IP是提高爬虫效率和稳定性的重要方法之一。
如何获取和使用代理IP？
获取和使用代理IP有多种方法，其中常见的有以下几种：
从免费或付费的代理网站上获取代理IP列表，并使用Python中的ProxyHandler和urllib.request模块来设置和发送请求324 。这种方法简单易用，但是免费的代理IP质量不高，可能存在失效、慢速、不安全等问题2。 使用Squid等软件搭建一个自己的代理服务，并定时从数据库中加载可用的代理IP列表。这种方法可以自主管理和控制代理IP，但是需要较高的技术水平和成本。 使用隧道代理等专业的代理服务商，提供稳定、安全、高效的代理服务1。这种方法可以享受高质量、高匿名、高速度、低延迟、低失败率等特点的代理IP，但是需要付费并且受限于服务商提供的接口和规则1。 下面用python实现百度网页采集，增加多线程处理，同时对百度返回的内容进行分类统计：
import aiohttp
import threading
from collections import Counter
# 定义一个全局变量，用于存储分类结果
categories = Counter()
# 定义一个函数，用于根据文本内容进行分类
def classify(text):
# 这里可以使用任何文本分类的方法，例如正则表达式、机器学习等
# 这里为了简单起见，只使用了简单的字符串匹配
if "Python" in text:
return "Python"
elif "Java" in text:
return "Java"
elif "C++" in text:
return "C++"
else:
return "Other"
async def fetch_page(url, proxy):
# 创建一个 aiohttp 的 ClientSession 对象，并指定代理IP和端口
async with aiohttp.ClientSession(proxy=proxy) as session:
# 使用 session.get 方法发送请求，并获取响应对象
async with session.get(url) as response:
# 返回响应的文本内容
return await response.text()
async def main():
urls = ["https://www.baidu.com/s?wd=" + str(i) for i in range(10)] # 生成十个百度搜索网址
# 假设有一个文件 16yun.txt，每行存储一个代理host和端口，例如 www.16yun.cn:3333
# 读取文件中的所有代理，并存储在一个列表中
with open("16yun.txt") as f:
proxies = [line.strip() for line in f]
tasks = [] # 创建一个空列表，用于存储 task 对象
# 遍历 urls 和 proxies 列表，为每个 url 配对一个 proxy，并创建 task 对象
for url, proxy in zip(urls, proxies):
task = asyncio.create_task(fetch_page(url, proxy))
tasks.append(task)
results = await asyncio.gather(*tasks) # 同时运行所有 task 并获取结果
# 创建一个线程池，用于执行分类任务
pool = threading.ThreadPoolExecutor(max_workers=4)
for result in results:
print(result[:100]) # 打印每个网页的前 100 个字符
# 使用线程池提交一个分类任务，并更新全局变量 categories
category = pool.submit(classify, result).result()
categories[category] += 1
# 关闭线程池并等待所有任务完成
pool.shutdown(wait=True)
# 打印最终的分类结果
print(categories)
asyncio.run(main()) # 运行主协程
