具体地址在这里，由于写的有点匆忙，就请大家见谅啦，https://github.com/lateautunm/aioip
推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
This topic created in 2949 days ago, the information mentioned may be changed or developed.
 |
munnOct 13, 2018 via iPhone
1
厉害了 手动支持
|
 |
2
@munn 没有没有，辣鸡一只
|
 |
SpiderXiantangOct 13, 2018
3
免费代理池最大的问题是可用率
|
 |
dorothyRENOct 13, 2018
4
有个问题就是怎么验证有效性，或者多长时间验证一次有效性。
|
|
5
@SpiderXiantang 对，就是因为网络上爬来的 IP 数据格式比较乱，可用性比较低，才更需要实时，快速准确的识别有效的 IP,所以对于这个项目来说，最重要的也就是关于大数据方面的处理，这个可能以后需要更加精准的优化，目前来说只是希望用 kafka 做个实时流处理。
|
|
6
@dorothyREN 这个是两个问题，（ 1 ） Q:怎么验证有效性； A:若是抓取的 IP 有有效时间根据有效时间来判断，如果没有，则是根据比较大众的方法，采用将 IP 作为代理去访问网站看是不是连接的上（ 2 ）多长时间验证一次有效性：这个时间间隔主要也是考虑到有些网站的 IP 会显示最后验证时间，所以根据这个来判断， 我会将这个时间设置为 1 分钟。
有个很严重的问题就是 IP 数量非常大的时候，以每分钟去验证 IP 会有难度，这个我觉得以后也是一个有优化空间的点。 |
 |
asszxx123123Oct 15, 2018
7
顶楼主一个。
|
Select Language