• 请不要在回答技术问题时复制粘贴 AI 生成的内容
wudaown
V2EX  ›  程序员

yande.re 图站爬虫一枚

  •  1
     
  •   wudaown · Jun 20, 2015 · 15843 views
    This topic created in 4161 days ago, the information mentioned may be changed or developed.

    有朋友想收集yande.re里的图片
    于是现学撸了一个爬虫出来
    大家来拍吧
    https://github.com/wudaown/yandeDL

    未满18岁慎用
    
    Supplement 1  ·  Jun 20, 2015
    刚才在看K站的结构.... 发现程序还能在简化...
    浪费了很多很多时间
    在重写
    22 replies  •  2015-06-21 22:11:59 +08:00
    zonghua
    zonghua
    Jun 20, 2015 via iPhone
    1
    python做爬虫有什么加成
    Imyssed
    Imyssed
    Jun 20, 2015
    2
    其实我比较好奇Y站和K站是不是一个系统啊...好像的说
    wudaown
    wudaown
    OP
    Jun 20, 2015
    3
    貌似是的.. y站以前不叫Y站.. 换过名字了
    wudaown
    wudaown
    OP
    Jun 20, 2015❤️1
    4
    @Imyssed 去K站看了一眼.. 结构都差不多 只要替换几个地方就变成K站爬虫了... 233
    yeah2109
    yeah2109
    Jun 20, 2015
    5
    输入关键词以后没有进度提示吗?
    yeah2109
    yeah2109
    Jun 20, 2015
    6
    @wudaown 那就在做个k站的吧233
    看到提示了,好东西
    yeah2109
    yeah2109
    Jun 20, 2015
    7
    我输入了一定的页数,下载了一段时间后
    Traceback (most recent call last):
    File "yandeDL.py", line 61, in <module>
    main()
    File "yandeDL.py", line 55, in main
    MultiPageDownload()
    File "yandeDL.py", line 27, in MultiPageDownload
    coreDL(crawler.getSource(next_page_url))
    File "yandeDL.py", line 14, in coreDL
    crawler.getImg(dLink, filename_list)
    File "/root/yandedl/crawler.py", line 123, in getImg
    urllib.request.urlretrieve(x[2:-2], filename_list[count])
    File "/usr/local/lib/python3.4/urllib/request.py", line 219, in urlretrieve
    % (read, size), result)
    urllib.error.ContentTooShortError: <urlopen error retrieval incomplete: got only 196325 out of 255091 bytes>
    这么显示然后就停止了,是什么原因?
    hansnow
    hansnow
    Jun 20, 2015
    8
    问个和主题不相关的问题哈,楼主帖子里的红色框框是怎么输入的呢?
    anthonyeef
    anthonyeef
    Jun 20, 2015
    9
    @hansnow markdown自带的吧
    wudaown
    wudaown
    OP
    Jun 20, 2015
    10
    @yeah2109 你下载了多少页 用的那个tag? 我自己试试看
    wudaown
    wudaown
    OP
    Jun 20, 2015
    11
    shuzhiqian
    shuzhiqian
    Jun 20, 2015
    12
    iOS开发技术分享群:429196500 欢迎加入!
    dlc
    dlc
    Jun 20, 2015
    13
    楼主, 为什么我安装完python3.4.0 后双击yandeDL.py打不开。
    wudaown
    wudaown
    OP
    Jun 20, 2015
    15
    @moenayuki 我刚才发现有API的.. 准备重写了
    wudaown
    wudaown
    OP
    Jun 20, 2015
    16
    @dlc 能多说一点么... 我在windows测试可以问题......
    yeah2109
    yeah2109
    Jun 21, 2015
    17
    @wudaown 关键词 “thighhighs”或者“no-bra” 页数50
    dlc
    dlc
    Jun 21, 2015
    18
    @wudaown 双击yandeDL.py一闪而过,在cmd用 python yandeDL.py 也打不开。
    ghostxdy
    ghostxdy
    Jun 21, 2015 via Android
    19
    我特的来回复一下,我收藏了
    yeah2109
    yeah2109
    Jun 21, 2015
    20
    @dlc python3 不是python
    wudaown
    wudaown
    OP
    Jun 21, 2015 via iPhone
    21
    @dlc cmd运行的话要把python加入到path
    双击是可以的 可能你版本错了
    djyde
    djyde
    Jun 21, 2015
    22
    yande 是 h漫版的 hackernews?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1370 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 42ms · UTC 17:03 · PVG 01:03 · LAX 09:03 · JFK 12:03
    ♥ Do have faith in what you're doing.