V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  ClericPy  ›  全部回复第 12 页 / 共 137 页
回复总数  2733
1 ... 8  9  10  11  12  13  14  15  16  17 ... 137  
2023 年 7 月 28 日
回复了 ohayoo 创建的主题 Python 请大佬帮忙瞄一眼我这个丑陋的异步协程代码
1. 每次读 1000 行,避免内存占用过多
1000 行内存太小了, 给你个简单的换算公式: 1 万条 URL 大约 1MB 内存
如果 api 响应较慢, 你会很多时候在等最后少数几条结束才能开始下一轮. 不如像他们说的丢异步队列, 然后开 100 个 task 去消费直到 Queue 空

2. 利用 Semaphore 来控制并发数量为 100 ,避免 API 端把我给 ban 了
100 并发实际上很大, 一般 nginx 上带点限流的, 一秒超过 2 个请求就给你 ban 了
其次还要考虑目标网站承载能力, 否则只会导致 dos 然后失败率骤增. 不要敲打服务器 是爬虫第一课
如果这服务器是自己家的... 千万行, 考虑改造下批量任务, 甚至这种请求量的就不像 HTTP 场景

3. 复用 session
没啥问题, 早期 aiohttp 还有 bug 不关 Session 一大堆事, 你分段来做也还好

4. asyncio.run 与 get_event_loop
建议找个 IDE 点 goto definition 看看源码, python 很多内置库源码都值得学习一下.
一般情况下 asyncio.run 只运行一次, 其他各种逻辑放到 main 函数里就好了. 启动多次也没啥事

挺简单个爬虫为啥那么纠结, 写个十几万行啥问题都没了. 你都用上 TaskGroup 了, 看看官方文档吧

PS: 不是大佬, 辨别乱 Q...
2023 年 7 月 27 日
回复了 YVAN7123 创建的主题 问与答 特斯拉为啥卖的这么好?
本来想买国产, 但是副作用太多了不得不放弃. 我是不那么在乎操控的

1. 4S 店套路太深了, 认识一个同事和一个亲戚, 买同一辆车. 基本同一时间段, 花的钱能差距上万...
2. 安卓系统不用多说
3. 内饰按钮有点多, 比较喜欢极简主义
4. 提车等太久
5. 好几家怎么看怎么像打嘴炮 捞快钱的, 不像真来造车的
6. 名字不好听...
不但同医院共享, 甚至还要跨医院共享

因为太多病人因为病历不全导致出问题了. 比如在十年前心脏做个金属支架, 十年后骨折去拍磁共振忘记了...
2023 年 7 月 22 日
回复了 MrdotX 创建的主题 问与答 新能源汽车安全性讨论
再补一个安全性: 尽量别买安卓车机...
2023 年 7 月 22 日
回复了 MrdotX 创建的主题 问与答 新能源汽车安全性讨论
@ClericPy 补安全性感受

1. 各种驾驶辅助的主动避险时灵时不灵, 主要还是靠人
2. 不踩刹车刹不住, 剧烈碰撞电池燃烧, 这些不都是废话吗, 别纠结那些营销号(辨别营销号主要看是不是机器人播报就可以过滤一大把), 他们只是为了挣钱, 不是要给你传授知识
3. 至于放那里自燃的, 为什么新闻那么多, 因为有噱头, 如果是精彩发生的事情, 就不值得报导了, 幸存者偏差最明显的就是新闻事件了.
4. 安全性问题我买特第一时间关注的三件事基本足够了:
4.1. 真如果刹不住, 长按 P 档
4.2. 车身燃烧, 用紧急开门那个拉条赶快逃离
4.3. AP 驾驶一定要看明白说明书, 第一次上路就不知道抢方向盘没退出 ACC 导致差点追尾
5. 买
2023 年 7 月 22 日
回复了 MrdotX 创建的主题 问与答 新能源汽车安全性讨论
首先省略 1500 字用车体验.

然后, 建议去挨个试驾
2023 年 7 月 15 日
回复了 x77 创建的主题 程序员 VSCode 哪个主题好看又好用?
qiita 三年没换了
下个绿色版 python 解释器, 然后用 zipapps 或 shiv 打包个 pyz. 到机器上用解释器运行 pyz 就行了. pyz 里带了依赖和原代码包

但是如果依赖里有 .pyd/.so 之类的, 以及 C-lib 之类的, 就麻烦一些, 去 pypi.org 下载 whl 到目标机器安装
2023 年 7 月 3 日
回复了 yaott2020 创建的主题 Linux 请诸位 Linux 用户泼醒我
谁都痒

当初尝试了十几次 i3wm 最后放弃的我能体会到这个感觉
2023 年 7 月 3 日
回复了 huluhulu 创建的主题 Python Python 依赖库的引用问题,感觉没有合适的方法
一开始想的是

pip install a==1.0 -t ./a1

pip install a==2.0 -t /a2

sys.path.extend(['./a1', './a2'])

后来一想, 实际没用. 遇到过, 强行升级/降级 解决的, 解决不了的走 RPC 了, 坑爹
2023 年 6 月 30 日
回复了 twor 创建的主题 问与答 为什么宠物医院那么贵?
物以稀为贵
2023 年 6 月 26 日
回复了 yawhale 创建的主题 随想 昨日回京走最右侧车道车速 160 迈
五一长途来着, 一不小心就超过 130 完全感觉不到, 但是一超过 140 的话, 潜意识就开始疯狂 call 我看仪表... 才差那么点体感那么明显
2023 年 6 月 26 日
回复了 RATIONALITY 创建的主题 汽车 当你是红灯前第一辆车的时候
电车表示... 我就是人们口中的电耗子
2023 年 6 月 26 日
回复了 zuriaake 创建的主题 程序员 换了份新工作,我悟了
如果你连前任都不如, 他们凭什么招你...
2023 年 6 月 22 日
回复了 Guesser 创建的主题 问与答 一个 Chrome 让我难受很久的痛点,怎么解决
1. 中键
2. ctrl+左键
3. 左键拖动到 tab 上

搜一搜或者问问 claude. 反正这些需求在编程之前也不知道, 后来觉得这么大的产品应该有这个功能啊(让我设计我就 bla bla), 就自己摸索出来了
2023 年 6 月 20 日
回复了 maxssy 创建的主题 Python Python 引用需要遵守什么规则吗?总是出现循环引用
代码结构设计有问题啊...

遇到互相引用的还是单独开一个工厂模块之类的, 构造的时候把需要的对象传递到工厂方法里去. 还有很多其他方案就不一一细说了
2023 年 6 月 20 日
回复了 v2er4241 创建的主题 问与答 有什么解渴+解暑+好喝的冰镇饮料?
到苏州第一次喝到带薄荷油的绿豆汤, 走路一天口渴的很, 喝完惊为天人, 不只因为它里面有大米饭...
2023 年 6 月 20 日
回复了 TRW 创建的主题 Python 老板们 playwright 如何提高稳定性
找不到元素是不是你一个网站并发打开超过 6 个了. 开 incognito 试试能不能规避那个并发限制
生态还不错, 全公司除了我谁都不用...
1 ... 8  9  10  11  12  13  14  15  16  17 ... 137  
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   4906 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 60ms · UTC 09:29 · PVG 17:29 · LAX 02:29 · JFK 05:29
♥ Do have faith in what you're doing.