1 Star 0 Fork 1

大数据老司机/python-test

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
文件
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
云上唐河.py 1.47 KB
一键复制 编辑 原始数据 按行查看 历史
大数据老司机 提交于 2022-10-15 02:48 . update 云上唐河.py.
# -*- coding: utf-8 -*-
# @Time : 2022/3/31 9:33
# @File : 云上唐河.py
# @Software: PyCharm
""""""
import time
import json
import jsonpath
import requests
import requests_cache as rc
def make_hook(delay=2):
def hook(response, *args, **kwargs):
if not getattr(response, 'from_cache', False):
print('delayTime')
time.sleep(2)
else:
print('Have')
return response
return hook
url="https://tanghe.dxhmt.cn/api/sub/article/mergeListNew"
datas={
'page': '1',
'size':'20',
'pageId':'5cdb3dc65e064d11b8e030ee6e10d07a',
'appId':'dxrma6af7651c63bbb9efcc15ddf1578',
'timestamp':'1648695573928',
'imei':'25c23844-cc1a-4aab-94ba-6a67fe148f76',
'source':'Android'
}
header={"User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/99.0.4844.74 Safari/537.36 Edg/99.0.1150.55"}
p = requests.post('https://tanghe.dxhmt.cn/api/sub/article/mergeListNew',data=datas,headers=header)
rc.install_cache() #初始化爬虫换sun
# rc.clear() #清空爬虫缓存
p.encoding='utf-8'
session = rc.CachedSession()
session.hooks = {'response':make_hook()}
page = session.post(url, data=datas, headers=header)
jsoninfo = json.loads(page.content)
# print(jsoninfo)
with open("D:/DeveloProgram/PythonProgram/第二学期/lian/tanghe.json", "w", encoding="utf-8") as fi:
fi.write(json.dumps(jsoninfo, indent=2, ensure_ascii=False))
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
1
https://gitee.com/hadoop-bigdata/python-test.git
git@gitee.com:hadoop-bigdata/python-test.git
hadoop-bigdata
python-test
python-test
master

搜索帮助