python爬取喜马拉雅音频,json参数解析

liftword2个月前 (03-24)技术文章12

一.抓包分析json,获取加密方式

1.抓包获取音频界面

f12打开抓包工具,播放一个(非vip)视频,点击“媒体”

单击打开

可以复制URL,发现就是我们要的音频。

复制“CKwRIJEEXn-cABa0TgCj-ek6”,搜索,可以找到链接的来源

2.找到json文件,分析加密

复制“/revision/play/v1/audio”,搜索,找到我们需要的json文件(找不到的话就刷新浏览器)

将json文件在‘源代码’里打开,发现"xm-sign": z.getSign() 可能是加密的方式

点击播放另一视频进入调试,点击getSign()函数,得

打上断点运行

经过断点运行分析 (运用单步运行进行分析):

t 始终为 himalaya-


n,e 为服务器时间戳, 通过
https://www.ximalaya.com/revision/time 可得


r 为 当前时间的时间戳


l(100)为100以内的随机数


此时我们可以得知参数被加密后的格式为


{himalaya-服务器时间戳} +(100以内随机数)+服务器时间戳 +(100以内随机数)+当前时间戳

但是!!!!

注意还有下述操作,鼠标放在a(e)上,出现白框,点击链接,如下:


在6660行打断点运行(合理使用‘运行’和‘单步运行’)

可以看出输入为 {himalaya-服务器时间戳},继续运行看看输出为啥

返回"
02d95bb6140a4626c9d447f2d3385e61",是32位数字,合理猜测是md5算法,找个md5在线转换器验证一手

因此,a函数就是md5算法

继续运行,看看最终返回给xm-sign的是啥

故可以得出结论, 参数被加密后的格式(最终版本)为:

himalaya-服务器时间戳经过md5加密 +(100以内随机数)+服务器时间戳 +(100以内随机数)+当前时间戳

二.python代码实现

import requests
import json
import time
import random
import hashlib

url = 'https://www.ximalaya.com/revision/play/v1/audio?id=48241057&ptype=1'

headers = {
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/106.0.0.0 Safari/537.36 Edg/106.0.1370.47'
}

#服务器时间戳
severtime = requests.get('https://www.ximalaya.com/revision/time',headers=headers).text
#现在时间戳
nowtime = str(round(time.time()*1000)) #round()返回保留几位小数的值,默认为整数 //time.time()返回当前时间的时间戳//time.time()得10位数,目前时间戳为13位数

#求加密的参数
xm_sign = str(hashlib.md5('himalaya-{}'.format(severtime).encode()).hexdigest()) + '({})'.format(round(random.random()*100)) + severtime + '({})'.format(round(random.random()*100)) + nowtime
#print(xm_sign)

#更新请求头参数
headers['xm-sign'] = xm_sign

#提取及解析音频网址
resp = requests.get(url,headers=headers)
src_dic = json.loads(resp.text)
src = src_dic['data']['src']

#下载音频
with open(f'./video/1.m4a',mode='wb') as f:
    f.write(requests.get(src,headers=headers).content)

三.总结

本文主要介绍的爬取喜马拉雅过程中的参数解析,爬取音频较为简单,只爬取一个音频,之后可以替换音频地址或者爬取多个音频,可以使用异步的方法高效率爬取更多的音频。冲!!!

相关文章

Python爬取小说技术指南

在 Python 中爬取小说需要遵循法律法规和网站的服务条款,请确保你有权获取目标内容。以下是使用 Python 爬取小说的通用技术流程安装依赖库pip install requests beauti...

用Python 爬取并保存小说

1. 安装requests pip install requests2. 安装lxml pip install lxml3. 斗罗大陆网页代码4 import requests from lxml i...

python:最简单爬虫之爬取小说网Hello wrold

以下用最简单的示例来演示爬取某小说网的类目名称。新建一个retest.py,全文代码如下,读者可以复制后直接运行。代码中我尽量添加了一些注释便于理解。需要说明的一点,该小说网站如果后续更新改版了,文中...

python爬虫教程之爬取当当网 Top 500 本五星好评书籍

我们使用 requests 和 re 来写一个爬虫作为一个爱看书的你(说的跟真的似的)怎么能发现好书呢?所以我们爬取当当网的前 500 本好五星评书籍怎么样?ok接下来就是学习 python 的正确姿...

Python爬虫:用Beautifulsoup爬取html文本数据

Beautifulsoup介绍:是一个高效的网页解析库,可以从HTML或XML文件中提取数据支持不同的解析器,比如,对HTML解析,对XML解析,对HTML5解析就是一个非常强大的工具,爬虫利器一个灵...

超有趣!用 Python 爬取抖音热门视频数据,探索爆款密码

在当今的社交媒体时代,抖音无疑是最热门的平台之一。每天都有海量的视频被上传,其中一些视频迅速走红,成为爆款。你是否好奇这些热门视频背后有什么规律?今天,我们就用 Python 来爬取抖音热门视频数据,...