如何使用爬虫下载网站小说

以免费小说下载网站下载小说为例.从网站上直接下载小说的页面如图，这里利用python从网站的每章的小说阅读页面读取小说、写入到文件中.

2、输入文本写入路径，使用urlopen打开网址并用beautifulsoup解析.

4、list是小说网址部分的内容href=子网址，由于源码内ul有3个，所需部分是最后一个，所以加上下标定位最后一个ul。

6、内容的下载、写入部分代码如图.第一个for循环是写入每章的内容.第二个for循环写入该章的内容.该部分也需要查看具体章节页面的源码.最后关闭文件，进行保存.

结果

1、运行该命令，代码正确后会显示如图.可以看出文件正成功逐章下载。