python爬取贴吧内容实例

1、打开python开发工具IDLE，新建‘tieba.py’文件，并写代码如下：import urllib.requestimport bs4导入urllib请求包和beautifulsoup处理包

2、创建发送请求的函数，函数返回网页源码，代码如下：def openWeb(url): s罕铞泱殳c = urll足毂忍珩ib.request.urlopen(url) bc = sc.read() return bc.decode('utf8')

3、打开python

4、F12打开开发者模式，观察所有title的结构

5、编写处理网页源码的函数，代码如下：def saveContent(html): soup = bs4.BeautifulSoup(html,'html.p锾攒揉敫arser') link = soup.find_all('a',class_='j_th_tit') for l in link: print (l['title'])

6、编写程序入口函数，调度上面的两个函数，代码如下：

7、F5运行代码，打印出所有title