小编给大家分享一下python爬虫中如何爬取网页新闻内容,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!
创新互联专注于企业成都营销网站建设、网站重做改版、鹤壁网站定制设计、自适应品牌网站建设、H5响应式网站、成都做商城网站、集团公司官网建设、成都外贸网站制作、高端网站制作、响应式网页设计等建站业务,价格优惠性价比高,为鹤壁等各大城市提供网站开发制作服务。
python可以做什么
Python是一种编程语言,内置了许多有效的工具,Python几乎无所不能,该语言通俗易懂、容易入门、功能强大,在许多领域中都有广泛的应用,例如最热门的大数据分析,人工智能,Web开发等。
一、为什么需要用爬虫?
为其他程序提供数据源,如搜索引擎(百度、Google等)、数据分析、大数据等等。
二、爬虫设计思路
1、首先确定需要爬取的网页URL地址 ;
2、通过HTTP协议来获取对应的HTML页面 ;
3、提取html页面里的有用数据 ;
4、如果是需要的数据就保存起来,如果是其他的URL,那么就执行第二部。
三、python爬虫实例:爬取网页新闻内容
1、确定爬取新闻内容的网络地址
https://k.sina.com.cn/article_6192937794_17120bb42020015u42.html?from=health
2、实施爬虫代码
import requests from bs4 import BeautifulSoup res =requests.get('https://k.sina.com.cn/article_6192937794_17120bb42020015u42.html?from=health') res.encoding='utf-8' soup=BeautifulSoup(res.text, 'html.parser') title=soup.select('#artibody')[0].text print(title)
以上是“python爬虫中如何爬取网页新闻内容”这篇文章的所有内容,感谢各位的阅读!相信大家都有了一定的了解,希望分享的内容对大家有所帮助,如果还想学习更多知识,欢迎关注创新互联行业资讯频道!
本文标题:python爬虫中如何爬取网页新闻内容
网页URL:http://scgulin.cn/article/pecghd.html