php爬虫实战(抓取美拍视频)

发布时间:2020-06-02 01:33:48 作者:Bing661129
来源:网络 阅读:1369
  1. 抓取页面

 地址:http://www.meipai.com/medias/hot

public function getContentByFilegetcontents($url) {
        $content = file_get_contents($url);
        return $content;
    }

然后我们会获取到整个页面的代码,接下来就是从代码中提取出视频的地址 标题 图片等关键信息

2.提取

  我们发现视频的主要代码集中在以下代码中

<li class="pr no-select loading  J_media_list_item" itemscope itemtype="http://schema.org/VideoObject">
    <img src="https://cache.yisu.com/upload/information/20200310/52/108717.jpg!thumb320" width="300" height="300" class="db pa pai" alt="手撕包菜。包菜撕片装洗净备用。热锅入油五花肉下锅煸炒出油,多余的油盛出。放酱油肉上色,盛出。之前的油倒锅内,放蒜辣椒炒香,下包菜继续翻炒,倒适量酱油老抽五香粉。再下之前炒好的五花肉翻炒,放适量盐,出锅前放鸡精淋入适量香醋即可非常香啊,超级下饭。喜欢的点赞奥#美食##家常菜#" itemprop="thumbnail">
    <div id="w517161790" class="content-l-video content-l-media-wrap pr cp" data-id="517161790" data-video="http://mvvideo1.meitudata.com/5734040ae2dec950.mp4">
        <div class="layer-black pa"></div>
        <a hidefocus href="/media/517161790" target="_blank" class="content-l-p pa" title="手撕包菜。包菜撕片装洗净备用。热锅入油五花肉下锅煸炒出油,多余的油盛出。放酱油肉上色,盛出。之前的油倒锅内,放蒜辣椒炒香,下包菜继续翻炒,倒适量酱油老抽五香粉。再下之前炒好的五花肉翻炒,放适量盐,出锅前放鸡精淋入适量香醋即可非常香啊,超级下饭。喜欢的点赞奥#美食##家常菜#">
            <meta itemprop="url" content="/media/517161790">
            <i class="icon icon-item-play"></i>
            <strong class="js-convert-emoji" itemprop="description">哈喇嘎子流成河</strong>
        </a>
    </div>
    <div class="pr" itemscope itemtype="http://schema.org/AggregateRating">
        <a hidefocus href="/user/62299474" class="dbl h58">
            <img src="https://cache.yisu.com/upload/information/20200310/52/108718.jpg!thumb60" width="28" height="28" class="avatar m10" title="小优Lucky" alt="小优Lucky">
        </a>
        <p class="content-name  pa">
            <a hidefocus href="/user/62299474" class="content-name-a js-convert-emoji" title="小优Lucky" itemprop="author">小优Lucky</a>
        </p>
        <div class="content-like pa" data-id="517161790">
            <i class="icon icon-like"></i>
            <span itemprop="ratingCount">3060</span>
        </div>
        <a hidefocus href="/media/517161790" data-sc="1" target="_blank" class="conten-command pa" data-id="517161790">
            <i class="icon icon-command"></i>
            <span itemprop="reviewCount">100</span>
        </a>
    </div>
</li>

通过正则匹配

 public function extracturl($page) {
        $matches = array();
        $voide=array();
        $mainurl="";
        $list=array();
        $j=0;
        $pat = "/<li class=\"pr no-select loading  J_media_list_item\".*?>.*?<\/li>/ism";

        preg_match_all($pat, $page, $matches, PREG_PATTERN_ORDER);
        for ($i=0; $i <count($matches[0]) ; $i++) { 
        	$pat1 ="/data-video=\"(.*?)\"/ism";
	        preg_match_all($pat1, $matches[0][$i], $voide, PREG_PATTERN_ORDER);

	        $myvoide=$voide[1][0];
	        $pat2 ="/src=\"(.*?)\"/ism";
	        preg_match_all($pat2, $matches[0][$i], $img, PREG_PATTERN_ORDER);
	        $myimg=$img[1][0];
	         $pat3 ="/<strong class=\"js-convert-emoji\".*?>(.*?)<\/strong>/ism";
	        preg_match_all($pat3, $matches[0][$i], $title, PREG_PATTERN_ORDER);
	        $mytitle= $title[1][0];
	        $list[$j++]=array(
	        	'voide'=>$myvoide,
	        	'title'=>$mytitle,
	        	'img'=>$myimg);
	        
        }
       	return $list;
    }
}

全部代码

<?php
class Cutecrawler {

    public function getContentByFilegetcontents($url) {
        $content = file_get_contents($url);
        return $content;
    }
   
    public function extracturl($page) {
        $matches = array();
        $voide=array();
        $mainurl="";
        $list=array();
        $j=0;
        $pat = "/<li class=\"pr no-select loading  J_media_list_item\".*?>.*?<\/li>/ism";

        preg_match_all($pat, $page, $matches, PREG_PATTERN_ORDER);
        for ($i=0; $i <count($matches[0]) ; $i++) { 
        	$pat1 ="/data-video=\"(.*?)\"/ism";
	        preg_match_all($pat1, $matches[0][$i], $voide, PREG_PATTERN_ORDER);

	        $myvoide=$voide[1][0];
	        $pat2 ="/src=\"(.*?)\"/ism";
	        preg_match_all($pat2, $matches[0][$i], $img, PREG_PATTERN_ORDER);
	        $myimg=$img[1][0];
	         $pat3 ="/<strong class=\"js-convert-emoji\".*?>(.*?)<\/strong>/ism";
	        preg_match_all($pat3, $matches[0][$i], $title, PREG_PATTERN_ORDER);
	        $mytitle= $title[1][0];
	        $list[$j++]=array(
	        	'voide'=>$myvoide,
	        	'title'=>$mytitle,
	        	'img'=>$myimg);
	        
        }
       	return $list;
    }
}

$url = "http://www.meipai.com/medias/hot";
	$crawler = new Cutecrawler();
    $content = $crawler->getContentByFilegetcontents($url);
    $c=$crawler->extracturl($content);

var_dump($c);
?>

最后结果:

array(24) {
  [0]=>
  array(3) {
    ["voide"]=>
    string(51) "http://mvvideo2.meitudata.com/5737fd5caeb838981.mp4"
    ["title"]=>
    string(27) "老师那些年常说的话"
    ["img"]=>
    string(58) "https://cache.yisu.com/upload/information/20200310/52/108720.jpg!thumb320"
  }
  [1]=>
  array(3) {
    ["voide"]=>
    string(50) "http://mvvideo2.meitudata.com/5737fceabf873602.mp4"
    ["title"]=>
    string(21) "女友突然冷落你"
    ["img"]=>
    string(58) "http://mvimg2.meitudata.com/5736d25d0aa5d8991.jpg!thumb320"
  }
  [2]=>
  array(3) {
    ["voide"]=>
    string(51) "http://mvvideo2.meitudata.com/5737f300131e18596.mp4"
    ["title"]=>
    string(27) "女明星之间的内心戏"
    ["img"]=>
    string(58) "https://cache.yisu.com/upload/information/20200310/52/108722.jpg!thumb320"
  }
  [3]=>
  array(3) {
    ["voide"]=>
    string(51) "http://mvvideo2.meitudata.com/5737eb9d0bfc92046.mp4"
    ["title"]=>
    string(24) "真替老师感到悲剧"
    ["img"]=>
    string(57) "https://cache.yisu.com/upload/information/20200310/52/108723.jpg!thumb320"
  }

接下来。。。你可以存入数据库

推荐阅读:
  1. 40行代码教你利用Python网络爬虫批量抓取小视频
  2. 「docker实战篇」python的docker- 抖音视频抓取(上)(24)

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

php 爬虫

上一篇:​Lime 吕厚昌:Make Data Your Kille

下一篇:centos7手把手教你搭建zabbix监控

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》