一区二区久久-一区二区三区www-一区二区三区久久-一区二区三区久久精品-麻豆国产一区二区在线观看-麻豆国产视频

PHP CURL獲取cookies模擬登錄的方法

要提取google搜索的部分數據,發現google對于軟件抓取它的數據屏蔽的厲害,以前偽造下 USER-AGENT 就可以抓數據,但是現在卻不行了。利用抓包數據發現,Google 判斷了 cookies,當你沒有cookies的時候,直接返回 302 跳轉,而且是連續幾十個302跳轉,根本抓不了數據。
因此,在發送搜索命令時,需要先提取 cookies 并保存,然后利用保存下來的這個cookies再次發送搜索命令即可正常抓數據了。這其實和論壇的模擬登錄一個道理,先POST登錄,獲取cookies并保存,然后利用這個cookies訪問就可以了。
php 代碼如下:
復制代碼 代碼如下:
<?php
header('Content-Type: text/html; charset=utf-8');

$cookie_file = dirname(__FILE__).'/cookie.txt';
//$cookie_file = tempnam("tmp","cookie");

//先獲取cookies并保存
$url = "http://www.google.com.hk";
$ch = curl_init($url); //初始化
curl_setopt($ch, CURLOPT_HEADER, 0); //不返回header部分
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true); //返回字符串,而非直接輸出
curl_setopt($ch, CURLOPT_COOKIEJAR,  $cookie_file); //存儲cookies
curl_exec($ch);
curl_close($ch);

//使用上面保存的cookies再次訪問
$url = "http://www.google.com.hk/search?oe=utf8&ie=utf8&source=uds&hl=zh-CN&q=qq";
$ch = curl_init($url);
curl_setopt($ch, CURLOPT_HEADER, 0);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file); //使用上面獲取的cookies
$response = curl_exec($ch);
curl_close($ch);

echo $response;
?>

php技術PHP CURL獲取cookies模擬登錄的方法,轉載需保留來源!

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯系我們修改或刪除,多謝。

主站蜘蛛池模板: 亚洲综合在线最大成人 | 九九亚洲| 国产亚洲美女精品久久久久狼 | 99精品国产成人一区二区 | 三级网站免费播放国语 | 97成人精品视频在线播放 | 日本道精品一区二区三区 | 免费播放欧美一级特黄 | 亚洲综合网在线 | 欧美激情午夜 | 99精品视频在线播放2 | 国产精品自在线 | 国产精品第二页 | 精品一区二区三区免费站 | 四虎影视精品永久免费网站 | 国产精品久久久久免费视频 | 91精品专区 | 综合伊人久久 | 免费久久精品视频 | 中文字幕第二一区 | 国产免费人成在线看视频 | 国产亚洲精品福利在线 | 大胆gogo999亚洲肉体艺术 | 黄在线视频播放免费网站 | 亚洲一区小说区中文字幕 | 国产一区视频在线免费观看 | 黄色影片免费观看 | 日韩欧美三区 | 丁香五月情 | 精品国产91久久久久 | 国内精品久久久久久中文字幕 | 亚洲人成亚洲精品 | 久久只有这才是精品99 | 欧美性色xo影院永久禁欲 | www.91成人| 婷婷色激情 | 91精品国产综合久久婷婷 | a高清免费毛片久久 | 亚洲一区免费在线 | 中文激情 | 高清国产一区二区三区 |