百度蜘蛛最新UA及各大搜索引擎蜘蛛爬虫UA汇总

这篇具有很好参考价值的文章主要介绍了百度蜘蛛最新UA及各大搜索引擎蜘蛛爬虫UA汇总。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

了解各大搜索引擎蜘蛛爬虫的UA,对我们进行某些程序编写十分有用,例如网页判断客户端来源时,UA是常用的标准之一。

-- 模拟蜘蛛访问百度 查看请求响应结果
curl --head --user-agent "Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)" --request GET "http://www.baidu.com/"

下面是返回结果

HTTP/1.1 200 OK
Content-Length: 2443
Content-Type: text/html
Server: bfe
Date: Tue, 12 Mar 2024 08:40:30 GMT

下面收集了各大搜索引擎的蜘蛛爬虫UA,以便需要时查阅。

百度

"Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)"

百度图片
"Baiduspider-image+(+http://www.baidu.com/search/spider.htm)"
百度最新UA如下:
PC:
Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
移动:
Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)
360搜索
"Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0);"
360网站安全检测

"360spider (http://webscan.360.cn)"
Google
"Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)"
Google图片搜索
"Googlebot-Image/1.0"
Adwords移动网络

"AdsBot-Google-Mobile (+http://www.google.com/mobile/adsbot.html) Mozilla (iPhone; U; CPU iPhone OS 3 0 like Mac OS X) AppleWebKit (KHTML, like Gecko) Mobile Safari"
微软 bing,必应

"Mozilla/5.0 (compatible; bingbot/2.0; +http://www.bing.com/bingbot.htm)"
腾讯搜搜

"Sosospider+(+http://help.soso.com/webspider.htm)"
搜搜图片

"Sosoimagespider+(+http://help.soso.com/soso-image-spider.htm)"
雅虎英文

"Mozilla/5.0 (compatible; Yahoo! Slurp; http://help.yahoo.com/help/us/ysearch/slurp)"
雅虎中国

"Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)"
搜狗图片

"http://pic.sogou.com" "Sogou Pic Spider/3.0(+http://www.sogou.com/docs/help/webmasters.htm#07)"
搜狗

"Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)"
网易有道

"Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/; )"
瑞典 Speedy Spider

"Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US) Speedy Spider (http://www.entireweb.com/about/search_tech/speedy_spider/)"
俄罗斯 yandex

"Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)"
宜搜 EasouSpider

"Mozilla/5.0 (compatible; EasouSpider; +http://www.easou.com/search/spider.html)"
华为赛门铁克蜘蛛

"HuaweiSymantecSpider/1.0+DSE-support@huaweisymantec.com+(compatible; MSIE 7.0; Windows NT 5.1; Trident/4.0; .NET CLR 2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR ; http://www.huaweisymantec.com/cn/IRL/spider)"
华为赛门铁克科技有限公司网页信誉分析系统的一个页面爬取程序,其作用是用于爬取互联网网页并进行信誉分析,从而检查该网站上的是否含有恶意代码。

七牛镜像蜘蛛

qiniu-imgstg-spider-1.0
监控宝

"Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; JianKongBao Monitor 1.1)"
DNSPod监控

DNSPod-Monitor/2.0
俄罗斯 LinkpadBot

Mozilla/5.0 (compatible; LinkpadBot/1.06; +http://www.linkpad.ru)
英国 MJ12bot

"Mozilla/5.0 (compatible; MJ12bot/v1.4.0; http://www.majestic12.co.uk/bot.php?+)"文章来源地址https://www.toymoban.com/news/detail-847075.html

到了这里,关于百度蜘蛛最新UA及各大搜索引擎蜘蛛爬虫UA汇总的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • 统计鸟网站统计搜索引擎蜘蛛名称及释义

    搜索引擎用来爬行和访问页面的程序被称为蜘蛛(spider),也叫机器人(bot)。搜索引擎蜘蛛访问网站页面时类似于普通用户使用浏览器,蜘蛛程序发出页面访问请求后,服务器返回HTML代码,蜘蛛程序把收到的代码存入原始页面数据库,搜索引擎为了提高爬行和抓取的速度,

    2024年04月27日
    浏览(7)
  • Nginx 通过userAgent判断是否时搜索引擎蜘蛛

     Nginx配置如下 百度蜘蛛是百度搜索引擎的搜索机器人,它会定期抓取互联网上的网页,将这些网页进行处理后存储在百度的数据库中,以供百度用户检索。如果你想帮助自己的网站被百度蜘蛛更快地发现和抓取,那么就需要将自己的网址转发给百度蜘蛛。下面是一些步骤和

    2024年02月10日
    浏览(11)
  • 使用宝塔面板如何查看网站日志分析搜索引擎蜘蛛数据

    网站日志(确切的讲应该是服务器日志)是记录WEB服务器接收处理请求以及运行错误等各种原始信息的文件。通过查看网站日志分析数据我们可以获得很有有用的数据,例如蜘蛛访问、是否被恶意访问、网站访客来源等等网站访客在寻找什么?哪个页面最受欢迎?网站访客从

    2024年02月09日
    浏览(13)
  • 各大搜索引擎下拉词长尾词API接口

    返回结果: 返回结果: 谷歌API接口地址2:http://suggestqueries.google.com/complete/search?output=toolbarhl=zhq=开源福利 返回结果:

    2024年02月11日
    浏览(9)
  • 运用谷歌浏览器的开发者工具,模拟搜索引擎蜘蛛抓取网页

    第一步:按压键盘上的F12键打开开发这工具,并点击右上角三个小黑点 第二步:选择More tools 第三步:选择Network conditions 第四步:找到User agent一列,取消复选框的勾选 第五步:选择谷歌爬虫agent即Googlebot 第六步:在当前浏览器地址栏中,输入想要访问的网站地址,直接访问

    2024年02月03日
    浏览(17)
  • 浏览器UA user-agent、windows各版本内核、搜索引擎爬虫UA归类

    ### 浏览器userAgent: 实际上很多浏览器套了壳,核心都是chrome和safari,大部分浏览器UA里面看倒数第二个或第一个字段就可以判断出是啥浏览器了,同一浏览器的UA版本上可能存在差异,但大致相同。 **servo 不支持es6** ```Mozilla/5.0 (Macintosh; Intel Mac OS X 10.10; rv:37.0) Servo/1.0 Firefox

    2024年02月02日
    浏览(15)
  • 如何(正确)使用搜索引擎?使用搜索引擎的高效技巧(例如:百度、谷歌)

              提起这个搜索引擎,我们对它就有三种级别的认识          第一种:完全不知道“搜索引擎”是什么或者是“我只知道浏览器”          第二种:知道搜索引擎,但不知道这玩意还有使用方式!          第三种:知道搜索引擎并知道怎么使用的大量相关知识

    2024年02月04日
    浏览(20)
  • 百度搜索引擎使用技巧

    作为和一个合格的ccv程序员,掌握搜索引擎的高级搜索语法是必不可少的技能,下面列举出百度搜索引擎常见的几种搜索语法。 普通人是直接搜索,比如:前端开发。 搜索范围限定在包含 keyword 的网页标题中,这也是最普通的搜索。 语法: intitle:和后面的之间

    2024年02月06日
    浏览(17)
  • 除了百度还有什么搜索引擎比较好

    百度是国内最大的搜索引擎,也是国内最好的搜索引擎。但是由于其广告比较多,有些同学不太喜欢使用百度搜索。那么除了百度还有什么搜索引擎比较好?小编就来和大家分享几款国内可以使用的其他搜索引擎。 1.谷歌搜索,谷歌搜索是全球最受欢迎的搜索引擎,在国内无法

    2024年02月11日
    浏览(12)
  • 15 个百度网盘搜索引擎

    1、云铺子 - 百度网盘搜索引擎 地址:http://www.yunpz.net/ 查看方式:直接打开 推荐指数:★★★★★ 备注:聚合类,体验好, 推荐! 2、橘子盘搜-好用的影视资源搜索引擎 地址:https://www.nmme.cc/ 查看方式:直接打开 推荐指数:★★★★★ 备注:专攻影视搜索,度盘、迅雷、

    2023年04月08日
    浏览(35)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包