petalbot

PetalBot 是 Petal 搜索引擎(华为花瓣搜索引擎)的自动程序。PetalBot 的功能是访问 PC 网站和移动网站,并建立索引数据库,使用户可以在 Petal 搜索引擎中搜索您网站的内容。

PetalBot 带给 Web 服务器多少压力

为了获得对目标资源更好的检索结果,PetalBot 需要保持一定程度的网站爬网。我们力求不给网站带来不合理的负担,我们将根据服务器容量,网站质量和网站更新等综合因素进行调整。如果 PetalBot 的访问有任何不合理的行为,请将您的疑虑发送至 search@aspiegel.com。

如何阻止 PetalBot 访问您的站点

PetalBot 符合 Internet 机器人协议。您可以使用 robots.txt 文件完全阻止 PetalBot访问您的网站,或阻止 PetalBot 访问您网站上的某些文件。

User-agent: petalbot

Disallow: /

如果还是禁止不了,可以选择nginx规则禁止访问,如下:

if ($http_user_agent ~* "petalbot") {

 return 403;

}

补充纠错
上一蜘蛛: grapeshot
下一蜘蛛: SEOkicks-Robot