Cloudflare:什么是机器人管理?

时间:2021-07-15 | 标签: | 作者:Q8 | 来源:Cloudflare网络

小提示:您能找到这篇{Cloudflare:什么是机器人管理?}绝对不是偶然,我们能帮您找到潜在客户,解决您的困扰。如果您对本页介绍的Cloudflare:什么是机器人管理?内容感兴趣,有相关需求意向欢迎拨打我们的服务热线,或留言咨询,我们将第一时间联系您!

机器人管理是指阻止有害或恶意的互联网机器人流量,同时仍然允许良性的机器人访问Web属性。机器人管理通过检测机器人活动来实现这一目标,区分有需要和不想要的机器人行为以及识别不想要的活动来源。

Bot management is necessary because bots, if left unchecked, can cause massive problems for web properties. Too much bot traffic can put a heavy load on web servers, slowing or denying service to legitimate users (sometimes this takes the form of a DDoS attack). Malicious bots can scrape or download content from a website, steal user credentials, rapidly spread spam公关危机绪论 content, and perform various other kinds of cyberattacks.

机器人管理的工作内容是什么?

机器人管理器是任何管理机器人的软件产品。机器人管理程序应该能够阻止某些机器人并允许其他机器人通过,而不是简单地阻止所有非人为流量。例如,如果所有机器人都被阻止并且谷歌的机器人无法为页面编制索引,则该页面将不会显示在谷歌搜索结果中,从而大大减少了网站的自然流量。

一个好的机器人管理程序可以实现以下目标:

识别机器人与访客之间的差异

识别机器人的信誉

识别机器人来源 IP 地址并根据 IP 信誉进行阻拦

分析机器人行为

将"良性“机器人添加到白名单

Challenge potential bots via a CAPTCHA test, JavaScript injection, or other methods

Rate limit any potential bot over-using a service



拒绝"恶意”机器人对某些内容或资源的访问

为机器人提供替代内容

什么是机器人?

机器人是在网络上运行的计算机程序。机器人被编程为自动执行某些操作。通常,机器人执行的任务相当简单,但是机器人可以一次又一次地以比人类更快的速度完成任务。

例如,谷歌使用机器人不断抓取网页并将内容编入索引以进行搜索。一个人的团队需要花费天文数字的时间才能查看整个互联网上散布的内容,但是谷歌的机器人能够使谷歌的搜索索引保持最新状态。

作为负面示例,垃圾邮件发送者使用电子邮件收集机器人从互联网上收集电子邮件地址。机器人程序会爬虫网页,查找遵循电子邮件地址格式(文本+ @符号+域)的所有文本,然后将该文本保存到数据库中。自然,人们可以在网页上查找电子邮件地址,但是由于这些电子邮件收集机器人是自动的,并且仅查找适合某些参数的文本,因此查找电子邮件地址的速度成倍增长。

与人类用户访问 Internet 不同的是,机器人通常不通过 Google Chrome 或者 Mozilla F推广人irefox 等传统 Web 浏览器访问 Internet。机器人并不操作鼠标(或者智能手机)也不点击浏览器中的可视内容,它们只是会提出 HTTP 请求(还有其他活动)的软件程序,通常使用的是所谓的“无界面浏览器”。

机器人能做什么?

Bots can do essentially any repetitive, non-creative task – anything that can be automated. They can interact with a webpage, fill out and submit forms, click on links, scan (or "crawl") text, and download content. Bots can "watch" videos, post comments, and post, like, or retweet on social media platforms. Some bots can even hold basic conversations with human users – these are known as chatbots.

良性机器人和恶意机器人有什么区别?

令人惊讶的是,许多来源估计,互联网所有流量中大约有一半是机器人流量。就像某些(但不是全部)软件是恶意软件一样,某些机器人是恶意机器人,而有些是"良性的"。

任何滥用在线产品或服务的机器人均被视为"恶意“。恶意机器人的范围很广,从公然恶意的机器人(例如试图闯入用户帐户的机器人)到轻度滥用资源的形式(例如在活动网站上购买门票的机器人)。

A bot that performs a needed or helpful service can be considered "good." Customer service chatbots, search engine crawlers, and performance monitoring bots are all examples of good bots. Good bots typically look for and abide by the rules outlined in a website's robots.txt file.

什么是robots.txt文件?

Robots.txt是网页服务器上的文件,概述了机器人访问该服务器属性的规则。但是,文件本身不执行这些规则。从本质上讲,对机器人进行编程的任何人都应遵守荣誉制度,并确保其机器人在访问网站之前检查网站的robots.txt文件。当然,恶意机器人通常不遵循此系统,因此需要机器人管理。

机器人管理如何工作?

To identify bots, bot managers may use JavaScript challenges (which determines w小程序如何营销hether or not a traditional web browser is being used) or CAPTCHA challenges. They may also determine which users are humans and which are bots by behavioral analysis – which means by comparing a user's behavior to the standard behavior of users in the past. Bot managers must have a large collection of quality behavioral data to check against in order to do the latter.

如果确定某个机器人是恶意的,则可以将其重定向到其他页面,或者完全阻止其访问网页资源。

良性的机器人则可以添加到白名单,或允许的机器人列表(与黑名单相反)。机器人管理程序还可以通过进一步的行为分析来区分良性和恶意机器人。机器人管理器还可通过进一步的行为分析来分辨善意机器人和恶意机器人。

另一种机器人管理方法是使用robots.txt文件设置蜜罐。蜜罐是针对不良机器人的虚假目标,一旦被访问,就会将暴露不良机器人为恶意对象。对于机器人,蜜罐可能是robots.txt文件禁止机器人访问的网站上的网页。好的机器人会读取robots.txt文件,并避开该网页;一些不良的漫游器会抓取该网页。通过跟踪访问蜜罐的机器人的IP地址,可以识别并阻止不良的机器人。

机器人管理可缓解哪些类型的机器人攻击?

机器人管理解决方案可以帮助阻止各种类型的攻击:

DDoS 攻击

DoS 攻击

凭证填充



信用卡填充

暴力破解密码

垃圾电子邮件内容

数据抓取/网页抓取

电子邮件地址搜集

广告欺诈

点击欺诈

下面这些其他机器人活动并不总是被认为是"恶意的”,但机器人管理器仍然能够防护它们:

库存囤积

在社交论坛或平台上的自动发布

购物车填充

Cloudflare如何管理机器人?

Cloudflare 的独有能力是从每天流经其网络的数十亿个请求中收集数据。Cloudflare 能够利用这些数据,结合机器学习和行为分析,识别可能存在的机器人活动,且能够提供创建善意机器人有效白名单或者恶意机器人黑名单所需的必要数据。Cloudflare 还拥有强大的 IP 信誉数据库。

Cloudflare:什么是机器人管理?

上一篇:Facebook网站事件配置
下一篇:在国内上如何到Facebook社交平台预充值广告费用?


版权声明:以上主题为“Cloudflare:什么是机器人管理?"的内容可能是本站网友自行发布,或者来至于网络。如有侵权欢迎联系我们客服QQ处理,谢谢。
相关内容
推荐内容
扫码咨询
    Cloudflare:什么是机器人管理?
    打开微信扫码或长按识别二维码

小提示:您应该对本页介绍的“Cloudflare:什么是机器人管理?”相关内容感兴趣,若您有相关需求欢迎拨打我们的服务热线或留言咨询,我们尽快与您联系沟通Cloudflare:什么是机器人管理?的相关事宜。

关键词:Cloudflare:什么是机器人管

关于 | 业务 | 案例 | 免责 | 隐私
客服邮箱:sales@1330.com.cn
电话:400-021-1330 | 客服QQ:865612759
沪ICP备12034177号 | 沪公网安备31010702002418号