AI 爬虫如今是互联网站长最头痛的问题。
它们无节制地抓取数据,数量之多、频率之高,堪比 DDoS 攻击。
上周,SourceHut 的站长,公开发表文章(下图),痛斥 AI 爬虫太过份,服务器无法承受访问压力,中断服务。
本周就来介绍一种对付这些 AI 爬虫的工具:Anubis。http://t.cn/A6BkjG3W
发布于 云南
AI 爬虫如今是互联网站长最头痛的问题。
它们无节制地抓取数据,数量之多、频率之高,堪比 DDoS 攻击。
上周,SourceHut 的站长,公开发表文章(下图),痛斥 AI 爬虫太过份,服务器无法承受访问压力,中断服务。
本周就来介绍一种对付这些 AI 爬虫的工具:Anubis。http://t.cn/A6BkjG3W