找回密码
 立即注册
查看: 8|回复: 7

AI爬虫大规模爬取网站内容,导致网站打不开,附解决方案

[复制链接]

1

主题

0

回帖

5

积分

新手上路

积分
5
发表于 昨天 10:35 | 显示全部楼层 |阅读模式
提示: 作者被禁止或删除 内容自动屏蔽
回复

使用道具 举报

0

主题

1

回帖

12

积分

新手上路

积分
12
发表于 昨天 10:36 | 显示全部楼层
技术的大佬可以分析下方案二会不会对网站有什么不好的影响
回复

使用道具 举报

0

主题

1

回帖

12

积分

新手上路

积分
12
发表于 昨天 10:36 | 显示全部楼层
屏蔽下AI蜘蛛
回复

使用道具 举报

0

主题

1

回帖

12

积分

新手上路

积分
12
发表于 昨天 10:36 | 显示全部楼层
一律按CC处理,60秒访问超40次,拉黑IP封3600秒,解封后再次触发,封禁自动叠加
回复

使用道具 举报

0

主题

1

回帖

12

积分

新手上路

积分
12
发表于 昨天 10:36 | 显示全部楼层
网站弄成内部私密站,相当于知识星球,会员才可以看,就解决ai抓取问题了
回复

使用道具 举报

0

主题

1

回帖

12

积分

新手上路

积分
12
发表于 昨天 10:36 | 显示全部楼层
回复

使用道具 举报

0

主题

1

回帖

12

积分

新手上路

积分
12
发表于 昨天 10:37 | 显示全部楼层
维基百科都扛不住了
回复

使用道具 举报

2

主题

3

回帖

22

积分

新手上路

积分
22
发表于 昨天 10:37 | 显示全部楼层
为分享干货点赞!我都是直接封IP,很多ai都是不讲武德,模仿用户访问,太损了。
回复

使用道具 举报

高级模式
B Color Image Link Quote Code Smilies

本版积分规则

Archiver|手机版|小黑屋|IDCeve

GMT+8, 2025-5-10 18:36 , Processed in 0.068290 second(s), 18 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表