我的网站是做给蜘蛛看的 [复制链接]
查看:132 | 回复:15

gdtv · 发表于 2009-8-15 14:19:35

来访者全部是蜘蛛，没有一个真人

zyypp · 发表于 2009-8-15 15:07:28

呵呵我在查看 web 日志时得到的IP 几乎也都是些爬虫不过我只放了一个页面嘿嘿

cpuer · 发表于 2009-8-16 20:01:58

Google和sougou的蜘蛛是最会爬的，小心服务器被爬挂。

fanslive · 发表于 2009-8-18 08:45:24

我的蜘蛛访问通常一天要耗费流量至少5G。
我一个月到底流量能用光，蜘蛛太强大了！

phpwinder · 发表于 2009-8-18 09:58:29

是啊，我的HM主机都被爬死过。

cpuer · 发表于 2009-8-18 10:24:45

有些搜索引擎蜘蛛很厉害，但是不来流量的话可以屏蔽掉。

cpuer · 发表于 2009-8-18 10:25:06

原帖由 fanslive 于 2009-8-18 08:45 发表

我的蜘蛛访问通常一天要耗费流量至少5G。
我一个月到底流量能用光，蜘蛛太强大了！

我知道你是强人

微笑着吃饭 · 发表于 2009-8-21 20:10:04

robot.txt

cpuer · 发表于 2009-8-22 11:33:35

还得靠搜索引擎来些流量呢

zyyppcpuer · 发表于 2009-8-22 11:34:18

有些爬虫不守规矩无视robot.txt的
对付这些不守规矩爬虫最好的方法就是屏蔽他嘿嘿难道你的说的众里寻他千****？