robots.txt文件Disallow与Allow行的顺序是有意义的
在对 robots.txt 文件设置记录时,要特别注意 Disallow 与 Allow 行的顺序是有意义的,spider 会根据第一个匹配成
