收录说明(MeisouBot)
美搜(meisou.us)是美生科技(MeiSheng Technology)运营的中文公开搜索引擎,给美国华人搜各家华人网站上的最新信息。第一版只收洛杉矶的租房帖。我们的爬虫叫 MeisouBot。
它怎么认
请求头里的 User-Agent 是:
Mozilla/5.0 (compatible; MeisouBot/1.0; +https://meisou.us/bot)
它收什么
- 只看公开的列表页和列表上的帖子,不登录、不看要付费才看得到的页面。
- 每条帖子只存标题、网址、发帖日期、从标题认出的地区和价钱;有的网站加一两句摘要(看那个网站的条款)。不存全文、不存照片。
- 摘要里的电话、微信、QQ、邮箱、门牌号和链接都遮掉,不另外存。
- 不收成人、按摩、交友约会这类版块。
- 搜索结果只显示标题、来源网站、日期、链接,有的网站加一两句摘要,点了回到您的网站。我们不用 AI 读您的内容来生成回答或总结。
它多快
- 同一个网站同时只开一个连接,两次请求至少隔 5 秒;robots.txt 里写了 Crawl-delay 就照您写的。
- 列表页白天每 20 分钟看一次,夜里每小时一次;每条新帖只取一次,之后第 7 天、第 30 天各再看一次,帖子没了就从索引里删掉。
- 收进来超过 60 天的帖子自动删掉。
怎么让它不收
- robots.txt 里写:
User-agent: MeisouBot
Disallow: /
我们每天读一次 robots.txt,看到不许就停收,并删掉已经收的。只想挡一部分,就写那部分的路径。
- 也照办:页面上的
<meta name="robots" content="noindex">和nosnippet、X-Robots-Tag响应头,以及 robots.txt 里的内容信号Content-Signal: search=no。 - 网站回 403、429 或者出验证码,我们就停下这个网站,不换 IP、不绕过。
- 也可以填 移除请求,我们当天处理。
联系我们
support@meisou.us