返回列表 发帖
查看: 2417|回复: 8

[已解决] 请问Discuz系统默认的robots.txt会屏蔽Google抓取吗?

12

主题

68

回帖

91

积分

渐入佳境

贡献
0 点
金币
7 个
发表于 2023-6-18 09:43:21 | 查看全部 |阅读模式
robots.txt, 使用的是系统默认的内容 ,未曾调整过,但是通过Google搜索,会出现如下提示,请问这是怎么回事呢?谢谢!

No information is available for this page.png

No information is available for this page.png

搜索结果中没有页面信息

搜索结果中没有页面信息



系统自带的robots.txt如下:
  1. #
  2. # robots.txt for Discuz! X3
  3. #

  4. User-agent: *
  5. Allow: /data/attachment/
  6. Allow: /data/cache/
  7. Allow: /uc_server/data/avatar/
  8. Disallow: /api/
  9. Disallow: /data/
  10. Disallow: /source/
  11. Disallow: /install/
  12. Disallow: /template/default/
  13. Disallow: /config/
  14. Disallow: /uc_client/
  15. Disallow: /uc_server/
  16. Disallow: /admin.php
  17. Disallow: /search.php
  18. Disallow: /member.php
  19. Disallow: /api.php
  20. Disallow: /misc.php
  21. Disallow: /connect.php
  22. Disallow: /forum.php?mod=redirect*
  23. Disallow: /forum.php?mod=post*
  24. Disallow: /home.php?mod=spacecp*
  25. Disallow: /*?mod=misc*
  26. Disallow: /*?mod=attachment*
  27. Disallow: /*mobile=yes*
复制代码


1 贡献

最佳答案

不会
回复

使用道具 举报

15

主题

1796

回帖

2076

积分

应用开发者

discuz 老兵

贡献
10 点
金币
188 个
QQ
发表于 2023-6-18 10:57:37 | 查看全部
会的



回复

使用道具 举报

12

主题

68

回帖

91

积分

渐入佳境

贡献
0 点
金币
7 个
 楼主| 发表于 2023-6-19 22:26:32 | 查看全部

谢谢回复!请问怎么调整呢?
回复

使用道具 举报

4

主题

972

回帖

24万

积分

管理员

官方有偿服务QQ 1453650

贡献
174 点
金币
240005 个
QQ
发表于 2023-6-19 23:24:29 | 查看全部
不会
回复

使用道具 举报

23

主题

5272

回帖

9409

积分

应用开发者

贡献
498 点
金币
1421 个
QQ
发表于 2023-6-20 07:43:35 | 查看全部

会在哪里?你说说看……

很明显默认robots.txt完全没有对GG搜索单独的屏蔽条目啊……
回复

使用道具 举报

18

主题

2126

回帖

3217

积分

应用开发者

贡献
70 点
金币
629 个
QQ
发表于 2023-6-20 16:24:47 | 查看全部
robots.txt
默认不会屏蔽搜索引擎 搜索不到只能说明 google搜索引擎没收录你站内容哦
回复

使用道具 举报

15

主题

1796

回帖

2076

积分

应用开发者

discuz 老兵

贡献
10 点
金币
188 个
QQ
发表于 2023-6-23 14:01:13 | 查看全部

他递交robots.txt  里面包含 Disallow  这个难道 不会屏蔽google抓取 这里定义的一些目录吗?
回复

使用道具 举报

4

主题

972

回帖

24万

积分

管理员

官方有偿服务QQ 1453650

贡献
174 点
金币
240005 个
QQ
发表于 2023-7-9 20:08:56 | 查看全部
耗子 发表于 2023-6-23 14:01
他递交robots.txt  里面包含 Disallow  这个难道 不会屏蔽google抓取 这里定义的一些目录吗? ...

那些图片附件、头像、后台地址等内容不需要被收录,不影响帖子等正常页面收录,而且这个也不是针对google的,有问题的话所有搜索引擎都一样
回复

使用道具 举报

20

主题

135

回帖

185

积分

渐入佳境

贡献
4 点
金币
9 个
发表于 2023-7-11 10:13:38 | 查看全部
User-agent: * 意思是允许所有种类的用户访问,它后面的Allow:和Disallow: 意思是,虽然我允许所有用户访问,但我还是给出一定的条件,用以下实例来解说:
Disallow: /data/ 意思是你不可以访问/data/这个文件夹,但又有一句Allow: /data/attachment/ 意思是虽然我前面说你不可以访问/data/这个文件夹,但是可以直接访问/data/attachment/这个文件夹,意思是/data/文件夹下除/attachment/之外,别的文件夹不能访问。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

  • 关注公众号
  • 有偿服务微信
  • 有偿服务QQ

手机版|小黑屋|Discuz! 官方交流社区 ( 皖ICP备16010102号 |皖公网安备34010302002376号 )|网站地图|star

GMT+8, 2025-5-9 18:08 , Processed in 0.112033 second(s), 33 queries .

Powered by Discuz! W1.0 Licensed

Cpoyright © 2001-2025 Discuz! Team.

关灯 在本版发帖
有偿服务QQ
有偿服务微信
返回顶部
快速回复 返回顶部 返回列表