centos配置crawlergo动态爬虫+xray代理模式联动扫描

用到的3个工具


  1. 动态爬虫工具 crawlergo
  2. xray
  3. crawlergo_x_XRAY将crawlergo扫描结果请求到xray进行被动扫描

配置步骤


  • 下载安装xray最新的release
  1. 生成ca证书。运行成功后得到ca.crtca.key 两个文件。
# windows
.\xray_windows_amd64.exe genca

# macOS/linux
./xray_darwin_amd64 genca
  1. 安装ca证书。
# ubantu
sudo cp ca.crt /usr/local/share/ca-certificates/xray.crt
sudo update-ca-certificates

# centos
# 将证书复制到 /etc/pki/ca-trust/source/anchors/ 文件夹
cp /root/crawlergo_x_XRAY-master/xray/ca.crt[证书路径] /etc/pki/ca-trust/source/anchors/

# 将此证书软连接至 /etc/ssl/certs/文件夹中
ln -s /etc/pki/ca-trust/source/anchors/ca.crt  /etc/ssl/certs/ca.crt

# 运行 update-ca-trust,更新系统的证书
update-ca-trust
  1. 首次启动xray,会生成config.yml文件
  2. config.yml文件中 mitm 中 restriction 中 includes 由 * 改目标站点为目标站点,增加该过滤后,xray只会扫描该站的流量,避免扫到非授权目标站点
  • 下载安装crawlergo最新的release
  1. 安装chrome浏览器
  2. 下载crawlergo至任一目录,并赋予可执行权限
  3. 尝试运行,根据运行情况可能需要安装依赖组件
./crawlergo -c [chrome路径] -t [最大标签页数] [目标网址]
./crawlergo -c /tmp/chromium/chrome -t 10 http://testphp.vulnweb.com/
  • 把crawlergo_x_XRAY项目中的launcher.pytargets.txt放在crawlergo.exe同目录下
  • 修改launcher.py的cmd变量中的crawlergo爬虫命令配置
    centos配置crawlergo动态爬虫+xray代理模式联动扫描_第1张图片
  • 启动xray被动扫描(如果修改端口要同时修改launcher.py文件中的proxies)
./xray_linux_amd64 webscan --listen 127.0.0.1:7777 --html-output xray-testphp.html
  • 把目标url写进targets.txt,一行一个url
  • 运行launcher.py
  • 生成的sub_domains.txt为爬虫爬到的子域名,crawl_result.txt为爬虫爬到的url,xray-testphp.html为xray检测结果

踩坑记录


  • crawlergo只能扫出来两个域名
    发现执行时有报错:缺少libXcomposite.so.1依赖
WARN[0000] navigate timeout chrome failed to start:
/root/chrome-linux/chrome: error while loading shared libraries: libXcomposite.so.1: cannot open shared object file: No such file or directory

根据crawlergo文档中对缺少依赖的解决办法:

// Ubuntu
apt-get install -yq --no-install-recommends \
     libasound2 libatk1.0-0 libc6 libcairo2 libcups2 libdbus-1-3 \
     libexpat1 libfontconfig1 libgcc1 libgconf-2-4 libgdk-pixbuf2.0-0 libglib2.0-0 libgtk-3-0 libnspr4 \
     libpango-1.0-0 libpangocairo-1.0-0 libstdc++6 libx11-6 libx11-xcb1 libxcb1 \
     libxcursor1 libxdamage1 libxext6 libxfixes3 libxi6 libxrandr2 libxrender1 libxss1 libxtst6 libnss3
     
// CentOS 7
sudo yum install pango.x86_64 libXcomposite.x86_64 libXcursor.x86_64 libXdamage.x86_64 libXext.x86_64 libXi.x86_64 \
     libXtst.x86_64 cups-libs.x86_64 libXScrnSaver.x86_64 libXrandr.x86_64 GConf2.x86_64 alsa-lib.x86_64 atk.x86_64 gtk3.x86_64 \
     ipa-gothic-fonts xorg-x11-fonts-100dpi xorg-x11-fonts-75dpi xorg-x11-utils xorg-x11-fonts-cyrillic xorg-x11-fonts-Type1 xorg-x11-fonts-misc -y

sudo yum update nss -y
  • 按照xray文档安装证书,找不到/usr/local/share/ca-certificates/文件夹。xray文档适配的是ubantu,与centos安装证书操作略有不同
  • 没有update-ca-trust命令,需要安装
yum install ca-certificates
update-ca-trust force-enable

你可能感兴趣的:(程序配置)