「抵擋爬蟲」修訂間的差異

出自跨校選修
跳至導覽 跳至搜尋
行 26: 行 26:
 
<li><code>COMMAND</code>: 任務的指令名稱</li>
 
<li><code>COMMAND</code>: 任務的指令名稱</li>
 
</ul>
 
</ul>
 +
</li>
 +
<li>查連網統計:netstat(Network Statistics)
 +
<ul>
 +
<li>-a:顯示所有連線與監聽的連接埠。</li>
 +
<li>-t:顯示 TCP 協定相關資訊。</li>
 +
<li>-u:顯示 UDP 協定相關資訊。</li>
 +
<li>-n:以數字形式顯示位址與連接埠(不進行 DNS 反查,速度較快)。</li>
 +
<li>-p:顯示佔用該連線的程式名稱與 PID(需具備 root 權限)。</li>
 +
<li>-l:僅顯示正在「監聽(Listening)」的服務。</li>
 +
<ul>
 
</li>
 
</li>
 
</ol>
 
</ol>

於 2026年6月5日 (五) 17:26 的修訂

Cloudflare頁中有「抵擋爬蟲」的段落

DS720+ 檢測

  1. 監看目前所有程式的執行狀況:top
    • PID: 執行任務的 Process ID
    • USER: 執行任務的使用者是誰
    • PR: 任務的優先度 (Priority)
    • NI: 任務的 Nice Value,負的值代表優先度高,正的值代表優先度低
    • VIRT: 總共用到多少 kB 虛擬記憶體 (Virtual Memory)
    • RES: 實體記憶體 (Resident Size) 大小 kB
    • SHR: 總共用到多少 kB 的共享記憶體 (Shared Memory)
    • S: 狀態 (Status)
      • R 代表執行中
      • D 代表不可中斷睡眠 (不可被 signal 打斷通常在等 I/O)
      • S 代表睡眠 (可被喚醒)
      • T 中斷中或停止,可能是被 SIGSTOPSIGTSTP 停止,或是被 degubber 中斷 (ptrace)
      • Z 代表殭屍,通常發生在 Child 已經執行完,等待 Parent 結束或回收
    • %CPU: 占用到多少 CPU %,注意到一個核心是 100%,所以多核心是可以超過 100% 的
    • %MEM: 占用到多少全部記憶體多少比例
    • TIME+: 已經執行多少時間
    • COMMAND: 任務的指令名稱
  2. 查連網統計:netstat(Network Statistics)
    • -a:顯示所有連線與監聽的連接埠。
    • -t:顯示 TCP 協定相關資訊。
    • -u:顯示 UDP 協定相關資訊。
    • -n:以數字形式顯示位址與連接埠(不進行 DNS 反查,速度較快)。
    • -p:顯示佔用該連線的程式名稱與 PID(需具備 root 權限)。
    • -l:僅顯示正在「監聽(Listening)」的服務。
  1. netstat -antp | grep :80
  1. 查訪問的 IP 來源

netstat -tn | grep ESTABLISHED | \ awk '{print $5}' | cut -d: -f1 | \ sort | uniq -c | sort -nr | head -20

  1. 封阿里雲常見的掃描來源網段:
    在「DSM / 控制台 / 安全性 / 防火牆 / 防火牆設定檔 / 編輯規則 / 新增」:
    「所有連接埠 | 拒絕 | 特定 IP => IP 範圍:從 47.82.0.0 到 47.82.255.255」
    47.79.0.0/16
    47.82.0.0/16
    47.88.0.0/16


狀態封鎖前封鎖後
ESTABLISHED111527
CLOSE_WAIT3080
FIN_WAIT22970
SYN_SENT920
CPU50~85%你之前觀察已明顯下降
寫入量很高幾乎歸零
  1. HTTP

    Apache

    PHP

    MediaWiki

    MariaDB
  2. TCP 的正常流程:ESTABLISHED

    FIN_WAIT

    TIME_WAIT

    消失
  1. http_response_code(503); 能瞬間降低負載。


  1. sudo iostat -xm 1


  1. netstat -ant | awk '{print $6}' | sort | uniq -c 回應
     1 established)
    23 ESTABLISHED
     2 FIN_WAIT1
     2 FIN_WAIT2
     1 Foreign
     2 LAST_ACK
    32 LISTEN
     3 SYN_RECV
   961 TIME_WAIT

     1 established)
    41 ESTABLISHED
     1 Foreign
    32 LISTEN
   985 TIME_WAIT
  1. 列出 cpu 佔用的前 20 名:「ps aux --sort=-%cpu | head -20」
    發現主要是 mariadbd 和數個 php-fpm worker => 11MB/s 寫入量來自「MediaWiki → PHP → MariaDB」鏈條

檢查儲存裝置被頻繁寫入

發現儲存裝置有 11MB/s 寫入量

  1. 查資料庫請求的增量:「SHOW GLOBAL STATUS LIKE 'Questions';」 60 秒後 再執行一次,看增加多少 => 60 秒增加:76491 => 約 1,275 queries / 秒
  2. 查是哪些請求:「SHOW FULL PROCESSLIST;」秀出運行中的全部請求
    如果太多,先用這個:
    ---------- information_schema 資料庫中的 PROCESSLIST 資料表 ----------
    • SELECT ID,USER,DB,COMMAND,TIME,STATE,LEFT(INFO,300) AS SQL_TEXT FROM INFORMATION_SCHEMA.PROCESSLIST WHERE COMMAND<>'Sleep' ORDER BY TIME DESC;
      也查資料庫連線來源:
    • SELECT USER,DB,COMMAND,COUNT(*) FROM INFORMATION_SCHEMA.PROCESSLIST GROUP BY USER,DB,COMMAND ORDER BY COUNT(*) DESC;
    • 查到:
      REPLACE /* SqlBagOStuff::updateTable */ INTO `wiki_objectcache` (keyname,value,exptime) VALUES ('alWiki:messages:zh-tw','………','20380119031407')
    11MB/s 寫入的原因很明確:objectcache 一直被 REPLACE
    ---------- 查快取是否使用 wiki_objectcache ----------
  3. SELECT COUNT(*) FROM wiki_objectcache; 等一分鐘再查一次,如果數量持續增加,是使用 wiki_objectcache
  4. 看 SHOW TABLE STATUS LIKE 'wiki_objectcache'; 中的:
    • Data_length
    • Index_length
    • Update_time
  5. 清快取表:「TRUNCATE TABLE wiki_objectcache;」
  6. sudo synopkg restart MariaDB10 重啟資料庫服務
  7. sudo synopkg restart WebStation 重啟網頁服務
  8. sudo synosystemctl restart pkgctl-WebStation 只重啟 PHP-FPM