2026. 10. 28. 14:00 IT인터넷
CDN 없이 봇을 차단하는 기법 (Apache + mod_rewrite)
sudo a2enmod rewrite
sudo systemctl restart apache2
RewriteEngine On
# HTTP/1.0 또는 HTTP/1.1로 요청이 들어오면 403 Forbidden 반환
RewriteCond %{THE_REQUEST} HTTP/1\.[01]$
RewriteRule ^.*$ - [F,L]
- ⚠️ 주의: 구글 검색엔진 크롤러(Googlebot)도 차단되어 검색 노출에서 제외될 수 있습니다.
# 특정 대역 차단 예시 (방화벽보다 CPU를 훨씬 적게 소모)
sudo ip route add blackhole 1.2.3.0/24
# 잘못 차단했을 때 해제하는 법
sudo ip route del blackhole 1.2.3.0/24
RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} (eadless|oogle|ing|bot|Bot|gpt|llm|pider|gent|earch|etch|eed|ead|iphon|ython|Ruby|Go-h|uzzl)
RewriteRule ^.*$ - [G,L]
RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} !(Linux|BSD|Macintosh|Windows|Mozilla|WhatsApp)
RewriteRule ^.*$ - [G,L]
RewriteEngine On
RewriteCond %{REQUEST_URI} (\.git$|\.yml$|\.db$|\.sql$|\.conf$|\.php$|\.avi$|wp)
RewriteRule ^.*$ - [G,L]
<IfModule mod_headers.c>
Header always set Rating "RTA-5042-1996-1400-1577-RTA"
Header always set adult "porn, sex, politics, religion, philosophy"
Header always set X-Robots-Tag "none,noindex,nofollow,nosnippet,noai"
</IfModule>
- ⚠️ 주의: X-Robots-Tag에 noindex가 들어가면 네이버, 구글 등 일반 검색엔진에서도 내 사이트가 수집되지 않습니다. 일반 검색 노출은 유지하고 AI 크롤링만 막으려면 "noai" 혹은 "noimageai"만 남겨두세요.
- 서버단에서 HTML 파일을 미리 압축해 두기:
bash
cat index.html | brotli --best -fncv > index.html.br코드를 사용할 때는 주의가 필요합니다. - Apache 설정 (.br 대응 및 압축 미지원 클라이언트 거부):
apache
RewriteEngine On # 1. 브라우저가 Brotli(br)를 지원한다고 말하지 않으면 410 Gone으로 차단 RewriteCond %{HTTP:Accept-Encoding} !br RewriteRule ^.*$ - [G,L] # 2. 브라우저가 br을 지원하면, 요청한 파일 대신 미리 압축해 둔 .br 파일 전달 RewriteCond %{HTTP:Accept-Encoding} br RewriteCond %{REQUEST_FILENAME}.br -f RewriteRule ^(.*)$ $1.br [L] # 3. .br 파일이 전달될 때 브라우저가 압축을 풀 수 있도록 적절한 헤더 추가 <FilesMatch "\.html\.br$"> Header set Content-Encoding br ForceType text/html </FilesMatch>코드를 사용할 때는 주의가 필요합니다.
'IT인터넷' 카테고리의 다른 글
| modsecurity request_cookies 차단되는 경우 (0) | 2025.05.21 |
|---|---|
| HP서버(Array P440ar)에서 RAID-1 디스크 교체 (300G -> 600G)후 온라인에서 용량을 늘릴 수 있을까요? (0) | 2025.04.08 |
| [스크랩] HPE 서버에 장착된 HDD 교체 및 용량 확장 방법 (리눅스/윈도우) (0) | 2025.04.08 |
| 시스코 스위치 기술지원 (0) | 2025.02.03 |
| 보안이슈 - 체납세액 징수 관련 정부 사칭 피싱(스미싱, 피싱메일) 주의 권고 (0) | 2024.11.25 |






