Študije / S2
Ponarejeni pajki UI
Kolikšen del prometa, ki se predstavlja kot pajek UI ali iskalnika, je pristen?
Povzetek
Lastniki spletnih mest štejejo „GPTBot“, „ClaudeBot“ ali „ChatGPT-User“ v svojih dnevnikih dostopa kot dokaz, da jih sistemi UI berejo ali citirajo. User-Agent je prosto besedilo. Vsako zahtevo, ki se je predstavljala kot eden od 23 pajkov UI ali iskalnikov na treh majhnih produkcijskih spletnih mestih (16.548 zahtev; en 68-dnevni dnevnik, dva 7- do 9-dnevna dnevnika ter 30-dnevni pogled z roba omrežja Cloudflare), smo preverili z metodo preverjanja, ki jo je objavil vsak upravljavec sam: z datotekami JSON z razponi IP in z obratnim DNS, potrjenim v smeri naprej. 39,3 % trditev je bilo ponarejenih (44,3 % tistih, ki jih je bilo mogoče preizkusiti), 49,5 % preverjenih, 11,2 % nepreverljivih ali nedoločljivih. Najslabše so se odrezali boti, ki jih sproži uporabnik, torej imena, ki se najpogosteje razumejo kot signal „citiranja v UI“: 67,8 % ponarejenih, pri Claude-User, Perplexity-User, MistralAI-User in DuckAssistBot pa je bilo pristnih 0–4,2 %. Google-Extended, žeton, za katerega Google navaja, da se nikoli ne pošilja kot User-Agent, se je pojavil 371-krat. Vse ponarejanje je prišlo z največ 54 naslovov, od tega 81 % v omrežjih oblakov/gostovanja (samo naslovni prostor strank enega ponudnika oblaka: 66 %); 97 % ponarejenih zahtev je prišlo iz virov, ki so iskali tudi poverilnice (.env, config.json, service-account.json), 92 % pa iz virov, ki so menjavali identitete več upravljavcev. Na glavnem spletnem mestu je bil na robu CDN ponarejeni obseg 3,1× večji od tistega, kar je zabeležil izvorni strežnik; privzete nastavitve brezplačnega paketa so blokirale 0,7 % tega obsega. Objavljamo ai-bot-verify, preverjevalnik brez odvisnosti za kateri koli dnevnik dostopa, ki izpisuje le agregate in zavrača zapisovanje naslovov IP.
Citirajte to študijo
EasyxLab (2026). Spoofed AI crawlers. Study S2. EasyByte Hub S. Coop. Mad. https://github.com/easybytehub/easyxlab/tree/main/studies/s2-spoofed-ai-crawlers@techreport{easyxlab_s2,
title = {Spoofed AI crawlers},
author = {{EasyxLab}},
institution = {EasyByte Hub S. Coop. Mad.},
number = {S2},
year = {2026},
url = {https://github.com/easybytehub/easyxlab/tree/main/studies/s2-spoofed-ai-crawlers}
}