Tavatun version user agent oli PHist/1.0
ja se ilmoitti sivustokseen erästä utu.fi historiantutkimukseen liittyvän projektin sivua. Projekti käsitteli Venäjää ja Suomen historiaa, joten se saattaa olla yhtymäkohta siihen miksi käytiin henkilökohtaisesta blogista lukemassa kaalipadan resepti.
Kyseessä on varmasti jonkun henkilökohtainen projekti, jolla harvestoidaan sopiviin hakusanoihin liittyvää sisältöä tutkimuksen tarpeisiin. Tarkoitus on siis täysin harmiton, ja tässä tapauksessa jopa ymmärrettävä. Botti ei aiheuttanut kuormaa eikä ongelmia.
Botti kävi lukemassa robots.txt
tiedoston ja kiellosta huolimatta kävi sisällössä. Tuo tarkoittaa sitä, että koodari tietää mikä on robots.txt
tiedoston rooli, ja päätti olla piittaamatta siitä. Minä päätin siinä vaiheessa estää botin PHist
pääsyn sivustoille.