robots.txt
A robots.txt mondja meg a keresőknek, mely címeket ne járják be. A Demona automatikusan kitiltja a beállítások, a belépés és a belső felületek címeit, valamint a keresési találatoldalt, amely különben végtelen számú üres oldalt gyártana a keresőknek. A fájl végére az oldaltérkép címe is bekerül.
Saját tiltott útvonalak: ha további részeket is el szeretnél rejteni a keresők elől, az Egyéni tiltott elérési utak mezőbe írd őket, soronként egyet, perjellel kezdve, például /privat. Egyetlen oldal elrejtésére inkább az oldal saját indexelési kapcsolóját használd.
AI-robotok
Az AI-robotok engedélyezése kapcsoló alapértelmezetten be van kapcsolva. Ha kikapcsolod, a robots.txt kitiltja a nagy AI-szolgáltatók robotjait, többek között az OpenAI (GPTBot, ChatGPT-User), az Anthropic (ClaudeBot), a Perplexity, a Google (Google-Extended), az Apple, a Meta, az Amazon és a Mistral robotjait. Ez egyszerre vonatkozik a modellek tanítására, az AI-alapú keresésre és arra is, amikor egy felhasználó kérésére olvasnák be az oldaladat.
Vagyis ha kikapcsolod, a weboldalad az AI-asszisztensek válaszaiban is ritkábban jelenik meg. Egy-egy oldalt az oldal saját beállításaiban is kizárhatsz az AI-robotok elől.