موتورهای جستجو برای لیست نمودن صفحات سایت به منظور جستجو، از ربات ها و اسپایدرها استفاده می نمایند. همانطور که می دانید موتورهای جستجو اصل سئو سایت را محوردهی نموده اند فلذا اهمیت موتورهای جستجو برای متخصصان وب سایت و در نظر گرفتن اصول آن در طراحی سایت پوشیده نمی باشد.
ربات های اینترنتی که به عنوان ربات های وب یا ربات های www شناخته می شوند. در واقع برنامه کاربری است که به صورت اتوماتیک بر روی اینترنت انجام می شود. ربات ها وظیفه ها سبک و یا ساختار یافته ای را انجام می دهند. بزرگترین استفاده ربات ها در اسپایدرهای گوگل می باشد و با اسکریپ های اتوماتیک اطلاعات را در وب سایت ها آنالیز می نماید. هر سرور می تواند فایلی به نام robots.txt داشته باشد که همچنین در طراحی وب سایت نیز فایلی بدین نام به منظور همایت ربات ها صورت گرفته است. ربات ها می توانند سریع تر از انسان ها در پاسخ عمل نمایند.


IM و IRC
برخی ربات ها با دیگر کاربران سرویس هایی مبتنی بر وب از طریق پیغام های فوری instant messaging (IM), و یا Internet Relay Chat (IRC) و یا واسطه های دیگر وب، ارتباط برقرار می نمایند. این ربات ها این امکان را به کاربر می دهند که سوالات خود را در فرمت انگلیسی ساده بیان نمایند و سپس در فرمت پاسخ مناسب فرمول بندی نمایند. این ربات ها می توانند وظایف فروانی را مانند گزارش آب و هوا، اطلاعات کدهای زیپ شده، تبدیل ارز و فعالیت های دیگر می توانند انجام دهند.


اهداف تجاری
فعالیت های بزرگی با استفاده از این ربات ها به انجام رسیده است برای مثال وب سایت eBay در حراجی های خود از ربات ها به منظور چانه زنی استفاده می نماید. و همچنین در فروشگاه های نرم افزارهای آنلاین مانند فروشگاه نرم افزارهای اپل و یا Google Play از ربات ها استفاده نموده اند.


منبع: نونگار