Googlebot Google का वेब क्रॉलिंग बॉट है - एक स्वचालित सॉफ़्टवेयर जो डेटा एकत्र करने के लिए व्यवस्थित रूप से वेब पेजों पर जाता है। यह लिंक का अनुसरण करके, सामग्री पढ़कर और साइट संरचना का मूल्यांकन करके वेबसाइटों को स्कैन करता है। एक बार जब कोई पेज क्रॉल हो जाता है, तो डेटा Google के इंडेक्सिंग सिस्टम को भेजा जाता है, जहां इसे संसाधित किया जाता है और, यदि उपयोगी और अद्वितीय समझा जाता है, तो Google खोज में शामिल करने पर विचार किया जाता है।
हालाँकि, सिर्फ इसलिए कि एक पृष्ठ क्रॉल किया गया है, यह गारंटी नहीं देता है कि यह खोज परिणामों में दिखाई देगा। यह निर्णय अनुक्रमण और रैंकिंग चरणों के दौरान किया जाता है।