Cara Memeriksa Status Pengindeksan Situs Web Besar

Diterbitkan: 2022-02-04

Sebelum halaman Anda muncul di hasil pencarian dan mengarahkan lalu lintas ke situs Anda, halaman tersebut harus diindeks.

Sayangnya, mendapatkan diindeks adalah sebuah tantangan, terutama jika Anda memiliki situs web yang besar. Menurut penelitian kami, 16% halaman berharga di situs web tidak diindeks.  

Sebelum mengambil langkah untuk meningkatkan kinerja pengindeksan dan pencarian situs Anda, sangat penting bagi Anda untuk memeriksa cakupan indeks situs Anda dan mengidentifikasi halaman mana yang diindeks dengan benar dan mana yang tidak.

Satu tantangan yang mungkin Anda hadapi adalah menemukan metode yang andal untuk memeriksa status pengindeksan situs Anda yang memungkinkan Anda menganalisis URL secara massal. Jika ini masalahnya, Anda telah datang ke tempat yang tepat.

Ada beberapa alat yang berguna yang dapat membantu Anda menentukan cakupan indeks situs Anda, tetapi juga membantu dalam analisis yang lebih menyeluruh dari setiap URL untuk mengidentifikasi mengapa tidak diindeks.

Ikuti saran saya di artikel ini untuk mempelajari cara memeriksa status pengindeksan situs web besar, menganalisis masalah yang mencegah halaman diindeks, dan menemukan solusi yang tepat untuk itu.

Isi sembunyikan
1 Apa yang harus dilakukan sebelum memeriksa status pengindeksan situs web Anda
2 Metode untuk memeriksa status pengindeksan Anda dan mendiagnosis masalah pengindeksan
2.1 Perintah "situs:"
2.2 Alat di Google Search Console
2.2.1 Laporan Cakupan Indeks
2.2.2 Alat Inspeksi URL
2.2.3 API Inspeksi URL
2.2.4 Keterbatasan alat Google Search Console
2.2.5 Laporkan masalah Pengindeksan
2.3 ZipTie
2.3.1 Analisis cakupan indeks
2.3.2 Pantau penundaan pengindeksan
2.3.3 Peringatan tentang konten yang di-deindex
2.3.4 Pengindeksan JavaScript
2.3.5 Informasi tambahan tentang halaman yang tidak diindeks
2.4 Alat Webmaster Bing
2.4.1 Penjelajah Situs
2.4.2 Alat Inspeksi URL Bing
3 Masalah pengindeksan umum untuk situs web besar
4 Bagaimana mengatasi masalah pengindeksan
4.1 Pastikan halaman Anda dapat diindeks
4.1.1 Arahan yang ditentukan dalam file robots.txt Anda
4.1.2 Apakah halaman berisi tag noindex
4.2 Pastikan semua halaman berharga dikirimkan dalam peta situs
4.3 Sesuaikan tautan internal Anda
4.4 Memperbaiki masalah duplikat konten
4.5 Ikuti praktik terbaik JavaScript SEO untuk perayapan dan pengindeksan yang lebih mudah
4.6 Optimalkan anggaran perayapan Anda
5 Takeaways

Apa yang harus dilakukan sebelum memeriksa status pengindeksan situs web Anda?

Sebelum memeriksa status pengindeksan Anda dan mengatasi masalah Anda, Anda harus memiliki strategi pengindeksan yang tepat.

Dengan membuatnya, Anda dapat menentukan halaman mana yang penting dan harus diindeks dan mana yang harus dikecualikan dari pengindeksan.

Beberapa halaman Anda mungkin berkualitas rendah atau berisi konten duplikat, dan pengguna tidak boleh menemukannya di hasil pencarian. Sebagai aturan, ini adalah jenis halaman yang harus dijauhkan dari indeks.

Berikut adalah beberapa contoh halaman yang tidak boleh diindeks:

  • Konten yang diarsipkan,
  • Halaman yang dilindungi kata sandi dan login,
  • URL dengan parameter tambahan, dibuat sebagai hasil pengurutan atau pemfilteran,
  • Hasil pencarian internal,
  • Terima kasih halaman.

Jika Anda tidak ingin halaman diindeks, Anda dapat:

  • Sertakan arahan yang sesuai untuk bot dalam file robots.txt untuk mencegah mereka merayapi halaman tertentu,
  • Terapkan tag noindex untuk mencegah bot mesin pencari mengindeks halaman.

URL yang belum diindeks dan harus tetap seperti ini tidak memerlukan perhatian Anda. Alih-alih, fokuslah pada halaman yang tidak diindeks tetapi seharusnya diindeks.

Sebagai aturan praktis, Anda harus bertujuan untuk mengindeks versi kanonik halaman Anda , dan mereka harus dikirimkan di peta situs Anda.  

Jadi bagaimana tepatnya Anda bisa mengetahui halaman mana yang diindeks dan mana yang tidak?

Metode untuk memeriksa status pengindeksan Anda dan mendiagnosis masalah pengindeksan

Ada beberapa alat yang berguna untuk memeriksa cakupan indeks situs Anda.

Namun perlu diingat bahwa kebanyakan dari mereka memiliki batasan untuk jumlah URL yang dapat Anda periksa. Saat mencari online, Anda mungkin menemukan banyak alat yang tidak dapat diandalkan.

Saya akan menunjukkan kepada Anda alat mana yang menunjukkan informasi dan solusi paling akurat untuk memperpanjang batasnya.  

Juga, saya akan memperkenalkan Anda ke alat analisis pengindeksan baru yang dikembangkan oleh perusahaan saudara kami, ZipTie.

Perintah "situs:"

Salah satu metode populer untuk memeriksa jumlah halaman yang diindeks situs adalah dengan memasukkan perintah “site:” di Google Penelusuran, diikuti dengan nama domain, seperti “site:onely.com.”

Meskipun memungkinkan Anda memeriksa status pengindeksan situs web, data yang akan Anda lihat bisa menyesatkan atau tidak akurat, karena jumlahnya hanya perkiraan.

Metode ini akan sangat tidak akurat untuk situs web besar dengan konten yang berubah secara dinamis.

Mungkin saja setiap kali Anda menggunakannya, hasilnya akan menunjukkan jumlah halaman terindeks yang sama sekali berbeda untuk domain Anda.

Namun, sementara perintah "situs: domain" jauh dari optimal, Anda dapat menggunakan perintah "situs: URL", di mana Anda memasukkan URL tertentu alih-alih nama domain. Anda kemudian dapat mempelajari apakah URL tertentu telah diindeks.

John Mueller telah merekomendasikan solusi ini:

Alat di Google Search Console

Google Search Console menawarkan alat yang jauh lebih baik untuk memeriksa cakupan indeks Anda.

Jika Anda belum menggunakannya secara teratur, mulailah sekarang – mereka harus menjadi alat pemantauan SEO standar Anda.

Izinkan saya menjelaskannya secara lebih rinci dan menyarankan cara memanfaatkannya sebaik mungkin di situs web besar.

Laporan Cakupan Indeks

Laporan Cakupan Indeks di Google Search Console memberi Anda data dari Google tentang halaman mana yang diindeks.

Selain itu, ini memberi Anda wawasan tentang status spesifik URL Anda terkait penemuan, perayapan, dan pengindeksannya, dan, jika berlaku, masalah apa yang ditemukan Google yang mencegahnya diindeks.

status laporan cakupan indeks

Laporan Cakupan Indeks menunjukkan empat status:

  • Kesalahan – halaman tidak diindeks karena kesalahan.
  • Peringatan – halaman diindeks, tetapi Google telah menemukan masalah yang harus Anda waspadai,
  • Dikecualikan – halaman tidak diindeks, tetapi Google menganggap Anda bermaksud untuk tidak mengindeksnya.
  • Valid – halaman diindeks tanpa masalah.

Di sudut kiri atas, Anda dapat memilih antara menampilkan “Semua halaman yang dikenal” – artinya semua URL yang ditemukan Google dengan cara apa pun – atau “Semua halaman yang dikirimkan” – halaman yang ditemukan Google di peta situs Anda.

Tampilan "Semua halaman yang dikirimkan" harus berisi semua halaman yang ingin Anda indeks. Anda harus membandingkan tampilan ini dengan "Semua halaman yang dikenal."

Jika beberapa halaman muncul di “Semua halaman yang dikenal” tetapi tidak di “Semua halaman yang dikirimkan”, dan halaman tersebut harus diindeks, tempatkan halaman tersebut di peta situs Anda. Jika mereka tidak harus diindeks, itu berarti Google menemukan mereka di tempat lain, mungkin melalui tautan.

Batasan utama laporan adalah bahwa setiap laporan yang menampilkan masalah tertentu hanya menampilkan 1000 halaman. Untungnya, ada cara untuk mengatasinya.

Salah satu solusinya adalah membuat properti domain terpisah untuk berbagai bagian situs web Anda.

Alternatifnya adalah dengan membagi halaman Anda dengan membuat beberapa peta situs dan mempersempit laporan ke peta situs yang terpisah.

filter ke peta situs

Sebaiknya setiap peta situs berisi maksimal 50000 URL.

Ada banyak sudut untuk membagi halaman di antara peta situs. Pertimbangkan untuk mengaturnya dengan cara yang akan membantu Anda mengelompokkan jenis konten yang serupa untuk analisis yang lebih mudah.

Berikut adalah beberapa saran:

  • Pisahkan peta situs untuk berbagai jenis konten, misalnya kategori, produk, posting blog,
  • Pisahkan peta situs untuk jumlah atau jenis produk yang dipilih,
  • Pisahkan peta situs untuk berbagai versi bahasa situs.

Sekarang, pilih salah satu peta situs dan navigasikan ke bagian Laporan yang dikecualikan.

Telusuri masalah yang ditampilkannya – di sebelah kanan, Anda dapat melihat jumlah halaman yang terpengaruh dan mempelajari masalah mana yang paling umum.

masalah dalam laporan cakupan indeks google

Status laporan menjelaskan penyebab setiap masalah dengan cukup deskriptif, dan dalam kebanyakan kasus, status tersebut menunjukkan tindakan yang perlu Anda ambil untuk memperbaikinya.

Tinjau cara mengatasi setiap status dalam panduan lengkap saya untuk laporan Cakupan Indeks Google Search Console.

Cari pola di halaman yang dikecualikan. Jika banyak laman memiliki konten atau tata letak yang serupa, meninjau hanya sebagian URL dapat memberi Anda gambaran tentang apa yang mungkin diperjuangkan oleh laman lainnya.

Alat Inspeksi URL

Fitur bermanfaat lainnya yang tersedia di Google Search Console adalah alat Inspeksi URL.  

Ini memungkinkan Anda memeriksa apakah URL tertentu ada dalam indeks Google dan melihat banyak informasi tambahan. Anda dapat menggunakan alat ini untuk melengkapi data yang Anda terima dari laporan Cakupan Indeks.

alat inspeksi url

Berikut adalah ikhtisar fitur terpenting dari alat Inspeksi URL:

  • Status kehadiran – apakah URL memenuhi syarat untuk muncul di hasil pencarian Google dan peringatan atau kesalahan apa pun yang terdeteksi oleh Google.
  • Lihat halaman yang dirayapi – detail teknis seperti respons HTML dan HTTP yang diterima Google.
  • Minta pengindeksan – gunakan untuk meminta Google merayapi ulang dan mengindeks ulang URL Anda. Ada batas harian untuk fitur ini. Meskipun tidak secara eksplisit ditentukan dalam dokumentasi Google, ini disebutkan sebagai metode untuk mengirimkan "hanya beberapa URL". Ini memungkinkan Anda untuk mengirimkan hingga 50 URL .
  • Detail status cakupan halaman, yaitu:
  1. Apakah ada peta situs yang diketahui mengarah ke URL,
  2. Laman perujuk – laman yang dapat digunakan Google untuk menemukan URL,
  3. Saat halaman terakhir dirayapi,
  4. Apakah halaman dapat dirayapi,
  5. Apakah halaman dapat diambil dari server,
  6. Apakah halaman dapat diindeks,
  7. URL kanonik yang dideklarasikan oleh pengguna,
  8. URL kanonis yang dipilih Google sebagai gantinya.
  • Penyempurnaan – bagian ini menunjukkan apakah Google menemukan data terstruktur yang valid di halaman, serta detail tentang kegunaan seluler dan AMP halaman.
  • Uji URL Langsung – Anda dapat menjalankan pengujian langsung pada URL, misalnya jika Anda ingin memvalidasi perbaikan atau perubahan.

Alat Inspeksi URL mengharuskan Anda untuk memeriksa status pengindeksan Anda per URL, yang dapat memakan waktu jika Anda memiliki situs web yang besar.

Namun, menganalisis contoh halaman sudah dapat mengarahkan Anda ke masalah apa yang dihadapi situs Anda.

Alih-alih memeriksa semua URL, Anda dapat memilih dan memeriksa sebagian URL yang telah dikecualikan dari indeks Google. Anda juga dapat mengumpulkan URL yang harus diindeks tetapi tidak mendapatkan lalu lintas organik.

Selain itu, situs Anda mungkin memiliki bagian berikut:

  • contoh.com/shop
  • contoh.com/blog
  • contoh.com/galeri.

Anda dapat memilih sejumlah URL untuk dianalisis dari setiap bagian khusus. Namun jangan hanya memilih beberapa URL – gunakan sampel yang representatif untuk setiap bagian.

API Inspeksi URL

Pada tahun 2022, Google mengumumkan rilis API Inspeksi URL, yang memungkinkan Anda mengirim hingga 2000 permintaan per hari untuk satu properti Google Search Console.

Ini adalah berita bagus bagi siapa saja yang menganggap data Alat Inspeksi URL berguna tetapi berjuang untuk hanya dapat memeriksa satu URL dalam satu waktu. Dengan mengakses data Inspeksi URL melalui API, Anda dapat mengotomatiskan proses, yang membuka berbagai kemungkinan baru dalam menggunakan informasi ini.

Keterbatasan alat Google Search Console

Alat Google Search Console bukannya tanpa kekurangan.

Pada Oktober 2021, pengguna melaporkan melihat URL dalam laporan Cakupan Indeks yang ditandai sebagai “ Dirayapi – saat ini tidak diindeks .” Namun, saat diperiksa dengan alat Inspeksi URL, URL ini terdaftar sebagai "Dikirim dan diindeks" atau status lainnya.

Google menjawab bahwa situasi ini bukan bug melainkan batasan laporan Cakupan Indeks:

Laporkan masalah Pengindeksan

Google mengumumkan pada April 2021 bahwa mereka memperkenalkan fitur yang disebut Laporkan Masalah Pengindeksan untuk membantu pengguna membuat Google mengetahui masalah pengindeksan. Fitur tersebut saat ini tersedia di AS.

Pengguna dapat mengakses formulir dan memilih apakah situs atau halaman mereka tidak diindeks, atau diindeks tetapi tidak diberi peringkat dengan benar. Mereka kemudian akan dipandu melalui opsi pemecahan masalah yang terkait dengan masalah yang dilaporkan.

Jika solusi ini gagal, mereka dapat melaporkan masalah tersebut langsung ke Google.

Namun, fitur ini harus diperlakukan sebagai upaya terakhir, dan tidak ada jaminan bahwa Google akan mengikuti permintaan Anda dan mengindeks konten Anda.

Google bertujuan untuk hanya mengindeks konten yang paling relevan dan berkualitas tinggi. Oleh karena itu, mengikuti praktik terbaik dan mengoptimalkan halaman Anda agar dapat dirayapi, diindeks, dan layak mendapat perhatian Google dapat memberikan hasil yang bertahan lama pada situs Anda.

ZipTie

ZipTie menyediakan berbagai macam fitur ekstensif untuk menganalisis status pengindeksan situs web apa pun, berapa pun ukurannya. Alat ini sangat bermanfaat untuk situs web tipe perusahaan yang besar.

Inilah tepatnya yang ditawarkan ZipTie:

Analisis cakupan indeks

Fitur inti dari ZipTie adalah ia memberi tahu Anda halaman mana yang tidak diindeks oleh Google.  

Dan, yang terpenting, tidak ada batasan jumlah URL yang dapat dianalisis ZipTie. Ini penting untuk situs web besar dengan ribuan atau jutaan URL yang tidak dapat dinilai dengan sukses menggunakan alat lain.

Yang terpenting, Anda dapat memeriksa cakupan indeks domain apa pun – tidak hanya milik Anda tetapi juga milik pesaing Anda. Kemudian, bandingkan status pengindeksan Anda dengan domain pesaing dan lihat area mana yang harus Anda tingkatkan untuk maju.

Pantau penundaan pengindeksan

ZipTie memungkinkan Anda memantau penundaan pengindeksan dan memperkirakan kapan konten Anda yang baru diterbitkan akan diindeks dan kapan Anda dapat mengharapkannya untuk mengarahkan lalu lintas.

Ini dilakukan dengan menganalisis URL baru yang ditambahkan ke peta situs Anda dan menyelidiki waktu antara memublikasikan konten dan saat konten tersebut muncul di hasil penelusuran.

Lansiran tentang konten yang dideindeks

ZipTie akan memperbarui Anda tentang jumlah konten yang di-deindex. Halaman yang telah diindeks mungkin dikeluarkan dari indeks Google setelah beberapa waktu – fitur ini memungkinkan Anda bereaksi dengan cepat ketika itu terjadi.

pengindeksan JavaScript

Mengindeks halaman berbasis JavaScript itu rumit – tetapi ZipTie menawarkan bantuan.

Secara khusus, ZipTie dapat menentukan apakah Google mengindeks fragmen halaman tertentu yang dihasilkan dengan JavaScript.

Sangat penting untuk memahami apakah Google mengalami masalah saat merender dan mengindeks konten berbasis JavaScript Anda. Jika ini masalahnya, ZipTie dapat memberi tahu Anda dengan tepat elemen halaman mana yang bermasalah.

Informasi tambahan tentang halaman yang tidak diindeks

Sebagai bonus, ZipTie menawarkan informasi tambahan tentang URL yang tidak diindeks seperti jumlah kata, judul, header, jumlah gambar, deskripsi meta, dan banyak lagi. Ini penting ketika menyelidiki kemungkinan penyebab masalah pengindeksan dan mengidentifikasi pola antara halaman yang tidak diindeks.

Anda dapat mengekspor data dari ZipTie sebagai file CSV dan dengan mudah menggabungkannya dengan data dari alat lain, seperti Google Analytics atau Google Search Console.

ZipTie belum tersedia secara terbuka. Detail lebih lanjut tentang itu akan dirilis seiring kemajuan pengembangan alat. Anda dapat tetap mendapatkan informasi terbaru tentang peluncuran resmi dengan mendaftar ke milis ZipTie.  

Tapi Anda tidak perlu menunggu.

Hubungi tim ZipTie sekarang juga untuk melakukan analisis mendalam tentang status pengindeksan situs web Anda.

Alat Webmaster Bing

Meskipun muncul di Bing bukan prioritas Anda, Alat Webmaster Bing dapat membantu Anda mendapatkan wawasan tentang semua jenis masalah pengindeksan, beberapa di antaranya mungkin juga Anda hadapi di mesin telusur lain.

Penjelajah Situs

Pertama-tama, mari kita lihat Site Explorer.  

Alat Penjelajah Situs memungkinkan Anda untuk menavigasi melalui struktur situs web Anda dan detail tentang status pengindeksan halaman, di antara data lainnya:

penjelajah situs bing

Salah satu aspek yang membuat Penjelajah Situs menonjol adalah opsi untuk mengelompokkan URL per folder, di mana setiap folder dapat mewakili subdomain atau bagian dari jalur URL. Akibatnya, Anda memiliki akses ke data untuk sejumlah besar halaman.

Informasi perayapan yang Anda miliki aksesnya mencakup:

  • Diindeks – jumlah URL yang diindeks dalam folder tertentu,
  • Kesalahan – Kesalahan perayapan kritis yang menyebabkan URL tertentu tidak diindeks,
  • Peringatan – URL ini ditemukan memiliki masalah pedoman, masalah perayapan sementara, tidak diizinkan di robots.txt, dll. Pantau bagian ini secara teratur untuk menemukan lonjakan atau penurunan pada URL yang terpengaruh,
  • Dikecualikan – URL yang telah dikeluarkan dari indeks, misalnya, karena pelanggaran spam atau peringkat rendah.

Anda memiliki opsi untuk memfilter URL lebih lanjut untuk menampilkan halaman berdasarkan fitur tertentu.

filter bing oleh

Filter ini memungkinkan Anda mengidentifikasi URL yang memerlukan perhatian Anda dan mengarahkan Anda ke arah yang benar saat menangani masalah pengindeksan.

Alat Inspeksi URL Bing

Fitur hebat lainnya adalah alat Inspeksi URL Bing yang melengkapi Penjelajah Situs. Ini memungkinkan Anda meninjau apakah URL tertentu ada dalam indeks Bing dan jika ada kesalahan pengindeksan atau perayapan yang dikenali.

Tempelkan URL ke alat – Anda kemudian akan melihat banyak informasi tambahan.

Di bagian Kartu Indeks , Anda dapat melihat status pengindeksan URL dan detailnya, seperti kapan URL ditemukan dan bagaimana URL itu dirayapi.

Anda juga dapat melihat kode HTML halaman dan respons HTTP yang diterima sistem.

alat inspeksi url bing

Jika URL belum diindeks karena kesalahan, Anda dapat mengambil tindakan lebih lanjut, seperti meminta pengindeksan URL, menghubungi dukungan, melakukan penyesuaian pada file robots.txt, dll.

Bing memberikan panduan tentang mengapa halaman mungkin tidak diindeks – berikut adalah beberapa alasannya:

  • Tidak ada tautan yang mengarah ke halaman Anda,
  • Halaman tidak memenuhi ambang batas kualitas,
  • Arahan robots.txt memblokir perayapan halaman,
  • Ada masalah perayapan lain dengan laman – fitur URL Langsung akan membantu Anda memeriksanya lebih lanjut,
  • Halaman memiliki tag noindex yang mencegahnya diindeks,
  • URL belum ditemukan dan dirayapi dan hanya membutuhkan lebih banyak waktu,
  • Halaman tersebut melanggar pedoman kualitas dan telah dihukum dan dihapus dari indeks.

Anda selanjutnya dapat menggunakan ini sebagai titik referensi saat mendiagnosis masalah pengindeksan di mesin telusur lain, seperti Google.

Jika URL tidak diindeks dan seharusnya, Bing memungkinkan Anda mengirimkan URL untuk pengindeksan .

Yang penting adalah batasnya relatif tinggi – Anda dapat mengirimkan hingga 10.000 URL per hari. Itu jauh melebihi batas yang dilaporkan Google hingga 50 URL.

Masalah pengindeksan umum untuk situs web besar

Masalah pengindeksan terjadi di sebagian besar situs, dan dapat berdampak buruk pada kinerja penelusuran organik situs Anda.

Tomek Rudzki telah melihat masalah pengindeksan yang paling umum untuk ukuran situs web yang berbeda.

Melalui penelitiannya, sekarang kita tahu bahwa situs web besar biasanya mengalami masalah berikut:

  • Dirayapi – saat ini tidak diindeks,
  • Ditemukan – saat ini tidak diindeks,
  • Konten duplikat,
  • Lembut 404,
  • Masalah perayapan.

Masalah khas lainnya menyangkut tautan internal. Googlebot perlu mengikuti jalur untuk menemukan halaman – jika tidak terhubung dengan halaman lain, halaman tersebut mungkin akan dikeluarkan dari indeks.

Bagaimana mengatasi masalah pengindeksan

Anda dapat mengambil langkah-langkah untuk memaksimalkan peluang agar halaman Anda diindeks.

Solusi ini juga berguna saat Anda menemukan URL yang tidak diindeks dan tidak dapat mengidentifikasi mengapa URL tersebut tidak diindeks.

Pastikan halaman Anda dapat diindeks

Mencari tahu apakah halaman Anda dapat diindeks terdiri dari melihat ke dalam dua aspek:

Arahan yang ditentukan dalam file robots.txt Anda

Robots.txt berisi instruksi untuk perayap web tentang apa yang harus dirayapi di situs. Pastikan tidak ada arahan "Larang" yang mencegah halaman berharga Anda dirayapi.  

Apakah halaman berisi tag noindex

Tag Noindex memungkinkan bot mesin pencari untuk mengunjungi halaman tetapi mencegahnya diindeks.

Untuk memeriksa secara massal apakah halaman Anda dapat diindeks, gunakan perayap SEO – misalnya, Screaming Frog.  

Anda dapat menempelkan daftar URL Anda ke dalam alat dan memulai perayapan. Setelah selesai, lihat kolom Indexability, yang akan memberi tahu Anda apakah suatu halaman Dapat Diindeks atau Tidak Dapat Diindeks.

kemampuan indeks katak berteriak

Pastikan semua halaman berharga dikirimkan dalam peta situs

Periksa apakah halaman yang tidak diindeks telah dikirimkan dalam peta situs – jika tidak, tambahkan sesuai kebutuhan.

Selain itu, pastikan peta situs Anda tidak berisi URL yang seharusnya tidak diindeks . Mengizinkan mesin telusur untuk menemukan dan merayapi halaman yang tidak relevan dapat menyebabkan perayapan yang tidak efisien dan memperpanjang waktu yang dibutuhkan bot untuk menemukan konten berkualitas tinggi Anda.

Jika Anda tidak memiliki peta situs, Anda dapat dengan mudah membuatnya atau menggunakan alat khusus yang akan membuatnya tetap mutakhir, seperti Yoast SEO atau Screaming Frog's SEO Spider . Anda juga dapat menggunakan salah satu alat pembuat peta situs.  

Panduan utama kami untuk peta situs akan menjadi sumber daya nomor satu Anda untuk membuat peta situs yang dioptimalkan.

Sesuaikan tautan internal Anda

Tautan internal adalah aspek penting dari situs Anda dari perspektif SEO.

Menyertakan URL dalam peta situs saja tidak cukup untuk Google. Googlebot perlu memastikan bahwa URL layak untuk diperhatikan – untuk alasan ini, ia perlu menemukan sinyal yang menyoroti pentingnya.

Pastikan Anda tidak memiliki halaman yatim piatu, artinya halaman tanpa tautan masuk. Anda dapat merayapi situs web Anda untuk menemukan halaman yatim piatu – misalnya, melakukannya dengan menggunakan laporan halaman Yatim Piatu Screaming Frog.

Beberapa ide untuk meningkatkan tautan internal Anda termasuk membuat bagian untuk produk terkait atau menulis posting blog untuk menautkan ke halaman lain di situs Anda.

Anda juga harus memiliki arsitektur situs web yang bersih. Ini berarti mengatur konten di situs sehingga pengguna dan bot dapat secara intuitif dan cepat menavigasi ke setiap bagian situs Anda.

Perbaiki masalah konten duplikat

Ketika lebih dari satu versi konten yang sama atau sangat mirip ada di situs Anda, mesin pencari mungkin kesulitan untuk memutuskan halaman mana yang merupakan versi yang paling representatif.

Untuk mempermudah pekerjaan mesin telusur, terapkan tag kanonik yang menunjuk ke URL kanonik yang Anda pilih. Setiap versi halaman hanya boleh memiliki satu URL kanonik.

Anda dapat menggunakan alat Google Search Console untuk menentukan apakah Google menghormati URL ini sebagai URL kanonik atau jika memilih URL yang berbeda.

Pastikan tag kanonik secara konsisten mengarah ke halaman kanonik yang tepat. Jika mereka mengarah ke halaman duplikat, URL utama mungkin tetap tidak terindeks.

Ikuti praktik terbaik JavaScript SEO untuk perayapan dan pengindeksan yang lebih mudah

Meskipun mesin pencari menjadi jauh lebih baik dalam merender dan mengindeks JavaScript, penanganannya terhadapnya masih belum sempurna.

Umumnya, mesin telusur mungkin tidak merender JavaScript pada halaman jika menurut mereka tidak akan membuat perubahan signifikan pada kontennya. Juga, jika halaman Anda terlihat sangat berbeda dengan dan tanpa JavaScript, Anda mungkin kesulitan untuk mengindeksnya.

Ada alat yang dapat Anda gunakan untuk menganalisis pengindeksan JavaScript Anda.

Anda dapat dengan mudah memeriksa bagian mana dari halaman Anda yang mengandalkan JavaScript menggunakan alat Apa yang Akan Dilakukan JavaScript kami .

Gunakan Uji Langsung di alat Inspeksi URL Google untuk melihat tangkapan layar tentang bagaimana tepatnya Googlebot akan merender konten JavaScript di laman Anda. Anda kemudian dapat membuka tab Info lebih lanjut untuk mencari kesalahan JavaScript.

Opsi Lihat halaman yang dirayapi di alat Inspeksi URL akan memberi tahu Anda apa yang dirayapi Google di halaman Anda dan apakah semua konten JavaScript ada di sana.

Jika ada masalah dengan pengindeksan JavaScript, lihat artikel kami tentang SEO JavaScript untuk panduan lebih lanjut.

Optimalkan anggaran perayapan Anda

Anggaran perayapan adalah jumlah halaman di situs web yang dapat dan ingin dirayapi oleh mesin telusur.

Anggaran perayapan situs Anda dapat dipengaruhi oleh banyak faktor.

Untuk membantu laman Anda dirayapi secara efisien , ikuti panduan umum berikut:

  • Tingkatkan kinerja web Anda,
  • Optimalkan file JavaScript dan CSS di situs Anda,
  • Hindari pengalihan internal dan rantai pengalihan,
  • Sesuaikan arsitektur situs Anda,
  • Bersihkan tautan internal Anda – perbarui tautan apa pun yang mengarah ke 404 halaman dan sering-seringlah menautkan ke konten terpenting Anda,
  • Miliki peta situs yang terstruktur dengan baik – Anda dapat menganalisis struktur peta situs Anda menggunakan salah satu perayap SEO, seperti Ryte atau Sitebulb.

Bawa pulang

Situs web besar mungkin kesulitan untuk membuat banyak halaman mereka diindeks. Tetapi itu tidak berarti bahwa mengindeks semua konten berharga Anda tidak mungkin.

Menganalisis pengindeksan situs web besar mungkin memerlukan beberapa pekerjaan. Namun, fitur yang tersedia di Google Search Console dan Alat Webmaster Bing akan memberi Anda wawasan yang dapat ditindaklanjuti yang dapat langsung Anda mulai bertindak.

Saya pikir Anda dapat berharap bahwa ZipTie akan menjadi pengubah permainan di bidang pengindeksan – saya mendorong Anda untuk menghubungi tim ZipTie untuk analisis pengindeksan.

Dan, jika Anda berurusan dengan masalah pengindeksan skala besar yang tidak dapat Anda mulai atasi – kami telah melihat semuanya dan akan memberi tahu Anda apa masalah yang harus difokuskan. Hubungi kami!