Emlak ilanları parser'ıGeliştirme ve Özelleştirme

Açık emlak ilanları için Python parser'ı: fiyat, alan, oda, semt ve bağlantı bir tabloda, iletişim bilgisi olmadan

Genellikle 15 dakika içinde hazırRevizyonlar dahilKalite kontrolü
Paketler
Ödeme korumasıAyrıntılar
  • Paket kapsamındaki revizyonlar ücretsizdir.
  • Teslimattan sonraki 3 gün içinde yanıt vermezseniz iş otomatik olarak onaylanır.

Para, ödeme yaptığınızda bloke edilir ve yalnızca işi onayladığınızda aktarılır.

Açık emlak ilanları için Python parser'ı: fiyat, alan, oda, semt ve bağlantı bir tabloda, iletişim bilgisi olmadan

Örnek sonuç

Standart paket için örnek

Parser of a garden tools supplier's catalog into Excel

What the result looks like

ArticleNamePriceIn stockWeightPhoto
GT-1042Pruning shears, 20 mm18.90Yes0.24 kg…/gt-1042.jpg
GT-1187Folding saw, 210 mm24.50Yes0.31 kg…/gt-1187.jpg
GT-2210Hedge shears, wavy blade39.00No1.10 kg…/gt-2210.jpg
GT-3305Hand trowel, stainless9.80Yes0.18 kg…/gt-3305.jpg
GT-4120Garden hose 25 m, 1/2"42.00Yes2.90 kg…/gt-4120.jpg

The file in the example has 1,236 products from 52 list pages.

A part of the code

def product_links(list_url: str) -> Iterator[str]:
    """Product page links from every page of the list, following 'Next'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """One open page, at a polite pace: a pause between requests and a few tries on errors."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s answered %s, try %d of 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} did not open after 3 tries")

Files: a ZIP archive with scraper.py, settings.ini (the start page, the pause between requests, the file name), requirements.txt and a README on installing and running it. It reads only open pages, one every 2 seconds, and checks the site's robots.txt first. The client runs it on their own computer.

Client: an online garden shop that resells a supplier's tools; the supplier has an open catalog on its website but no price list file. Task: go through the catalog's list pages, open every product page and save the article number, name, price, stock, weight and main photo link to Excel, to compare prices once a week.

Müşteri ve tüm ayrıntılar kurgusaldır.

Bu hizmet hakkında

Bir emlak ofisi, yatırımcı ya da alıcı için bu parser açık emlak ilanlarını tek bir tabloda toplar: tür, fiyat, gösteriliyorsa metrekare fiyatı, alan, oda sayısı, kat, şehir ve semt, ilanda verildiği şekliyle sokak, ilan tarihi, bağlantı ve fotoğraf bağlantıları. Sitede filtrelerinizle aramayı kurun ve bize o bağlantıyı, bir ilanı ve tarayıcınızdan kaydedilmiş bir ya da iki sayfayı gönderin. Python kodu, bir ayar dosyası ve README alırsınız ve onu bilgisayarınızda çalıştırırsınız. Kişisel veriler dışarıda kalır: mal sahiplerinin ya da emlakçıların adları, e-postaları veya telefon numaraları yok, yalnızca ilanın bağlantısı. Açık sayfaları siteyi yormayan bir hızda okur; asla oturum açmaz, CAPTCHA'ları ya da korumaları aşmaz. Sitenin koşullarının buna izin verip vermediğine siz karar verirsiniz; sitenin düzeni sonradan değişirse güncelleme gerekir.

Neler dahil

  • Neler alırsınızPython kodunu, bir ayar dosyasını ve adım adım talimatlar içeren bir README dosyasını barındıran bir ZIP arşivi; kod sipariş sayfasında da gösterilir.
  • Sizin aramanız, sizin filtrelerinizSitede kurduğunuz bir arama bağlantısından başlar
  • Sıralayabileceğiniz sayılarFiyat, alan ve kat ayrı sütunlarda
  • İletişim bilgisi yokSatıcıların ve emlakçıların adları ve telefonları dışarıda bırakılır
  • Fotoğraf bağlantılarıDosyaların kendisi değil, ilan fotoğraflarının bağlantıları
  • Nazik hızSayfalar arasında, ayarlardan belirlenen bir bekleme süresi

Nasıl çalışır

  1. 1
    AramaAramayı kurar, bağlantısını ve kaydedilmiş bir ilanı gönderirsiniz
  2. 2
    ParserKodu ve çalıştırma kılavuzunu yazarız
  3. 3
    ÇalıştırmaÇalıştırır ve ilk satırları siteyle karşılaştırırsınız
  4. 4
    DeğişikliklerPaketiniz kapsamında değişiklik ister, varsa hata mesajını gönderirsiniz

Sizden neler gerekiyor

Emlak sitesi ve filtrelerinizi (şehir, tür, fiyat aralığı) içeren bir arama bağlantısı, bir ilan sayfası ve aramanın yaklaşık kaç ilan gösterdiği. Tablonuzdaki sırayla ihtiyacınız olan alanlar, ör. tür, fiyat, alan, oda, kat, semt, ilan tarihi, bağlantı. Tarayıcınızdan kaydedilmiş (Dosya > Sayfayı farklı kaydet) bu sayfalardan bir ya da ikisi veya ekran görüntüleri. CSV ya da Excel.

Size soracaklarımız:

  • Hangi site ve arama?
  • İhtiyacınız olan alanlar
  • Yaklaşık kaç ilan?
  • Yapması gereken başka bir şey

Paketleri karşılaştırın

PaketlerTemelBağlantılarınızdaki ilanlar$22StandartArama sonuçları ve ilanlar$43PremiumEn fazla 3 emlak sitesi$76
Teslim süresi1 gün2 gün3 gün
Revizyonlar123
Siteler11en fazla 3
Sayfa türleri12 (arama sonuçları ve ilan)en fazla 3
Alanlaren fazla 10en fazla 25her birinde en fazla 25
Bir listenin sayfalarında gezinirHayırEvetEvet
Sonuç dosyasıCSVExcel ya da CSVExcel, CSV ya da JSON
Tekrarlar temizlenir, kaldığı yerden devam ederHayırHayırEvet
Sipariş ver TemelSipariş ver StandartSipariş ver Premium

Ödeme koruması

Sipariş verirken ödersiniz, ancak para yalnızca onaylanan iş için aktarılır.

  • Sabit fiyatPaket fiyatı, ödeme yaptıktan sonra değişmez.
  • Para bloke edilirÖdeme yaptığınızda tutar yalnızca bloke edilir. İşi onayladığınızda hizmete aktarılır.
  • Teslimattan önce kontrolHer sonuç size ulaşmadan önce kalite kontrolünden geçer ve onaylamadan önce sipariş sayfasında görürsünüz.
  • Ücretsiz revizyonlarBrifiniz kapsamında, paketin izin verdiği sayıda değişiklik isteyin.
  • 3 gün sonra onayTeslimattan sonraki 3 gün içinde işi onaylamaz veya değişiklik istemezseniz iş otomatik olarak onaylanır. Teslimattan sonra sipariş sohbetine yazarsanız sipariş bekletilir; yanıt verdikten sonra 3 günlük süreyi yeniden başlatabiliriz ve bunu sohbette bildiririz.
  • Yeniden yapım veya tam iadeSonuç brifinize uymuyorsa ve revizyonlar sorunu çözmediyse ya da iş teslim süresinin iki katından uzun sürerse sipariş sohbetine yazın: işi yeniden yaparız veya ödemenin tamamını iade ederiz.
Nasıl çalışır →

Sorular ve yanıtlar

Satıcının ya da emlakçının telefon numarasını alabilir miyim?

Hayır. Parser hiçbir kişisel veri toplamaz: kişilerin adları, e-postaları ya da telefon numaraları yok. Her satırda ilanın bağlantısı bulunur; satıcıya oradan, sitenin sunduğu şekilde ulaşabilirsiniz.

Fiyat değişikliklerini ve kaldırılan ilanları gösterir mi?

Her çalıştırma tarihiyle birlikte yeni bir tablo kaydeder; böylece iki çalıştırmayı Excel'de yan yana koyabilirsiniz. Parser'ın kendisi değişiklikleri takip etmez ya da raporlamaz.

Hangi emlak sitelerini okuyabilir?

İlanları oturum açmadan ya da CAPTCHA olmadan gösteren açık siteleri. Birçok büyük portal koşullarında veri toplamayı yasaklar: bunları kontrol edin, karar sizindir. Google'ı, Amazon'u, LinkedIn'i ya da sosyal ağları okumaz.

Fotoğrafların kendisini kaydedebilir mi?

Bağlantıları kaydeder. Fotoğraflar onları çekene aittir; bu yüzden dosyalar yalnızca kullanmanıza izin varsa kaydedilir, örneğin kendi ilanlarınız için.

Yanıtınızı bulamadınız mı?

Paketler