型錄圖片下載器開發與客製化

一個 Python 爬蟲,把公開型錄的圖片存到資料夾,依商品代碼命名,並附對照表

通常 15 分鐘內完成含修改次數品質檢查
方案
付款保障詳細資訊
  • 方案內的修改免費。
  • 若您在交付後 3 天內未回應,成果將自動驗收。

付款時款項會先保留,在您驗收後才會撥付。

一個 Python 爬蟲,把公開型錄的圖片存到資料夾,依商品代碼命名,並附對照表

成果範例

標準版方案範例

Parser of a garden tools supplier's catalog into Excel

What the result looks like

ArticleNamePriceIn stockWeightPhoto
GT-1042Pruning shears, 20 mm18.90Yes0.24 kg…/gt-1042.jpg
GT-1187Folding saw, 210 mm24.50Yes0.31 kg…/gt-1187.jpg
GT-2210Hedge shears, wavy blade39.00No1.10 kg…/gt-2210.jpg
GT-3305Hand trowel, stainless9.80Yes0.18 kg…/gt-3305.jpg
GT-4120Garden hose 25 m, 1/2"42.00Yes2.90 kg…/gt-4120.jpg

The file in the example has 1,236 products from 52 list pages.

A part of the code

def product_links(list_url: str) -> Iterator[str]:
    """Product page links from every page of the list, following 'Next'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """One open page, at a polite pace: a pause between requests and a few tries on errors."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s answered %s, try %d of 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} did not open after 3 tries")

Files: a ZIP archive with scraper.py, settings.ini (the start page, the pause between requests, the file name), requirements.txt and a README on installing and running it. It reads only open pages, one every 2 seconds, and checks the site's robots.txt first. The client runs it on their own computer.

Client: an online garden shop that resells a supplier's tools; the supplier has an open catalog on its website but no price list file. Task: go through the catalog's list pages, open every product page and save the article number, name, price, stock, weight and main photo link to Excel, to compare prices once a week.

客戶與所有細節皆為虛構。

關於此服務

當您要把自己的型錄搬到新商店,或供應商允許您使用其商品照片時,這個爬蟲會把公開型錄頁面上的圖片存到資料夾,每個檔案依商品代碼命名,並附一份對照代碼、商品名稱、圖片連結和檔名的表格。請提供網站、一個分類頁和一個商品頁、一兩個從瀏覽器另存的頁面,以及檔案的命名方式。您會拿到 Python 程式碼、設定檔和 README,並在自己的電腦上執行,檔案會直接存到您手上。請只儲存您有權使用的圖片:您自己的,或擁有者允許的。檔案依網站提供的原樣儲存。它以和緩的速度讀取公開頁面,絕不登入、不繞過驗證碼或防護機制。網站的使用條款是否允許,由您自行判斷;網站日後改版時,程式需要更新。

包含內容

  • 您會得到一個 ZIP 壓縮檔,內含 Python 程式碼、設定檔和附逐步說明的 README;訂單頁面上也會顯示程式碼。
  • 依您的方式命名檔案依商品代碼命名,額外的照片加上 _1、_2、_3
  • 搭配一份表格代碼、商品名稱、圖片連結和檔名
  • 最大尺寸的版本頁面有連到較大的圖片時,就下載那一張
  • 和緩的速度頁面之間的間隔,可在設定中調整
  • 在您的電腦上執行Windows、macOS 或 Linux,搭配 Python

服務流程

  1. 1
    頁面數您提供型錄、一個另存的商品頁和檔名規則
  2. 2
    爬蟲我們撰寫程式碼和執行說明
  3. 3
    執行您執行程式,並瀏覽第一個資料夾的圖片
  4. 4
    修改您在方案範圍內提出修改,並附上任何錯誤訊息

需要您提供的資料

網站和具體頁面:一個分類頁和一個商品頁的連結,以及大約有多少項商品和圖片。檔案的命名方式,例如依商品代碼加上 _1、_2。除了檔名之外,您需要的表格欄位。一兩個從瀏覽器另存的這類頁面(檔案 > 另存網頁)。以及您確認這些圖片是您的,或擁有者允許您使用。

我們會詢問您:

  • 哪個網站、哪些頁面?
  • 檔案的命名方式
  • 大約有多少張圖片?
  • 這些圖片屬於誰?

比較方案

方案基本版您商品連結中的圖片US$22標準版整個分類US$43進階版最多 3 個網站或分類US$75
交付期限1 天2 天3 天
修改次數123
網站數11最多 3 個
頁面類型12 種(分類頁和商品頁)最多 3 個
欄位數最多 10 題最多 25 個每個最多 25 個
逐頁讀取清單中的頁面無有有
結果檔案CSVExcel 或 CSVExcel、CSV 或 JSON
移除重複、從中斷處繼續無無有
產出圖片檔 + 表格圖片檔 + 表格圖片檔 + 表格
訂購 基本版訂購 標準版訂購 進階版

付款保障

下單時付款,但只有在驗收成果後,款項才會撥付。

  • 固定價格付款後,方案價格不會變動。
  • 款項先行保留付款時,金額只會先保留,在您驗收後才會撥付給服務。
  • 交付前檢查每份成果在交到您手上之前都會經過品質檢查,您也可以在驗收前於訂單頁面查看成果。
  • 免費修改在需求說明範圍內,可依方案允許的次數提出修改。
  • 3 天後自動驗收若您在交付後 3 天內未驗收也未提出修改,成果將自動驗收。若您在交付後於訂單聊天室留言,訂單會暫停自動驗收;我們回覆後,可能會重新起算 3 天,並會在聊天室中告知。
  • 重新製作或全額退款若成果不符合您的需求說明且修改後仍未改善,或製作時間超過交付期限的兩倍,請在訂單聊天室留言:我們將重新製作,或全額退還款項。
運作方式 →

常見問題

我可以下載任何找到的圖片嗎?

不行。圖片屬於其擁有者,所以這個爬蟲只適用於您有權使用的圖片:您自己的型錄,或經供應商許可的型錄。取得許可由您負責。

它會調整圖片尺寸或去除浮水印嗎?

不會。檔案依網站提供的原樣儲存,不調整尺寸、不轉換格式也不編輯,我們也絕不去除浮水印。

它能從 Google 圖片、Amazon 或社群平台下載嗎?

不行。Google、Amazon、LinkedIn 和社群平台都在範圍之外:它們的使用條款禁止這麼做,而且那裡的圖片屬於許多不同的人。

需要多少硬碟空間?

視網站而定:商品照片每張通常 200 KB 到 1 MB。請先用一個分類執行,再乘上倍數估算。

如果網站改版怎麼辦?

爬蟲是依目前的頁面撰寫的。日後版面改變需要更新,這算是一筆新訂單。

沒有找到您要的答案?

方案