開發
成果範例
Parser of a garden tools supplier's catalog into Excel
What the result looks like
| Article | Name | Price | In stock | Weight | Photo |
|---|---|---|---|---|---|
| GT-1042 | Pruning shears, 20 mm | 18.90 | Yes | 0.24 kg | …/gt-1042.jpg |
| GT-1187 | Folding saw, 210 mm | 24.50 | Yes | 0.31 kg | …/gt-1187.jpg |
| GT-2210 | Hedge shears, wavy blade | 39.00 | No | 1.10 kg | …/gt-2210.jpg |
| GT-3305 | Hand trowel, stainless | 9.80 | Yes | 0.18 kg | …/gt-3305.jpg |
| GT-4120 | Garden hose 25 m, 1/2" | 42.00 | Yes | 2.90 kg | …/gt-4120.jpg |
The file in the example has 1,236 products from 52 list pages.
A part of the code
def product_links(list_url: str) -> Iterator[str]:
"""Product page links from every page of the list, following 'Next'."""
url: str | None = list_url
while url:
page = fetch(url)
for card in page.select("div.product-card a.title"):
yield urljoin(url, card["href"])
next_link = page.select_one("a.pagination-next")
url = urljoin(url, next_link["href"]) if next_link else None
def fetch(url: str) -> BeautifulSoup:
"""One open page, at a polite pace: a pause between requests and a few tries on errors."""
for attempt in range(3):
time.sleep(settings.delay_seconds)
response = session.get(url, timeout=30)
if response.status_code == 200:
return BeautifulSoup(response.text, "html.parser")
log.warning("%s answered %s, try %d of 3", url, response.status_code, attempt + 1)
raise ScraperError(f"{url} did not open after 3 tries")
Files: a ZIP archive with scraper.py, settings.ini (the start page, the pause between requests, the file name), requirements.txt and a README on installing and running it. It reads only open pages, one every 2 seconds, and checks the site's robots.txt first. The client runs it on their own computer.
Client: an online garden shop that resells a supplier's tools; the supplier has an open catalog on its website but no price list file. Task: go through the catalog's list pages, open every product page and save the article number, name, price, stock, weight and main photo link to Excel, to compare prices once a week.
客戶與所有細節皆為虛構。
關於此服務
體育媒體、球迷網站和分析師用這個爬蟲,把公開賽果彙整成一份表格:日期、賽事、輪次、主隊、客隊和比分,頁面有顯示時,再加上比賽頁的數據,例如射門、角球或控球率;也可以是積分榜,包含名次、場次、勝、和、負和積分。請提供網站、一個賽果頁、一個比賽頁,以及一兩個從瀏覽器另存的頁面。您會拿到 Python 程式碼、設定檔和 README,每輪賽事結束後在自己的電腦上執行。它蒐集的是球隊和比賽的數據,不是個人檔案,也不提供投注建議或預測。它以和緩的速度讀取公開頁面,絕不登入、不繞過驗證碼或防護機制。網站的使用條款是否允許,由您自行判斷;網站日後改版時,程式需要更新。
包含內容
- 您會得到一個 ZIP 壓縮檔,內含 Python 程式碼、設定檔和附逐步說明的 README;訂單頁面上也會顯示程式碼。
- 比分分欄呈現主隊和客隊進球分開,方便套用公式
- 積分榜名次、場次、勝、和、負、積分
- 比賽數據頁面有顯示時的射門、角球或控球率
- 和緩的速度頁面之間的間隔,可在設定中調整
- 在您的電腦上執行Windows、macOS 或 Linux,搭配 Python
服務流程
- 1頁面數您提供網站、一個賽果頁和一個另存的比賽頁
- 2爬蟲我們撰寫程式碼和執行說明
- 3執行您執行程式,並把最近一輪與網站核對
- 4修改您在方案範圍內提出修改,並附上任何錯誤訊息
需要您提供的資料
網站和具體頁面:賽果或積分榜以及一個比賽頁的連結、您需要的賽事和賽季,以及大約有多少場比賽。依您表格順序排列的欄位,例如日期、賽事、輪次、主隊、客隊、主隊進球、客隊進球。一兩個從瀏覽器另存的這類頁面(檔案 > 另存網頁)或截圖。CSV 或 Excel。
我們會詢問您:
- 哪個網站、哪些頁面?
- 賽事與賽季
- 您需要的欄位
- 您多久執行一次?
比較方案
付款保障
下單時付款,但只有在驗收成果後,款項才會撥付。
- 固定價格付款後,方案價格不會變動。
- 款項先行保留付款時,金額只會先保留,在您驗收後才會撥付給服務。
- 交付前檢查每份成果在交到您手上之前都會經過品質檢查,您也可以在驗收前於訂單頁面查看成果。
- 免費修改在需求說明範圍內,可依方案允許的次數提出修改。
- 3 天後自動驗收若您在交付後 3 天內未驗收也未提出修改,成果將自動驗收。若您在交付後於訂單聊天室留言,訂單會暫停自動驗收;我們回覆後,可能會重新起算 3 天,並會在聊天室中告知。
- 重新製作或全額退款若成果不符合您的需求說明且修改後仍未改善,或製作時間超過交付期限的兩倍,請在訂單聊天室留言:我們將重新製作,或全額退還款項。
常見問題
它能在比賽進行中提供即時比分嗎?
不行。它在您執行時以和緩的速度讀取頁面,所以不是即時資料。如需即時資料,請使用聯盟的官方資料服務。
它能蒐集球員的統計數據嗎?
它依球隊和比賽蒐集數據。球員的個人檔案不會擷取,所以表格裡沒有個人資料。
它能幫我投注嗎?
不行。表格只有網站上顯示的過往賽果;我們不提供任何明牌、預測或投注建議。
它能讀取哪些網站?
賽果以文字而非圖片呈現、不登入就看得到的公開網站。聯盟通常擁有自己的資料,所以請查看網站的使用條款:由您決定。Google、Amazon、LinkedIn 和社群平台都在範圍之外。
沒有找到您要的答案?


