竞品价格采集开发与定制

一个 Python 采集程序,把竞争对手公开的价格收集到表格中:价格、原价、库存和链接

通常15分钟内完成包含修改质量检查
套餐
付款保障详情
  • 套餐内的修改免费。
  • 如果交付后 3 天内您未作回应,工作将自动验收。

付款时款项会被冻结,仅在您验收后结算。

一个 Python 采集程序,把竞争对手公开的价格收集到表格中:价格、原价、库存和链接

成果示例

标准版套餐示例

把园艺工具供应商的商品目录采集到 Excel

结果示例

商品编号名称价格有货重量图片
GT-1042修枝剪,20 mm18.90是0.24 kg…/gt-1042.jpg
GT-1187折叠锯,210 mm24.50是0.31 kg…/gt-1187.jpg
GT-2210绿篱剪,波浪刃39.00否1.10 kg…/gt-2210.jpg
GT-3305手铲,不锈钢9.80是0.18 kg…/gt-3305.jpg
GT-4120园艺水管 25 m,1/2"42.00是2.90 kg…/gt-4120.jpg

示例文件中有 1,236 个商品,来自 52 个列表页。

部分代码

def product_links(list_url: str) -> Iterator[str]:
    """从列表的每一页获取商品页面链接,沿“下一页”继续翻页。"""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """以礼貌的节奏读取一个公开页面:请求之间有间隔,出错时重试几次。"""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s 返回了 %s,第 %d 次尝试,共 3 次", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} 尝试 3 次后仍无法打开")

**文件:**一个 ZIP 压缩包,内含 scraper.py、settings.ini(起始页面、请求间隔、文件名)、requirements.txt 以及说明如何安装和运行的 README。它只读取公开页面,每 2 秒读取一页,并会先查看网站的 robots.txt。客户在自己的电脑上运行。

**客户:**一家转售某供应商工具的园艺网店;供应商在网站上有公开的商品目录,但没有价目表文件。 **任务:**逐页读取目录的列表页,打开每个商品页面,把商品编号、名称、价格、库存、重量和主图链接保存到 Excel,每周比较一次价格。

客户及所有信息均为虚构。

服务介绍

这个采集程序读取竞争对手公开的商品页面,把价格整理成一张可以和您自己的价格对照的表格:商品名称、商品编码、价格、原价、折扣、是否有货和链接,并附上检查日期。请告诉我们网站、一个分类页面和一个商品页面的链接、按您表格顺序排列的字段,以及一两个从浏览器保存下来的此类页面。我们根据这些页面的真实结构用 Python 编写代码,并附上设置文件和 README。您想获取最新价格时,就在自己的电脑上运行它,表格会直接保存在您手中。它只以礼貌的节奏读取公开页面,从不登录,不绕过验证码或任何防护,也不收集个人数据。网站条款是否允许由您判断;网站日后改版时,需要更新程序。

服务内容

  • 您将获得一个 ZIP 压缩包,内含 Python 代码、设置文件和附分步说明的 README;订单页面上也能查看代码。
  • 价格列价格、原价和折扣分别作为独立数字
  • 用于匹配的编码页面上显示时,保存竞争对手的商品编码或条形码
  • 每次检查的日期每一行都带有采集日期
  • 礼貌的节奏页面之间的间隔由您设定
  • 在您的电脑上运行Windows、macOS 或 Linux;想要最新价格就再运行一次

服务流程

  1. 1
    页面数您提供竞争对手的网站、一个分类和一个保存好的商品页面
  2. 2
    采集程序我们根据这些页面编写代码和运行说明
  3. 3
    运行您运行程序,并把前几行与网站对照
  4. 4
    修改您在套餐范围内提出修改,如有报错信息请一并发来

需要您提供的信息

竞争对手的网站和具体页面:一个分类页面和一个商品页面的链接,以及大约有多少个商品。您需要的字段,按您表格的顺序排列,例如名称、编码、价格、原价、是否有货、链接。一两个从浏览器另存为 HTML 的此类页面(文件 > 网页另存为),或截图。CSV 还是 Excel,以及您会在哪里运行它。

我们会询问您:

  • 哪个竞争对手网站,哪些页面?
  • 您需要的字段
  • 大约多少个商品?
  • 您多久运行一次?

套餐对比

套餐基础版采集商品页面价格US$21标准版整个分类US$42高级版最多 3 个竞争对手US$75
交付期限1 天2 天3 天
修改次数123
网站数11最多 3 个
页面类型数12 种(分类页和商品页)最多 3 个
字段数最多 10最多 25 个每种最多 25 个
列表翻页读取否是是
结果文件CSVExcel 或 CSVExcel、CSV 或 JSON
去除重复,可从中断处继续否否是
下单 基础版下单 标准版下单 高级版

付款保障

您在下单时付款,但款项仅在您验收后才会结算。

  • 固定价格付款后套餐价格不会变动。
  • 款项先冻结付款时,这笔金额只是被冻结。您验收后,款项才会结算给平台。
  • 交付前检查每份成果在送达您之前都会经过质量检查,验收前您可以在订单页面查看。
  • 免费修改在需求说明范围内,您可以在套餐允许的次数内提出修改。
  • 3 天后自动验收如果交付后 3 天内您既未验收也未提出修改,工作将自动验收。如果您在交付后于订单聊天中留言,订单将暂停自动验收;我们回复后,可能会重新开始计算 3 天,并会在聊天中告知您。
  • 返工或全额退款如果成果与您的需求说明不符且修改后仍未解决,或工作耗时超过交付期限的两倍,请在订单聊天中留言:我们将为您返工或全额退款。
运作方式 →

问题与解答

它会把竞争对手的商品和我的商品匹配起来吗?

它会按页面上显示的样子保存竞争对手的商品编码、条形码和名称,方便您在 Excel 中与自己的清单匹配。如果编码和您的不一样,匹配工作由您完成:我们不会去猜哪些商品是同一款。

能看到登录用户或批发客户的价格吗?

不能。它读取的是公开页面向任何访客显示的价格。需要账户、批发登录或验证码才能看到的价格,它无法获取。

采集竞争对手的价格合法吗?

在很多情况下,采集公开价格是允许的,但各网站的条款和各国的数据法律不同,所以是否可以采集和使用,由您判断。采集程序从不登录、不绕过防护,也不收集个人数据。

能采集 Amazon、Google 或社交网络内店铺的价格吗?

不能。它们的条款禁止这样做,LinkedIn 和其他社交网络也一样。这类数据请使用该服务的官方导出功能或 API。

如果竞争对手改版了网站怎么办?

采集程序是按页面现在的样子编写的。改版后需要更新,这属于新订单。如果网站限制访问,采集程序不会绕过限制。

没有找到答案?

套餐