โปรแกรมดึงข้อมูลเว็บไซต์พัฒนาและปรับแต่ง

โปรแกรมดึงข้อมูลเว็บไซต์ด้วย Python ที่รวบรวมข้อมูลสาธารณะจากหน้าเว็บลงใน CSV หรือ Excel: ราคา แคตตาล็อก ประกาศ

ปกติเสร็จภายใน 15 นาทีรวมการแก้ไขตรวจสอบคุณภาพ
แพ็กเกจ
การคุ้มครองการชำระเงินรายละเอียด
  • การแก้ไขภายในแพ็กเกจไม่มีค่าใช้จ่าย
  • หากคุณไม่ตอบกลับภายใน 3 วันหลังส่งมอบ งานจะถูกยอมรับโดยอัตโนมัติ

เงินจะถูกพักไว้เมื่อคุณชำระ และจะถูกโอนก็ต่อเมื่อคุณยอมรับงานแล้วเท่านั้น

โปรแกรมดึงข้อมูลเว็บไซต์ด้วย Python ที่รวบรวมข้อมูลสาธารณะจากหน้าเว็บลงใน CSV หรือ Excel: ราคา แคตตาล็อก ประกาศ

ตัวอย่างผลงาน

ตัวอย่างของแพ็กเกจสแตนดาร์ด

โปรแกรมดึงข้อมูลแคตตาล็อกของซัพพลายเออร์เครื่องมือทำสวนลง Excel

ผลลัพธ์ที่ได้

รหัสสินค้าชื่อราคามีสินค้าน้ำหนักรูป
GT-1042กรรไกรตัดกิ่ง 20 มม.18.90มี0.24 กก.…/gt-1042.jpg
GT-1187เลื่อยพับ 210 มม.24.50มี0.31 กก.…/gt-1187.jpg
GT-2210กรรไกรตัดแต่งพุ่มไม้ ใบมีดหยัก39.00ไม่มี1.10 กก.…/gt-2210.jpg
GT-3305เกรียงพรวนดิน สเตนเลส9.80มี0.18 กก.…/gt-3305.jpg
GT-4120สายยางรดน้ำ 25 ม. 1/2"42.00มี2.90 กก.…/gt-4120.jpg

ไฟล์ในตัวอย่างมีสินค้า 1,236 รายการจากหน้ารายการ 52 หน้า

ตัวอย่างโค้ดบางส่วน

def product_links(list_url: str) -> Iterator[str]:
    """ลิงก์หน้าสินค้าจากทุกหน้าของรายการ โดยกดไปตามปุ่ม 'ถัดไป'"""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """เปิดหน้าเว็บสาธารณะหนึ่งหน้าแบบไม่เร่งรีบ: เว้นช่วงระหว่างคำขอและลองใหม่สองสามครั้งเมื่อเกิดข้อผิดพลาด"""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s ตอบกลับ %s ครั้งที่ %d จาก 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} เปิดไม่ได้หลังลอง 3 ครั้ง")

ไฟล์ที่ส่งมอบ: ไฟล์ ZIP ที่มี scraper.py settings.ini (หน้าเริ่มต้น ช่วงเว้นระหว่างคำขอ ชื่อไฟล์) requirements.txt และ README อธิบายการติดตั้งและการรัน โปรแกรมอ่านเฉพาะหน้าที่เปิดสาธารณะ ทุก 2 วินาทีต่อหนึ่งหน้า และตรวจ robots.txt ของเว็บไซต์ก่อนเสมอ ลูกค้ารันโปรแกรมบนคอมพิวเตอร์ของตัวเอง

ลูกค้า: ร้านขายอุปกรณ์ทำสวนออนไลน์ที่นำเครื่องมือของซัพพลายเออร์มาขายต่อ ซัพพลายเออร์มีแคตตาล็อกเปิดบนเว็บไซต์แต่ไม่มีไฟล์รายการราคา งาน: ไล่ดูหน้ารายการของแคตตาล็อก เปิดทุกหน้าสินค้า แล้วบันทึกรหัสสินค้า ชื่อ ราคา สต็อก น้ำหนัก และลิงก์รูปหลักลง Excel เพื่อเทียบราคาสัปดาห์ละครั้ง

ลูกค้าและข้อมูลทั้งหมดเป็นเรื่องสมมติ

เกี่ยวกับบริการนี้

โปรแกรมดึงข้อมูลจะเก็บข้อมูลที่คุณเห็นได้บนหน้าเว็บสาธารณะและบันทึกเป็นตาราง: ราคาและสต็อกสินค้า แคตตาล็อกของซัพพลายเออร์สำหรับร้านของคุณ ประกาศ ประกาศงาน อีเวนต์ หรือบทความ บอกเราว่าเป็นเว็บไหนและหน้าใด ระบุฟิลด์ที่คุณต้องการ (ชื่อ ราคา ลิงก์ รูปภาพ และอื่น ๆ) และส่งหน้าเหล่านั้นหนึ่งหรือสองหน้าที่บันทึกจากเบราว์เซอร์ (File > Save page as) หรือภาพหน้าจอ เราเขียนโปรแกรมด้วย Python ตามโครงสร้างจริงของหน้าเหล่านั้น และโปรแกรมบันทึกผลลัพธ์เป็น CSV, Excel หรือ JSON คุณจะได้ไฟล์บีบอัดที่มีโค้ด ไฟล์ตั้งค่าพร้อมที่อยู่และการเว้นช่วงระหว่างหน้า และ README ที่อธิบายวิธีติดตั้ง Python และรันโปรแกรม คุณรันโปรแกรมบนคอมพิวเตอร์ของคุณเอง ข้อมูลจึงมาถึงคุณโดยตรง เราไม่ได้เก็บข้อมูลแทนคุณหรือเก็บรักษาไว้ โปรแกรมอ่านเฉพาะหน้าที่เปิดสาธารณะด้วยความเร็วที่สุภาพ ไม่เข้าสู่ระบบ ไม่หลบเลี่ยงแคปช่าหรือระบบป้องกันอื่น และไม่เก็บข้อมูลส่วนบุคคล เช่น ชื่อ อีเมล หรือเบอร์โทรศัพท์ของบุคคล เมื่อเว็บเปลี่ยนเลย์เอาต์ โปรแกรมอาจต้องมีการอัปเดต การที่คุณเก็บและใช้ข้อมูลของเว็บได้ตามข้อกำหนดของเว็บหรือไม่เป็นความรับผิดชอบของคุณ

สิ่งที่รวมอยู่ในบริการ

  • สิ่งที่คุณจะได้รับไฟล์ ZIP ที่มีโค้ด Python ไฟล์ตั้งค่า และ README พร้อมคำแนะนำทีละขั้นตอน โค้ดยังแสดงบนหน้าคำสั่งซื้อด้วย
  • ฟิลด์ของคุณ ตารางของคุณคอลัมน์ตามลำดับที่คุณต้องการ
  • สร้างจากหน้าจริงเขียนตามโครงสร้างของหน้าที่คุณส่งมา
  • ความเร็วที่สุภาพเว้นช่วงระหว่างหน้า ตั้งได้ในไฟล์ตั้งค่า
  • รันบนคอมพิวเตอร์ของคุณWindows, macOS หรือ Linux พร้อม Python
  • คู่มือที่เข้าใจง่ายต้องติดตั้งอะไรและรันอย่างไร ทีละขั้นตอน

วิธีการทำงาน

  1. 1
    หน้าคุณให้เว็บ ฟิลด์ และหน้าที่บันทึกไว้หนึ่งหรือสองหน้า
  2. 2
    โปรแกรมดึงข้อมูลเราเขียนโค้ดและคู่มือการรัน
  3. 3
    รันคุณรันแล้วตรวจแถวแรก ๆ ของตาราง
  4. 4
    การแก้ไขคุณขอแก้ไขได้ภายในแพ็กเกจและส่งข้อความแจ้งข้อผิดพลาดมาหากมี

สิ่งที่เราต้องการจากคุณ

เว็บและหน้าที่ต้องการ: ลิงก์ไปยังหน้ารายการและหน้ารายละเอียด และจำนวนหน้าโดยประมาณ ฟิลด์ที่คุณต้องการตามลำดับในตาราง พร้อมตัวอย่างของแต่ละฟิลด์ หน้าเหล่านั้นหนึ่งหรือสองหน้าที่บันทึกจากเบราว์เซอร์เป็น HTML (File > Save page as) หรือภาพหน้าจอ เพื่อให้โปรแกรมทำตามโครงสร้างจริง ไฟล์ผลลัพธ์ที่คุณต้องการ (CSV, Excel หรือ JSON) และคุณจะรันที่ไหน

เราจะถามคุณว่า:

  • เว็บไหนและหน้าใด
  • ฟิลด์ที่คุณต้องการ
  • มีประมาณกี่หน้า
  • ไฟล์ผลลัพธ์
  • มีอะไรอื่นที่ควรทำไหม

เปรียบเทียบแพ็กเกจ

แพ็กเกจเบสิกโปรแกรมสำหรับหน้าประเภทเดียว฿850สแตนดาร์ดหน้ารายการและหน้ารายละเอียด฿1,666พรีเมียมหลายเว็บหรือหลายประเภทของหน้า฿3,026
กำหนดส่ง1 วัน2 วัน3 วัน
การแก้ไข123
เว็บไซต์11ไม่เกิน 3
ประเภทของหน้า12 (รายการและรายละเอียด)ไม่เกิน 3
ฟิลด์ไม่เกิน 10ไม่เกิน 25ไม่เกิน 25 ต่อแบบ
ไล่ดูหน้าต่าง ๆ ของรายการไม่มีมีมี
ไฟล์ผลลัพธ์CSVExcel หรือ CSVExcel, CSV หรือ JSON
ตัดรายการซ้ำ ทำต่อจากจุดที่หยุดได้ไม่มีไม่มีมี
สั่งซื้อ เบสิกสั่งซื้อ สแตนดาร์ดสั่งซื้อ พรีเมียม

การคุ้มครองการชำระเงิน

คุณชำระเงินเมื่อสั่งซื้อ แต่เงินจะถูกโอนเฉพาะสำหรับงานที่ยอมรับแล้วเท่านั้น

  • ราคาคงที่ราคาแพ็กเกจจะไม่เปลี่ยนแปลงหลังจากคุณชำระเงิน
  • เงินถูกพักไว้เมื่อคุณชำระเงิน ยอดเงินจะถูกพักไว้เท่านั้น และจะถูกโอนออกเมื่อคุณยอมรับงานแล้ว
  • ตรวจสอบก่อนส่งมอบผลงานทุกชิ้นผ่านการตรวจสอบคุณภาพก่อนถึงมือคุณ และคุณจะเห็นผลงานในหน้าคำสั่งซื้อก่อนยอมรับงาน
  • แก้ไขฟรีขอแก้ไขภายในขอบเขตรายละเอียดงานของคุณได้ตามจำนวนครั้งที่แพ็กเกจกำหนด
  • ยอมรับงานหลัง 3 วันหากภายใน 3 วันหลังส่งมอบ คุณไม่ได้ยอมรับงานหรือขอแก้ไข งานจะถูกยอมรับโดยอัตโนมัติ หากคุณเขียนข้อความในแชทคำสั่งซื้อหลังส่งมอบ คำสั่งซื้อจะรอไว้ก่อน เมื่อเราตอบกลับแล้ว เราอาจเริ่มนับ 3 วันใหม่ และจะแจ้งให้ทราบในแชท
  • ทำใหม่หรือคืนเงินเต็มจำนวนหากผลงานไม่ตรงตามรายละเอียดงานและการแก้ไขยังไม่ช่วย หรืองานใช้เวลาเกินกำหนดส่งมากกว่าสองเท่า ให้เขียนแจ้งในแชทคำสั่งซื้อ เราจะทำงานใหม่หรือคืนเงินให้เต็มจำนวน
วิธีการทำงาน →

คำถามและคำตอบ

การดึงข้อมูลจากเว็บถูกกฎหมายไหม

การเก็บข้อมูลสาธารณะทำได้ในหลายกรณี แต่ข้อกำหนดการใช้งานของเว็บและกฎหมายข้อมูลแตกต่างกันในแต่ละประเทศ คุณจึงเป็นผู้ตัดสินว่าคุณเก็บและใช้ข้อมูลได้หรือไม่ โปรแกรมไม่เข้าสู่ระบบ ไม่หลบเลี่ยงระบบป้องกัน และไม่เก็บข้อมูลส่วนบุคคล ซึ่งช่วยให้อยู่ในฝั่งที่ปลอดภัย

คุณจะเก็บข้อมูลให้ฉันไหม

ไม่ คุณได้โปรแกรมไปและรันเอง ผลลัพธ์จึงมาถึงคุณโดยตรง และคุณรันใหม่ได้ทุกเมื่อที่ต้องการข้อมูลล่าสุด

ถ้าเว็บเปลี่ยนหรือบล็อกโปรแกรมล่ะ

โปรแกรมทำงานตามหน้าเว็บในปัจจุบัน ถ้าเว็บเปลี่ยนเลย์เอาต์ภายหลัง โปรแกรมต้องมีการอัปเดต ซึ่งเป็นคำสั่งซื้อใหม่ โปรแกรมอ่านด้วยความเร็วที่สุภาพ แต่เว็บอาจยังจำกัดการเข้าชมได้ และโปรแกรมไม่หลบเลี่ยงข้อจำกัดเหล่านั้น

ดึงข้อมูลจาก Amazon, Google หรือโซเชียลมีเดียได้ไหม

ไม่ได้ ข้อกำหนดของบริการเหล่านั้นห้ามการเก็บข้อมูลด้วยวิธีนี้ หลายหน้าต้องเข้าสู่ระบบ และมีข้อมูลส่วนบุคคลของผู้คน สำหรับข้อมูลแบบนั้น ให้ใช้ API หรือการส่งออกทางการของบริการ

ต้องเขียนโปรแกรมเป็นไหม

ไม่ต้อง README อธิบายวิธีติดตั้ง Python ครั้งเดียว ติดตั้งสิ่งที่โปรแกรมต้องใช้ด้วยคำสั่งเดียว และรันโปรแกรม สำหรับหน้าที่สร้างเนื้อหาด้วย JavaScript โปรแกรมใช้ไลบรารีเบราว์เซอร์ (Playwright) ซึ่ง README อธิบายไว้ด้วย

ไม่พบคำตอบใช่ไหม

แพ็กเกจ