공개 사이트에서 상품 재고 여부를 확인하고 상태를 날짜와 함께 저장하는 Python 파서

결과물 예시

def product_links(list_url: str) -> Iterator[str]:
    """목록의 모든 페이지에서 상품 페이지 링크를 모읍니다. '다음'을 따라갑니다."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """공개 페이지 하나를 서버에 무리를 주지 않는 속도로 엽니다. 요청 사이에 쉬고, 오류가 나면 몇 번 다시 시도합니다."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s 응답 %s, %d/3번째 시도", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} 페이지가 3번 시도해도 열리지 않았습니다")

서비스 소개

이 파서는 실행할 때마다 공급업체 사이트나 재판매하는 상품의 쇼핑몰 같은 공개 사이트에서 어떤 상품이 재고가 있는지 확인하고 표로 저장합니다. 상품명, 코드, 페이지에 적힌 그대로의 상태, 표시될 경우 남은 수량, 배송 기간, 가격, 링크, 확인 날짜와 시간이 들어갑니다. 실행할 때마다 파일을 보관하면 무엇이 다시 들어왔고 무엇이 품절됐는지 알 수 있습니다. 사이트, 카테고리와 상품 페이지 링크, 사이트에서 쓰는 재고 상태, 브라우저에서 저장한 페이지 한두 개를 보내 주세요. Python 코드, 설정 파일, README를 받아 고객님의 컴퓨터에서 실행하시면 됩니다. 공개된 페이지만 서버에 무리를 주지 않는 속도로 읽으며, 로그인하거나 캡차나 보호 장치를 우회하거나 개인 정보를 수집하지 않습니다. 사이트 이용 약관이 이를 허용하는지는 고객님이 판단하시며, 나중에 사이트 구조가 바뀌면 업데이트가 필요합니다.

포함 사항

• 받으시는 결과물Python 코드, 설정 파일, 단계별 안내가 담긴 README가 들어 있는 ZIP 압축 파일. 코드는 주문 페이지에서도 볼 수 있습니다.
• 상태를 열로사이트의 표현 그대로, 또는 있음 / 없음 / 주문 가능 같은 직접 정한 라벨
• 표시될 경우 수량페이지에 남은 수량이 표시될 때
• 날짜가 기록된 행모든 행에 확인 날짜와 시간
• 적당한 속도페이지 사이 대기 시간을 설정에서 지정
• 고객님의 컴퓨터에서 실행Python이 설치된 Windows, macOS 또는 Linux

진행 방식

1. 1
   페이지 수사이트, 상품, 사이트에서 쓰는 재고 상태를 보내 주세요
2. 2
   파서코드와 실행 안내서를 작성합니다
3. 3
   첫 확인실행한 뒤 몇몇 상태를 사이트와 비교해 보세요
4. 4
   수정패키지 범위 안에서 수정을 요청하고 오류 메시지가 있으면 보내 주세요

준비해 주실 내용

사이트와 정확한 페이지: 카테고리 링크와 상품 페이지 링크, 또는 상품 링크 목록, 대략적인 상품 수. 사이트에 표시되는 재고 상태를 보이는 그대로. 상태 외에 필요한 필드(예: 코드, 가격, 배송 기간). 브라우저에서 저장한(파일 > 다른 이름으로 페이지 저장) 페이지 한두 개 또는 스크린샷, 가능하면 재고 있는 상품과 품절 상품 하나씩. 얼마나 자주 실행하실지.

다음 내용을 여쭤봅니다:

• 어떤 사이트와 상품인가요?
• 재고 상태
• 기타 필드
• 얼마나 자주 확인하시나요?

패키지 비교

질문과 답변

답을 찾지 못하셨나요? 질문하기