Um parser em Python que lista os episódios de um podcast a partir do site aberto dele: número, título, data, duração e link

Exemplo de resultado

def product_links(list_url: str) -> Iterator[str]:
    """Links das páginas de produto de todas as páginas da lista, seguindo o botão 'Próxima'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Uma página aberta, em um ritmo educado: uma pausa entre as requisições e algumas tentativas em caso de erro."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s respondeu %s, tentativa %d de 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} não abriu depois de 3 tentativas")

Sobre este serviço

Quem apresenta podcasts e está mudando para um site novo, editores de notas dos episódios e pesquisadores usam este parser para listar episódios em uma tabela: número, temporada, título, data, duração, descrição curta, temas ou tags, link para a página do episódio e o link do áudio quando a página mostra. Ele lê o próprio site aberto do programa, ou o feed RSS aberto, que a maioria dos podcasts tem. Envie a página da lista de episódios, uma página de episódio e uma ou duas páginas salvas no seu navegador. Você recebe o código em Python, um arquivo de configurações e um README e roda no seu computador. Ele salva links, não arquivos de áudio, e não tem coluna para nomes de convidados. Ele lê em um ritmo educado, nunca faz login nem contorna captchas ou proteções, e não lê redes sociais nem apps de áudio que exigem conta. Você decide se os termos do site permitem; uma mudança futura no layout exige uma atualização.

O que está incluído

• O que você recebeUm arquivo ZIP com o código em Python, um arquivo de configurações e um README com instruções passo a passo; o código também aparece na página do pedido.
• Episódios em ordemNúmero, temporada e data em colunas separadas
• Duração em minutosQuando a página ou o feed mostra
• Links do episódio e do áudioSó links, sem arquivos de áudio
• Ritmo educadoUma pausa entre as páginas, definida nas configurações
• Roda no seu computadorWindows, macOS ou Linux, com Python

Como funciona

1. 1
   ProgramaVocê passa a lista de episódios ou o feed e uma página de episódio salva
2. 2
   ParserEscrevemos o código e o guia para rodá-lo
3. 3
   ExecuçãoVocê roda e confere os episódios mais recentes com o site
4. 4
   AjustesVocê pede ajustes dentro do seu pacote e envia qualquer mensagem de erro

O que precisamos de você

O site do podcast e um link para a lista de episódios, ou o endereço do feed RSS aberto, uma página de episódio e mais ou menos quantos episódios há. Os campos na ordem da sua tabela, ex.: número, temporada, título, data, duração, descrição, tags, link do episódio, link do áudio. Uma ou duas dessas páginas salvas no seu navegador (Arquivo > Salvar página como) ou capturas de tela. CSV, Excel ou JSON.

Vamos perguntar:

• Qual podcast?
• Os campos de que você precisa
• Mais ou menos quantos episódios?
• O arquivo de resultados

Compare os pacotes

Perguntas e respostas

Não encontrou a resposta? Pergunte