Parser de titulares de noticiasDesarrollo y personalización

Un parser de Python que reúne en una tabla titulares de noticias abiertos: titular, fecha, sección, entradilla y enlace

Suele estar listo en 15 minutosCambios incluidosControl de calidad
Paquetes
Protección de pagoDetalles
  • Los cambios dentro del paquete son gratuitos.
  • Si no responde en los 3 días siguientes a la entrega, el trabajo se acepta automáticamente.

El dinero queda reservado al pagar y solo se libera cuando usted acepta el trabajo.

Un parser de Python que reúne en una tabla titulares de noticias abiertos: titular, fecha, sección, entradilla y enlace

Ejemplo de resultado

Ejemplo del paquete Estándar

Parser del catálogo de un proveedor de herramientas de jardín a Excel

Cómo queda el resultado

ReferenciaNombrePrecioDisponiblePesoFoto
GT-1042Tijeras de podar, 20 mm18,90Sí0,24 kg…/gt-1042.jpg
GT-1187Sierra plegable, 210 mm24,50Sí0,31 kg…/gt-1187.jpg
GT-2210Tijeras para setos, hoja ondulada39,00No1,10 kg…/gt-2210.jpg
GT-3305Pala de mano, acero inoxidable9,80Sí0,18 kg…/gt-3305.jpg
GT-4120Manguera de jardín 25 m, 1/2"42,00Sí2,90 kg…/gt-4120.jpg

El archivo del ejemplo tiene 1.236 productos de 52 páginas de lista.

Una parte del código

def product_links(list_url: str) -> Iterator[str]:
    """Enlaces a las páginas de producto de todas las páginas de la lista, siguiendo 'Siguiente'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Una página abierta, a un ritmo prudente: una pausa entre peticiones y algunos reintentos si hay errores."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s respondió %s, intento %d de 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} no se abrió tras 3 intentos")

Archivos: un archivo ZIP con scraper.py, settings.ini (la página inicial, la pausa entre peticiones, el nombre del archivo), requirements.txt y un README sobre cómo instalarlo y ejecutarlo. Solo lee páginas abiertas, una cada 2 segundos, y antes consulta el robots.txt de la web. El cliente lo ejecuta en su propio ordenador.

Cliente: una tienda de jardinería en línea que revende las herramientas de un proveedor; el proveedor tiene un catálogo abierto en su web, pero ningún archivo con la lista de precios. Tarea: recorrer las páginas de lista del catálogo, abrir cada página de producto y guardar en Excel la referencia, el nombre, el precio, la disponibilidad, el peso y el enlace de la foto principal, para comparar precios una vez por semana.

El cliente y todos los datos son ficticios.

Acerca de este servicio

Profesionales de comunicación, analistas y editores usan este parser para llevar una tabla de lo que publican las webs de noticias abiertas: titular, fecha y hora, sección, etiquetas, la breve entradilla que aparece en la lista y el enlace. Envíenos las páginas de listas de noticias que sigue, una página de noticia y una o dos páginas guardadas desde su navegador. Recibe código Python con un archivo de configuración y un README, y lo ejecuta en su ordenador cuando quiera una lista actualizada. Toma titulares y entradillas, no artículos completos, porque los textos pertenecen a sus editores, y omite las firmas, así que la tabla no contiene nombres de personas. Lee páginas abiertas a un ritmo prudente y nunca inicia sesión ni se salta muros de pago, captchas o protecciones. Usted decide si las condiciones de la web lo permiten; un cambio posterior de su estructura requiere una actualización.

Qué incluye

  • Qué recibeUn archivo ZIP con el código Python, un archivo de configuración y un README con instrucciones paso a paso; el código también se muestra en la página del pedido.
  • Titular y entradillaTal como los muestra la lista de noticias
  • Fecha en un formatoPara ordenar y filtrar por día
  • Solo sus temasUn filtro opcional por las palabras que indique
  • Ritmo prudenteUna pausa entre páginas, fijada en la configuración
  • Se ejecuta en su ordenadorWindows, macOS o Linux, con Python

Cómo funciona

  1. 1
    FuentesUsted da las listas de noticias y una página de noticia guardada
  2. 2
    ParserEscribimos el código y la guía para ejecutarlo
  3. 3
    EjecuciónLo ejecuta y compara los titulares de hoy con la web
  4. 4
    CambiosPide cambios dentro de su paquete y nos envía cualquier mensaje de error

Qué necesitamos de usted

Las webs de noticias y las páginas de lista o secciones exactas que sigue, y una página de noticia de cada una. Los campos que necesita, p. ej., titular, fecha, hora, sección, etiquetas, entradilla, enlace. Palabras que conservar o descartar, si quiere un filtro. Una o dos de esas páginas guardadas desde su navegador (Archivo > Guardar página como) o capturas. Con qué frecuencia lo ejecutará, y CSV o Excel.

Le preguntaremos:

  • ¿Qué webs de noticias y qué secciones?
  • Los campos que necesita
  • Palabras que conservar
  • ¿Con qué frecuencia lo ejecutará?

Comparar paquetes

PaquetesBásicoTitulares de una lista21 US$EstándarPáginas de la lista y cada noticia42 US$PremiumHasta 3 webs de noticias74 US$
Plazo1 día2 días3 días
Cambios123
Webs11hasta 3
Tipos de página12 (lista de noticias y página de noticia)hasta 3
Camposhasta 10hasta 25hasta 25 en cada una
Recorre las páginas de una listaNoSíSí
Archivo de resultadosCSVExcel o CSVExcel, CSV o JSON
Duplicados eliminados, reanuda donde se detuvoNoNoSí
Hacer pedido BásicoHacer pedido EstándarHacer pedido Premium

Protección de pago

Usted paga al hacer el pedido, pero el dinero solo se libera por un trabajo aceptado.

  • Precio fijoEl precio del paquete no cambia después del pago.
  • El dinero queda reservadoAl pagar, el importe solo queda reservado. Pasa a Dleex cuando usted acepta el trabajo.
  • Revisado antes de la entregaCada resultado pasa un control de calidad antes de llegar a usted, y lo ve en la página del pedido antes de aceptarlo.
  • Cambios gratuitosSolicite cambios dentro de su brief tantas veces como permita el paquete.
  • Aceptación a los 3 díasSi en los 3 días siguientes a la entrega no acepta el trabajo ni solicita cambios, se acepta automáticamente. Si escribe en el chat del pedido después de la entrega, el pedido queda en espera; cuando le respondamos, podremos reiniciar el plazo de 3 días y se lo indicaremos en el chat.
  • Rehacer el trabajo o reembolso totalSi el resultado no se ajusta a su brief y los cambios no lo resolvieron, o el trabajo tarda más del doble de su plazo, escriba en el chat del pedido: rehacemos el trabajo o le reembolsamos el pago íntegro.
Cómo funciona →

Preguntas y respuestas

¿Puede recoger los artículos completos?

No. Los textos de los artículos pertenecen a sus editores, así que el parser toma el titular, la breve entradilla de la lista y el enlace; el texto completo lo lee en la web.

¿Puede leer webs con muro de pago?

Solo lo que ve cualquier visitante sin iniciar sesión, a menudo el titular y la entradilla. Nunca inicia sesión ni se salta un muro de pago, un captcha o una protección.

¿Puede leer Google Noticias o noticias en redes sociales?

No. Google, Amazon, LinkedIn y las redes sociales quedan fuera: sus condiciones lo prohíben. Lea las propias webs de noticias, siempre que sus condiciones lo permitan, lo que decide usted.

¿Con qué frecuencia puedo ejecutarlo?

Unas pocas veces al día es razonable para la mayoría de webs a un ritmo prudente. Premium añade una guía para ejecutarlo de forma programada. Tras un cambio de estructura de una web, el parser necesita una actualización.

¿No encontró su respuesta?

Paquetes