Parser de directorios de empresasDesarrollo y personalización

Un parser de Python para un directorio de empresas abierto: nombre, categoría, ciudad, dirección y web, sin contactos personales

Suele estar listo en 15 minutosCambios incluidosControl de calidad
Paquetes
Protección de pagoDetalles
  • Los cambios dentro del paquete son gratuitos.
  • Si no responde en los 3 días siguientes a la entrega, el trabajo se acepta automáticamente.

El dinero queda reservado al pagar y solo se libera cuando usted acepta el trabajo.

Un parser de Python para un directorio de empresas abierto: nombre, categoría, ciudad, dirección y web, sin contactos personales

Ejemplo de resultado

Ejemplo del paquete Estándar

Parser del catálogo de un proveedor de herramientas de jardín a Excel

Cómo queda el resultado

ReferenciaNombrePrecioDisponiblePesoFoto
GT-1042Tijeras de podar, 20 mm18,90Sí0,24 kg…/gt-1042.jpg
GT-1187Sierra plegable, 210 mm24,50Sí0,31 kg…/gt-1187.jpg
GT-2210Tijeras para setos, hoja ondulada39,00No1,10 kg…/gt-2210.jpg
GT-3305Pala de mano, acero inoxidable9,80Sí0,18 kg…/gt-3305.jpg
GT-4120Manguera de jardín 25 m, 1/2"42,00Sí2,90 kg…/gt-4120.jpg

El archivo del ejemplo tiene 1.236 productos de 52 páginas de lista.

Una parte del código

def product_links(list_url: str) -> Iterator[str]:
    """Enlaces a las páginas de producto de todas las páginas de la lista, siguiendo 'Siguiente'."""
    url: str | None = list_url
    while url:
        page = fetch(url)
        for card in page.select("div.product-card a.title"):
            yield urljoin(url, card["href"])
        next_link = page.select_one("a.pagination-next")
        url = urljoin(url, next_link["href"]) if next_link else None


def fetch(url: str) -> BeautifulSoup:
    """Una página abierta, a un ritmo prudente: una pausa entre peticiones y algunos reintentos si hay errores."""
    for attempt in range(3):
        time.sleep(settings.delay_seconds)
        response = session.get(url, timeout=30)
        if response.status_code == 200:
            return BeautifulSoup(response.text, "html.parser")
        log.warning("%s respondió %s, intento %d de 3", url, response.status_code, attempt + 1)
    raise ScraperError(f"{url} no se abrió tras 3 intentos")

Archivos: un archivo ZIP con scraper.py, settings.ini (la página inicial, la pausa entre peticiones, el nombre del archivo), requirements.txt y un README sobre cómo instalarlo y ejecutarlo. Solo lee páginas abiertas, una cada 2 segundos, y antes consulta el robots.txt de la web. El cliente lo ejecuta en su propio ordenador.

Cliente: una tienda de jardinería en línea que revende las herramientas de un proveedor; el proveedor tiene un catálogo abierto en su web, pero ningún archivo con la lista de precios. Tarea: recorrer las páginas de lista del catálogo, abrir cada página de producto y guardar en Excel la referencia, el nombre, el precio, la disponibilidad, el peso y el enlace de la foto principal, para comparar precios una vez por semana.

El cliente y todos los datos son ficticios.

Acerca de este servicio

Para un estudio de mercado o una lista de posibles socios, este parser copia un directorio de empresas abierto en una tabla: nombre de la empresa, categoría, ciudad, dirección, enlace a la web, descripción breve, horario y el enlace a la página de la empresa en el directorio. No recoge contactos personales: ni nombres de propietarios, directivos o empleados, ni correos, ni teléfonos, así que la tabla no es una lista para enviar correos ni para llamar. Envíenos la web del directorio, una página de categoría, una página de empresa y una o dos páginas guardadas desde su navegador. Recibe código Python, un archivo de configuración y un README y lo ejecuta en su ordenador. Lee páginas abiertas a un ritmo prudente, nunca inicia sesión ni se salta captchas o protecciones, y no lee Google Maps, LinkedIn ni redes sociales. Usted decide si las condiciones de la web lo permiten; un cambio posterior de su estructura requiere una actualización.

Qué incluye

  • Qué recibeUn archivo ZIP con el código Python, un archivo de configuración y un README con instrucciones paso a paso; el código también se muestra en la página del pedido.
  • Empresas, no personasSin nombres, correos ni teléfonos
  • Categoría y ciudadEn columnas separadas para filtrar
  • Enlace a la webPara visitar la propia web de cada empresa
  • Ritmo prudenteUna pausa entre páginas, fijada en la configuración
  • Se ejecuta en su ordenadorWindows, macOS o Linux, con Python

Cómo funciona

  1. 1
    DirectorioUsted da el directorio, una categoría y una página de empresa guardada
  2. 2
    ParserEscribimos el código y la guía para ejecutarlo
  3. 3
    EjecuciónLo ejecuta y compara las primeras empresas con la web
  4. 4
    CambiosPide cambios dentro de su paquete y nos envía cualquier mensaje de error

Qué necesitamos de usted

La web del directorio y las páginas exactas: un enlace a una categoría (y ciudad, si la web tiene ese filtro) y a una página de empresa, y cuántas empresas hay aproximadamente. Los campos en el orden de su tabla, p. ej., nombre, categoría, ciudad, dirección, web, descripción. Una o dos de esas páginas guardadas desde su navegador (Archivo > Guardar página como) o capturas. CSV o Excel.

Le preguntaremos:

  • ¿Qué directorio y qué páginas?
  • Categorías y ciudades
  • Los campos que necesita
  • ¿Cuántas empresas aproximadamente?

Comparar paquetes

PaquetesBásicoEmpresas desde sus enlaces22 US$EstándarUna categoría, todas las empresas42 US$PremiumHasta 3 directorios75 US$
Plazo1 día2 días3 días
Cambios123
Webs11hasta 3
Tipos de página12 (lista de categoría y página de empresa)hasta 3
Camposhasta 10hasta 25hasta 25 en cada una
Recorre las páginas de una listaNoSíSí
Archivo de resultadosCSVExcel o CSVExcel, CSV o JSON
Duplicados eliminados, reanuda donde se detuvoNoNoSí
Hacer pedido BásicoHacer pedido EstándarHacer pedido Premium

Protección de pago

Usted paga al hacer el pedido, pero el dinero solo se libera por un trabajo aceptado.

  • Precio fijoEl precio del paquete no cambia después del pago.
  • El dinero queda reservadoAl pagar, el importe solo queda reservado. Pasa a Dleex cuando usted acepta el trabajo.
  • Revisado antes de la entregaCada resultado pasa un control de calidad antes de llegar a usted, y lo ve en la página del pedido antes de aceptarlo.
  • Cambios gratuitosSolicite cambios dentro de su brief tantas veces como permita el paquete.
  • Aceptación a los 3 díasSi en los 3 días siguientes a la entrega no acepta el trabajo ni solicita cambios, se acepta automáticamente. Si escribe en el chat del pedido después de la entrega, el pedido queda en espera; cuando le respondamos, podremos reiniciar el plazo de 3 días y se lo indicaremos en el chat.
  • Rehacer el trabajo o reembolso totalSi el resultado no se ajusta a su brief y los cambios no lo resolvieron, o el trabajo tarda más del doble de su plazo, escriba en el chat del pedido: rehacemos el trabajo o le reembolsamos el pago íntegro.
Cómo funciona →

Preguntas y respuestas

¿Puede recoger correos y teléfonos para contactar con las empresas?

No. Los correos y teléfonos a menudo llevan a una persona, y las listas para enviar correos o llamar están sujetas a las leyes de protección de datos, así que el parser los omite. El enlace a la web le permite contactar con cada empresa como esta ofrezca.

¿Puede leer Google Maps o LinkedIn?

No. Google, LinkedIn, Amazon y las redes sociales quedan fuera: sus condiciones lo prohíben y sus páginas contienen datos de personas.

¿Puede abrir la propia web de cada empresa para más datos?

No. La web de cada empresa es un sitio distinto con sus propias páginas, así que el parser se queda dentro del directorio y guarda el enlace a la web.

¿Está permitido copiar un directorio?

Los directorios suelen proteger sus fichas en sus condiciones, y las leyes de datos cambian según el país, así que usted decide si puede recoger y usar los datos. Tras un cambio de estructura del directorio, el parser necesita una actualización.

¿No encontró su respuesta?

Paquetes