손으로 옮겨 적던 일을 프로그램이 합니다
자료가 여러 사이트에 흩어져 있으면, 사람이 하나씩 열어 보고 엑셀에 옮겨 적게 됩니다. 그리고 그 일은 다음 날 처음부터 다시 시작됩니다.
공개 사례 12건 · 2024–2026
모으는 것보다 끝까지 모으는 것이 어렵습니다.
한 번 훑어 오는 것은 어렵지 않습니다. 문제는 그다음입니다. 중간에 응답이 끊기고, 화면 구조가 바뀌고, 사이트마다 항목 이름이 다릅니다. 끊긴 자리를 이어 붙이지 못하면 그날 수집은 절반짜리가 됩니다 — 그런데 절반인지 전부인지는 표만 봐서 알 수 없습니다.
-
몰아치지 않습니다
요청 사이에 간격을 두고, 연속으로 실패하면 정해진 횟수에서 멈춥니다. 빈 데이터를 계속 쌓는 것보다 멈추는 편이 낫습니다.
-
같은 기준으로 셉니다
사이트마다 항목 이름과 단위가 다릅니다. 모아 놓고 그대로 더하면 숫자가 서로 다른 것을 세게 됩니다. 기준을 먼저 맞추고 셉니다.
-
어디까지 했는지 남깁니다
오래 걸리는 수집은 진행이 보이지 않으면 멈춘 것과 구분되지 않습니다. 중간에 끊겨도 처음부터 다시 받지 않도록 자리를 남깁니다.
-
받는 사람이 바로 쓰게 만듭니다
결과는 엑셀이나 화면으로 냅니다. 도구는 파이썬을 설치하지 않고도 쓸 수 있도록 실행 파일로 넘깁니다.
만들어 드린 것.
각 사례에 맡기기 전 상황과 결과, 그리고 실제 화면을 함께 실었습니다.
-
크리에이터를 눈대중으로 고르지 않게 만든 수집·채점 시스템
인플루언서 프로필을 자동으로 모아 정량 지표만으로 점수를 매기고 등급을 나눕니다. 고르는 사람의 감이 아니라 기준이 판단합니다.
크리에이터 선별 지표를 사람이 비교 에서 정량 4항목 합산·등급 산정 (으)로
-
미국·브라질 유통 플랫폼 12곳의 제품 리뷰를 한 파이프라인으로
글로벌 리서치 기업의 의뢰로 북미·중남미 주요 유통 플랫폼과 가전 브랜드 자사몰에서 제품 리뷰를 수집했습니다. 플랫폼마다 자료를 내주는 방식이 달라 수집 설계 자체가 과제였습니다.
수주 1차 계약 에서 3차 연속 수주 (으)로
-
매일 손으로 검색하던 뉴스 모니터링을 없앤 알림 플랫폼
담당자가 직접 검색해 추리던 키워드 뉴스를 자동으로 모으고, 카카오톡과 이메일로 즉시 알리는 플랫폼을 구축했습니다.
뉴스 확인 방식 담당자가 직접 검색 에서 발생 즉시 자동 알림 (으)로
-
케이블 TV 편성 현황을 자동으로 모아 보고하는 플랫폼
편성표를 손으로 취합해 엑셀로 그래프를 만들던 일을, 자동으로 모아 화면에서 바로 보는 구조로 옮겼습니다.
수기 작업 시간 4시간 이상 에서 1분 이내 (으)로
-
5개 플랫폼에 흩어진 인플루언서 성과를 광고주 보고서 한 장으로
다른 업체가 파이썬 데스크톱 앱으로 만들다 멈춘 것을, 사용자 자신이 로그인한 브라우저 안에서 도는 크롬 확장으로 다시 세웠습니다. 값이 잡히지 않던 다섯 플랫폼이 모두 열렸습니다.
정상 수집 플랫폼 5곳 중 1곳 에서 5곳 (으)로
-
허가 없이 브랜드명을 달고 팔리는 상품의 판매처를 찾아내는 수집
공공 문화재단의 저작권·상표 보호 업무를 위해, 온라인 쇼핑몰에서 재단 브랜드명을 달고 팔리는 상품의 판매처를 자동으로 모았습니다. 상품이 아니라 판매처 단위로 셉니다.
판매처 확인 검색 결과 개별 확인 에서 전 페이지 자동 수집 (으)로
-
쿠팡·네이버·카페24에 흩어진 판매 현황을 한 화면으로
상점마다 따로 들어가 받아오던 주문 데이터를 세 플랫폼에서 자동으로 모아, 같은 기준으로 세어 한 화면에 세웠습니다.
판매 현황 확인 플랫폼 3곳 · 상점별로 따로 에서 한 화면 · 자동 수집 (으)로
-
단지를 고르면 매물 상세가 엑셀로 정리되는 수집 프로그램
매물을 하나씩 열어 옮겨 적던 일을, 관심 단지를 고르고 실행하면 매물 상세가 자동으로 모여 엑셀 두 종류로 떨어지도록 만들었습니다. 파이썬을 설치하지 않아도 실행파일 하나로 돌아갑니다.
단지 매물 상세 확인 매물마다 화면을 열어 확인 에서 단지 선택 후 실행 1회 · 엑셀 정리 (으)로
-
게시판 19개를 훑어 공고를 모으고 제자리에 올리는 도구
여러 곳에 흩어져 올라오는 구인 공고를 자동으로 모아, 정한 카테고리로 자사 사이트에 올립니다. 어느 게시판에서 몇 건을 가져왔는지가 화면에 남습니다.
공고 취합 게시판 19곳을 직접 확인 에서 발견 318건 전건 수집 (으)로
-
증권사마다 흩어진 파생결합증권 공시를 비교 가능한 표 한 장으로
증권사별 ELS·ELB 상품 정보를 자동으로 모아, 문장으로 적힌 상품 구조를 만기·주기·조기상환 조건 열로 갈라 하나의 표에 세웁니다.
상품 비교 증권사마다 따로 확인 에서 한 표에서 조건별로 (으)로
-
정부 지원사업 공고를 하루 세 번 모아 키워드로 알려 줍니다
흩어진 공공 기관 네 곳에서 공고를 자동으로 모으고, 등록한 키워드에 걸리는 것만 골라 알립니다. 마감이 지난 뒤에 알게 되는 일을 없애려고 만들었습니다.
지원사업 공고 확인 기관 사이트를 돌며 직접 찾음 에서 하루 세 번 자동 수집 · 키워드에 걸리면 알림 (으)로
-
인도 정부 투자 포털의 프로젝트 19,889건을 41개 항목으로
인도 전역의 투자 프로젝트가 올라오는 정부 포털에서 전체 프로젝트를 모으고, 흩어져 있던 상세 정보를 41개 항목의 표 하나로 세웠습니다. 담당자가 쓸 수 있도록 실행 파일로 넘겼습니다.
수집 건수 프로젝트 개별 조회 에서 19,889건 · 41개 항목 (으)로
이 주제로 자주 묻는 것
- 웹 크롤링, 어디까지 되나 — 합법적으로 데이터 수집하는 기준 4가지 결론부터: 크롤링은 합법적으로 할 수 있습니다. 기준은 「서비스 제공자가 접근권한을 제한했는가」입니다.
- 뉴스 모니터링 자동화 — 회사 이름이 나온 기사를 바로 받아 보는 법 결론부터: 키워드 뉴스를 자동으로 모아 알림받는 일은 충분히 만들 수 있습니다. 고를 것은 셋, 정할 것은 넷입니다.
- 엑셀에 옮겨 적는 일, 자동화할 수 있습니다 — 판별 기준 3가지 결론부터: 규칙이 정해져 있고 반복되는 일은 전부 자동화 대상입니다. 특수해 보이는 이유는 대개 규칙을 아직 글로 정리하지 않았기 때문입니다.
하지 않는 것.
대상 사이트의 이용약관과 개인정보 보호가 먼저입니다. 무엇을 어디까지 가져올지는 일을 맡기신 분과 먼저 정합니다. 이 페이지의 사례에서도 고객과 개인을 특정할 수 있는 부분은 가렸고, 무엇을 가렸는지 각 화면 설명에 적어 두었습니다.
필요한 자료가 웹이 아니라 앱 안에만 있는 경우도 있습니다. 그때는 앱 크롤링 쪽입니다.
모을 사이트 목록만 있으면 됩니다.
어느 사이트에서 어떤 항목이 필요한지 알려주시면, 가능한지와 어떤 형태로 받으실지 먼저 정리해 드리겠습니다.
회신 영업일 1일 이내