网页爬虫可以做到什么程度 — 合法收集数据的 4 个标准
网页爬虫可以合法进行。 대법원 在 2021도1533 判决中,针对从竞争对手 App 的 API 服务器收集信息的行为,对起诉的三个罪名 — 违反 정보통신망법、利用计算机等妨害业务(컴퓨터등장애업무방해)、违反 저작권법 — 全部判决无罪。判断的关键在于对象与方法,共三个方面。
| 类别 | 依据条文 | 设计时确认事项 |
|---|---|---|
| 访问权限 | 정보통신망법 §48① | 是否有登录·验证码等保护措施,用户条款是否禁止收集 |
| 个人信息 | 개인정보보호법 §15① | 是否包含姓名·联系方式。若包含,先确定法律依据 |
| 作品·数据库 | 저작권법 §16, §93①② | 是复制全部后再加工,还是只使用所需的部分 |
① 访问权限 — 是否进入了受限区域
정보통신망법 제48조 제1항 禁止“无正当访问权限,或超出被允许的访问权限入侵信息通信网络“。
何为“受限区域”,대법원 已给出判断标准。
服务提供者是否限制了访问权限,应综合考量保护措施、用户条款等客观呈现的多种情况,审慎作出判断。
— 대법원 2022. 5. 12. 선고 2021도1533
robots.txt 不是保护措施。 标准(RFC 9309)本身明确指出它“不能替代有效的内容安全手段”。违反它并不直接构成违法,遵守它也不能保证合法。应当阅读并遵守,但不能仅凭这一点就放心。
② 个人信息 — 是否包含有关个人的信息
개인정보보호법 제15조 제1항 将可以收集·利用的情形限定列举(同意、法律的特别规定、合同的签订·履行等)。
一旦包含姓名·联系方式·地址,无论是否通过爬虫收集,都要受到单独规制。应先确定目的与法律依据,再开始收集。
③ 作品·数据库 — 收集多少
数据库制作者享有“复制、发行、广播或传输全部或相当部分的权利“(저작권법 §93①)。
这一点在实务中常被误解。单个素材不属于“相当部分”,但少量、长期地抓取并不等于没有问题 — 若反复、系统地进行,最终产生与复制相当部分相同的结果,即视为侵权(§93②)。
请告知采集对象与方式,我们将免费评估合规的采集方案与可行范围并提出建议;如考虑外包,实际数据采集项目 15 万韩元起。
三项之外需要遵守的
- 不给服务器造成负担 — 收集频率保持在人工使用的水平,并限制并发请求数。集中大量请求,就会成为妨碍第三方服务的方式。
- 不隐瞒爬虫身份 — 在 User-Agent 中注明目的与联系方式。
确认顺序
- 直接阅读目标网站的用户条款·robots.txt
- 判断收集对象是否为个人信息、是否为数据库的相当部分
- 情况复杂时,请法律专业人士审查
第 1 步排在最前是有原因的。 除法律之外,条款有时也会规定范围 — 尤其是需要登录使用的卖家·商户后台。这在法律判断之前,属于合同问题,先确认就不必事后返工。
另需说明:2021도1533 是刑事案件。 刑事上判决无罪,并不意味着不承担民事责任。
总结
大部分收集都可以正常进行。 대법원 对三个罪名全部判决无罪,原因也在于此 — 不进入受保护的区域,不涉及个人信息,不整体搬运他人的数据库,不给服务器造成负担即可。
问题通常不在于「能不能做」,而在于「能做到什么程度」。 先划清这条界线,开发完成后就不必返工。
自行判断时真正的难点不在法律解释,而在其后 — 条款没有明确规定时,对象是登录后的页面时,难以判断是否包含个人信息时。这类问题仅看条文无法判断,需要结合收集设计一起看。咨询收集设计审查,我们将按对象告知审查结果。
请告知您想收集的网站地址。
用一句话告诉我们想收集什么,我们将确认条款·robots.txt·是否涉及个人信息,并就是否可行、可行范围提出方案。是否启动开发,可在审查后决定。
参考资料
- 정보통신망법 제48조 제1항 · 개인정보보호법 제15조 제1항 · 저작권법 제16조·제93조 제1항·제2항 [确认 — 국가법령정보센터]
- 대법원 2022. 5. 12. 선고 2021도1533 [确认 — 判决书原文。被起诉的 3 个罪名全部无罪]
- RFC 9309 Robots Exclusion Protocol [确认 — IETF, 2022]
本文依据
法规已对照 국가법령정보센터 原文核实 — 정보통신망법 제48조 제1항, 저작권법 제16조·제93조 제1항·제2항, 개인정보보호법 제15조 (2026-08-16 确认)。判例为 대법원 2022. 5. 12. 선고 2021도1533(刑事,被起诉的 3 个罪名全部无罪)。robots.txt 的性质已通过 RFC 9309(IETF,2022)原文确认。