一、案例背景与采集目标
做研究的第一步往往不是写,而是读。要弄清一个问题被研究到什么程度,最省力的办法是按关键词把相关文献捞出来,摆成一张能被筛选、能被排序的清单。挑题目、找综述、看谁在引用谁,靠的都是这张清单。
本科阶段最常用的中文文献检索入口是中国知网(CNKI),主站是 https://kns.cnki.net/kns8s/defaultresult/index?kw=数据采集 ,检索结果页会一屏列出几十条文献记录。每条记录都带着题名、作者、来源、发表日期,点进详情页还能看到关键词、基金、摘要。这一篇就把采集任务实实在在地落在中国知网的检索结果页上,站点、网址、字段都写清楚。
1.1 这个案例要拿到什么
- 在中国知网检索结果页按关键词检索,把前几页的条目取回;
- 取回每篇文献的题名、作者、作者机构、来源(期刊或会议)、发表年份;
- 取回关键词、基金、被引量、下载量这些知网特色的计量字段;
- 取回摘要(表格里截断,完整摘要另存)与DOI 或原文链接;
- 把全部条目整理成一张带表头的文献清单表,并另存一份可导入文献管理软件的清单。
1.2 这个案例的难点在哪里
文献元数据看起来简单,实际有三处特别容易翻车,务必先有心理准备。
| 难点 | 具体表现 | 为什么难 |
|---|---|---|
| 同一检索页字段不齐 | 有的条目带基金、带被引量,有的条目这几项是空的 | 字段要能对上,缺的地方要留空而不是错填 |
| 摘要又长又带格式 | 一篇摘要常有三四百字,还夹着数学符号与换行 | 直接塞进单元格会撑爆表格,必须约定截断规则 |
| 被引与下载口径不同 | 被引量按知网收录范围统计,下载量按全文下载次数统计 | 必须注明「数值来自知网、截至哪天」,否则没法比 |
目标站点与交付产物
下表是本篇用到的真实站点。绿色是课堂可稳定复现的示范站点;橙色是延伸站点,多数有登录墙或风控,课堂上只讲结构、原理与合规边界,不教绕过。
| 项目 | 内容 |
|---|---|
| 示范站点 | 中国知网 · 文献检索页(关键词:数据采集) https://kns.cnki.net/kns8s/defaultresult/index?kw=数据采集 中文文献元数据字段完整;开放获取预印本可作无版权争议的补充源 |
| 延伸站点 |
|
| 交付产物 |
|
| 难度 | ★★☆ 中 |
| 合规提示 | 只采公开元数据用于计量分析;严禁批量下载受版权保护的全文 PDF,不得绕过机构订阅限制。引用须完整标注来源。 |
二、数据源与字段设计
示范站点固定为中国知网的文献检索结果页,延伸站点再给出几个可以补充的公开源。注意:知网的部分计量字段(被引、下载)在页面上是动态展示的,采集前要先确认取得到。
2.1 目标站点信息
| 站点全称 | 网址 | 页面形态与接口 | 规模与角色 |
|---|---|---|---|
| 中国知网 CNKI · 文献检索(关键词:数据采集) | https://kns.cnki.net/kns8s/defaultresult/index?kw=数据采集 | 检索输入框 + 结果列表页 + 详情页;列表直接列出题名、作者、来源、日期,详情页补充关键词、基金、摘要 | 收录中文期刊、学位论文、会议论文数千万条,是最主流的检索入口 |
| arXiv 预印本 | https://arxiv.org/ | 检索结果页 + 摘要页,元数据结构规整,可直接取 | 全开放,理工科预印本数百万篇,无版权争议 |
| 国家哲学社会科学文献中心 | https://www.ncpssd.org/ | 免费开放的中文社科文献检索,列表 + 详情 | 免费开放,适合作为补充源 |
| 万方数据知识服务平台 | https://www.wanfangdata.com.cn/ | 中文文献检索结果页,字段与中国知网接近 | 中文期刊、学位论文、会议论文 |
2.2 完整字段表(14 个字段)
| 字段名 | 字段含义 | 示例值 | 口径与备注 |
|---|---|---|---|
序号 | 清单中的顺序 | 1 | 采集时自动生成,从 1 开始 |
题名 | 文献标题原文 | 面向短文本分类的预训练语言模型微调方法 | 保持原文,不要翻译或改写 |
作者 | 全部作者 | 张伟;李娜;王强 | 多作者统一用中文分号分隔 |
作者机构 | 第一作者单位 | 华南理工大学计算机科学与工程学院 | 多单位时只取第一单位,其余另存 |
来源 | 期刊名或会议名 | 计算机学报 | 缺就留空,不要填「未知」 |
发表年份 | 发表或出版年份 | 2024 | 只要四位年份,便于排序统计 |
卷期页码 | 卷、期、页码 | 47(6):1234-1250 | 知网详情页有;没有就留空 |
关键词 | 作者给出的关键词 | 短文本分类;预训练模型;微调 | 多关键词用分号分隔 |
基金 | 资助基金名称与编号 | 国家自然科学基金(62076123) | 没有基金就留空,不要臆造编号 |
摘要 | 摘要正文(截断) | 针对短文本特征稀疏问题,本文提出…… | 表格存前 120 字,完整摘要另存 |
被引量 | 知网统计的被引次数 | 37 | 数值来自知网,注明统计日期 |
下载量 | 知网统计的全文下载次数 | 2864 | 数值来自知网,注明统计日期 |
DOI/链接 | 数字对象标识或原文地址 | 10.11897/SP.J.1016.2024.01234 | 写成可点击的完整地址 |
文献类型 | 期刊论文 / 会议论文 / 学位论文 | 期刊论文 | 依页面公开的类型标注填写 |
2.3 三条字段口径要点
- 作者分隔符统一。中文库常用「,」,英文预印本常用「, 」外加
and连接。约定一个:中文文献用分号,英文文献也用分号,全表一致,将来拆「第一作者」或数「合作者数量」时才不会乱。 - 摘要分两层存。表格里只放前 120 个字符(够你扫一眼判断相关性),完整摘要另存到一个文本文件里,按序号一一对应。这样表格清爽,需要深读时再去看全文。
- 被引量与下载量必须带时间戳。这两个数每天都在涨,今天 37 明天 41。清单里要额外加一列「计量统计日期」,写明「截至 2026-10-08,来源为中国知网」。
AI 助手小贴士|文献元数据里最容易「看着像有、其实取不到」的就是被引量与下载量——它们在知网详情页常常是动态加载的。先问清楚再决定要不要把它列进字段表。
打开 WorkBuddy 或任意 AI 对话工具,试试这样问:请在中国知网这个检索结果页上确认:题名、作者、作者机构、来源、发表年份、关键词、基金、摘要、被引量、下载量、DOI 这十一个字段,哪些在列表页就能取到,哪些必须进详情页,哪些取不到?取不到的先不要采集。
课程思政|工匠精神与严谨求实 · 清单准确,综述才站得住
一位作者名字写错、一个年份记成相邻的一年,看起来是小毛病,写进综述里就可能把一条研究脉络讲反。做文献清单比做新闻清单更讲究「一个字都不能错」:作者名、卷期号、年份都要逐个核对。严谨不是天赋,是把核对变成习惯。
三、零代码操作步骤
工具与技能|先看清三个角色,再动手
本篇全程零代码:你把要求说清楚,AI 去执行,你负责验收。三个角色分工如下——浏览器技能指的是腾讯开源的 BrowserSkill,它能让 AI 直接操作你电脑上真实的浏览器(可复用已经登录的状态),自己开一个独立窗口干活,不打扰你正在看的网页;遇到验证码、登录或确认弹窗,它会停下来交给你本人处理。
| 角色 | 负责什么 | 在本案例里具体做什么 |
|---|---|---|
| 你 | 确认字段清单、验收结果、清洗与合规把关 | 盯字段清单、核对结果、处理异常(如验证码) |
| WorkBuddy | 接中文指令:探字段 → 批量采 → 清洗 → 导出交付物 | 拆解本篇的采集任务并跑完全量、产出交付物 |
| 浏览器技能 BrowserSkill | 以真实浏览器打开页面:跑脚本渲染、滚动 / 翻页 / 点开详情、截图留证;可复用本机浏览器已登录状态,遇到验证码或登录弹窗会停下来交给你处理 | 打开知网检索页,先探清能取到哪些字段再动手 |
五步操作主线(全课程统一,每一篇都按这个顺序推进):
- 定目标与字段:先看本篇第二节的字段表,把「要哪几列、每列什么口径、要多少条」说清楚——字段清单就是验收标准,说不清就会拿回一张字段乱七八糟的表。
- 现场踩点(浏览器技能 BrowserSkill):打开
https://kns.cnki.net/kns8s/defaultresult/index?kw=数据采集,先让它「探一探」:每条文献能取到哪些字段、各给一个示例值。先不要采集。 - 小样试采(WorkBuddy):按探出来的字段表小批试采 5 条。
- 核对与清洗:① 取不到的字段有没有从清单里删掉(别硬凑);② 年份是「2024」还是「2024年3月」;③ 有没有绕过登录墙或验证码(这一条是红线)。
- 导出与归档:导出交付物(数据明细表 / 可筛选明细页 / 数据看板 / 可复用的技能包),文件名带上采集日期,并写清数据来源、采集时间与已知局限。
用浏览器技能 BrowserSkill 打开 https://kns.cnki.net/kns8s/defaultresult/index?kw=数据采集(中国知网 · 文献检索页(关键词:数据采集)),把这一页每条记录能采到的字段名和示例值列出来,先不要采集。本案例的操作主线是「先探字段,再小批试采,最后定口径导全量」。全部动作都在 WorkBuddy 对话里完成,你只需把中国知网的检索页地址和字段要求讲清楚。
- 打开中国知网
https://kns.cnki.net/kns8s/defaultresult/index?kw=数据采集,输入关键词(例如「短文本分类」)完成一次检索,把检索结果页的网址复制下来。 - 在 WorkBuddy 里新建对话,把检索结果页地址和关键词一起给它,先让它「探一探」:这个页面上每条文献能取到哪些字段、各给一个示例值,先不要采集。
- 根据探字段的结果锁定字段表。取不到的字段就从清单里删掉,别硬凑;能取到的字段确认示例值形态(例如年份是不是「2024」而不是「2024年3月」)。
- 小批试采 5 条。让它按字段表只采前 5 条,先在对话里给出一张表,不要导出。
- 逐列核对试采结果。重点看三处:作者有没有被截断、关键词有没有带多余空格、DOI 链接点得开吗。有问题立刻追加修正指令。
- 放开到全量。确认无误后说「按同样口径采集前 3 页全部结果,最多 50 条,每条间隔 1 秒」。
- 导出并归档。要求导出为
refs_短文本分类_20261008.xlsx,并把完整摘要另存为文本文件。 - 打开文件最终验收。数行数、看列序、抽查 3 条的年份与 DOI 是否真实可开。
请先只保留题名或关键词中出现「短文本分类」的文献,其余条目先不采集,并告诉我粗筛前后的条数分别是多少。四、提示词模板与追问技巧
文献采集的提示词要把检索条件、字段清单、摘要规则、计量口径四件事一次说透。下面这段可以直接复制,只需把检索词换成你要的——网址就是中国知网的检索结果页。
请帮我完成一个学术文献元数据采集任务。
【目标站点】中国知网 CNKI 文献检索,检索页 https://kns.cnki.net/kns8s/defaultresult/index?kw=数据采集
【检索条件】关键词:短文本分类;时间范围:近五年
【采集范围】检索结果前 3 页,最多 50 条
【需要字段】按这个顺序:
1. 序号(从 1 开始)
2. 题名(原文,不要翻译、不要改写)
3. 作者(全部作者,多位用中文分号分隔)
4. 作者机构(只取第一作者单位)
5. 来源(期刊名或会议名,没有就留空)
6. 发表年份(只要四位数字,例如 2024)
7. 卷期页码(例如 47(6):1234-1250,没有就留空)
8. 关键词(多个用分号分隔)
9. 基金(基金名称与编号,没有就留空)
10. 摘要(只取前 120 个字符,多余部分用「…」省略)
11. 被引量(并注明来源与统计日期)
12. 下载量(并注明来源与统计日期)
13. DOI/链接(完整地址)
14. 文献类型(期刊论文 / 会议论文 / 学位论文)
【执行要求】
1. 先只采前 5 条给我看,字段顺序按上面来,我确认后再采全量
2. 只采公开的元数据,不要下载任何全文 PDF
3. 每条之间间隔 1 秒以上
4. 结果先在对话里给表格预览,确认后导出 refs_短文本分类_20261008.xlsx
5. 另外把每条的完整摘要单独存成 refs_摘要_20261008.txt,按序号排列
4.1 三条常用追问指令
追问一(补作者与机构):
第 3 条的作者只显示了第一位,请把全部作者补全;
如果页面上本来就只公开了第一位,请照实说明,不要猜。
追问二(摘要展开):
表格里的摘要被截断到 120 字,请另外给我一份完整摘要,
每条前面标上序号,和表格里的序号一一对应。
追问三(计量口径):
请说明第 11、12 列「被引量」「下载量」具体来自哪个平台的统计、
统计日期是哪一天,并把这个说明写进表头的备注里。
如果你想把它做成标准的文献管理格式,也可以追一句,让 WorkBuddy 按 BibTeX 的字段名整理出条目文本。本案例不要求真的导出 .bib 文件,但知道「元数据可以一键转成 BibTeX」这件事,对你以后用文献管理软件很有帮助。
请把这张表里的每一条,按 BibTeX 常见字段(title、author、year、
journal、doi)整理成条目文本,先给我看前三条,不要生成文件。
AI 助手小贴士|检索结果里常混着综述、会议论文、学位论文。可以追问一句让 WorkBuddy 加一列文献类型,方便你后面按类型筛。
打开 WorkBuddy 或任意 AI 对话工具,试试这样问:请给结果加一列「文献类型」(期刊论文 / 会议论文 / 学位论文 / 预印本),依据是中国知网页面上公开的类型标注。
五、结果核对、清洗与保存
下面是 WorkBuddy 从中国知网检索结果页返回的结果样例(节选,数据为示例):
| 序号 | 题名 | 作者 | 来源 | 发表年份 | 关键词 | 被引量 | 下载量 |
|---|---|---|---|---|---|---|---|
| 1 | 面向短文本分类的预训练语言模型微调方法 | 张伟;李娜;王强 | 计算机学报 | 2024 | 短文本分类;预训练模型;微调 | 37 | 2864 |
| 2 | 融合知识图谱的中文短文本语义表示 | 陈明;赵磊 | 软件学报 | 2023 | 知识图谱;短文本;语义表示 | 52 | 1930 |
| 3 | 基于注意力机制的文本分类综述 | 刘洋;孙倩 | 中文信息学报 | 2022 | 注意力机制;文本分类;综述 | 128 | 5120 |
5.1 四步清洗,一句话一条
① 去空格与换行:
请把每列单元格内容去掉首尾空格,并去掉摘要里的多余换行。
② 统一年份:
请把「发表年份」列全部改成四位数字,去掉「年」字与月份,
例如「2024年3月」改成「2024」。
③ 统一作者与关键词分隔符:
请把「作者」「关键词」列里的分隔符统一成中文分号「;」,
空格和逗号都换成分号,不要出现两种分隔符。
④ 补计量统计日期:
请新增一列「计量统计日期」,统一填今天的日期,
并在表头备注里写明被引量、下载量来自中国知网。
5.2 按年份或来源做一个小统计
一张文献清单如果只用来读,价值有限;随手做个小统计,就能看出一个领域的热度变化。让 WorkBuddy 按下面的方式各出一张小表。
- 按年份计数:统计每年有多少篇,画一条折线,看这个方向是不是越来越热。
- 按来源计数:统计每个期刊贡献了几篇,找出这个领域的高产阵地。
- 按被引量排序:把清单按被引量降序排,前几篇通常就是这个方向的核心文献。
请基于清洗后的清单,给我三张小表:
1. 按「发表年份」分组,统计每年的文献数量;
2. 按「来源」分组,统计每个来源的文献数量,降序排列;
3. 把清单按「被引量」降序排列,取前 5 条展示题名与作者。
5.3 保存与归档
refs_短文本分类_20261008.xlsx ← 清单主表(元数据 + 截断摘要)
refs_摘要_20261008.txt ← 完整摘要,按序号对应
refs_统计_20261008.xlsx ← 年份 / 来源 / 被引三张小表
refs_20261008_log.txt ← 采集日志:检索词、页数、条数、失败项
AI 助手小贴士|清单交付前,让 AI 做一次「自检」:把作者为空、年份为空、DOI 为空的条目单独列出来,你只需要看一眼这几条,而不用逐行扫全表。
打开 WorkBuddy 或任意 AI 对话工具,试试这样问:请把清单里「作者为空」「发表年份为空」「DOI 为空」的条目单独列成一张表给我,其余条目不用重复展示。
课程思政|诚信与职业操守 · 清单也是证据
你交上去的文献清单,别人会拿它去判断「这个方向有谁研究过」。如果里面混了写错的作者名、错位的年份,别人顺着你的清单去找,可能会扑空。把清单做准,就是对同行时间的尊重,也是对自己信誉的积累——数据工作者的口碑,正是靠一个个准确的小数字堆起来的。
六、常见问题与合规红线
6.1 五个高频问题
| 现象 | 原因 | 怎么处理 |
|---|---|---|
| 摘要撑爆单元格,表格完全没法看 | 摘要原文太长且带换行 | 约定截断字符数(如 120),完整摘要另存文本 |
| 作者只采到第一位 | 知网列表页默认折叠,须进详情页才显示全部 | 要求「进详情页取全部作者;页面未公开就照实说明」 |
| 被引量、下载量一列全是 0 或空 | 该字段在详情页动态加载,列表页里没有 | 先确认能不能取;取不到就删掉该字段 |
| 年份出现「2024年3月」这类混合格式 | 页面原文如此 | 统一切成四位年份,月份另列或舍去 |
| DOI 只给了编号不是完整链接 | 只给了数字对象标识 | 要求补成 https://doi.org/ 开头的完整地址 |
6.2 三条合规红线
- 只取公开元数据。题名、作者、来源、年份、关键词、摘要属于公开的目录信息;受版权保护的全文 PDF 不批量下载、不转发。
- 控制频率、注明来源。知网对高频访问敏感,请求之间要留间隔;引用的被引量、下载量要注明来自中国知网、统计到哪一天。
- 用于学习与研究。采集结果用于课堂作业、文献综述;公开分享时只给统计结论,不打包扩散原始摘要文件。
课程思政|数据安全与法治素养 · 正规渠道,才是长久之计
绕过付费墙去下载别人的全文,看起来省了几步,实际上既侵犯了出版方的权利,也把自己置于风险之中。真正高效的做法是:用这张清单定位到关键文献,再通过学校图书馆、开放获取版本、作者主页这些正规渠道去读。用对方法,比抄近路更可靠。
七、随堂自测(10 题)
点击选项即可判分,答错的题会立刻显示解析。
1做文献采集时,下面哪一类内容属于本案例所说的「可以采集的公开元数据」?
- A. 文献的题名、作者、来源、年份、摘要
- B. 受版权保护的全文 PDF
- C. 需要机构账号才能看的正文
- D. 中国知网的付费订阅内容
2清单里「被引量」这一列,为什么必须注明来源和统计日期?
- A. 因为不同平台算法不同、数字每天都在变,不注明就没法比
- B. 这样表格看起来更专业
- C. 因为中国知网要求必须标注
- D. 因为这样可以多占一列
3一篇文献的摘要有三四百字,塞进单元格后表格被撑爆,最合理的处理是?
- A. 把整个摘要删掉
- B. 把摘要压缩成一句话
- C. 表格里只留前 120 字左右,完整摘要另存文本文件
- D. 把摘要拆成多行放在同一格
4抓取结果里年份出现「2024年3月」这种写法,应该怎么处理?
- A. 原样保留
- B. 改成「2024」这样的四位年份,便于排序统计
- C. 把整行删掉
- D. 改成「2024-03-01」补全日期
5中文库和英文预印本平台字段不一样,正确的做法是?
- A. 强行把两边字段凑成一样,缺的就编一个
- B. 按统一的字段表对齐,取不到的字段留空,不要错填
- C. 只采其中一边
- D. 把英文文献丢掉
6想快速看出一个研究方向的文献是否越来越热,最直观的做法是?
- A. 逐篇读摘要
- B. 统计被引量总和
- C. 按年份分组统计文献数量并画折线
- D. 按作者姓名拼音排序
7关于文献全文 PDF,本案例的做法是?
- A. 批量下载全部 PDF 存档
- B. 不批量下载,需要时通过正规渠道阅读
- C. 下载后再转成文字入库
- D. 把 PDF 上传到公开网盘分享
8采集前先让 WorkBuddy 在中国知网页面上「探字段」的价值主要在于?
- A. 让对话看起来更完整
- B. 可以少采几条
- C. 能让采集速度更快
- D. 提前确认哪些字段取得到,避免字段表里列了取不到的东西
9结果里的「作者」列,同一条文献的作者用什么统一分隔最合适?
- A. 中文用顿号、英文用逗号,混着来
- B. 用换行分隔
- C. 不加分隔,直接连写
- D. 统一用一种分隔符(如分号),全表一致
10想让清单里每条元数据一键转成文献管理软件能识别的格式,通常用哪种?
- A. HTML
- B. JSON
- C. BibTeX
- D. CSV