前文提要:对高校科研来说,法学院的人要查股东穿透,经管学院的人要跑供应链网络,公管学院的人在追踪企业经营异常的地理分布,区域经济课题组要几千家企业的完整工商快照。学科不同,方法不同,但他们撞上了同一堵墙,数据采集这件事本身正在吞噬研究时间。

01. 高校科研数据,一个正在发生的转变
2026年4月,中国社会科学网发了一篇文章,标题叫《社会科学研究数据爬取流程与操作要领》,文章教社科研究者怎么用Python爬虫从公开渠道采集企业数据——工商信息、司法记录、招投标公告,一条龙。文章里有一句话很能说明问题:
建议在开始写任何代码之前,围绕研究问题制定一份数据采集清单,把“要什么”和“为什么”写清楚。

这文章发在中国社科领域最有权威性的门户网站上。面向的读者不是计算机专业的学生,而是社会学、经济学、法学的教师和研究生。
换句话说:到了2026年,自己写爬虫抓数据已经成为社科研究者的标配技能之一。
不是前沿,是基本功,但这事本身就很荒谬。
一个法学教授研究企业避税行为,他的核心竞争力应该是税法解释能力和案例洞察力,而不是学会怎么绕反爬机制、怎么解析DOM结构、怎么处理JSON格式。一个经济学博士生做供应链网络分析,他的时间应该花在模型设计和因果推断上,而不是花三周时间写代码去抓几千家企业的股权结构数据。
数据采集这个环节吞噬了太多本该用于思考的时间,而且更麻烦的是自己爬的数据质量没保障——字段缺失、格式不统一、更新不及时,样本偏差悄无声息地混进了回归模型里。
要理解为什么商业数据平台会在过去几年里大规模进入高校市场,得先回过头看这条路是怎么走过来的。
02. 高校科研数据需求的二十年
①2000年之前的纯手工时代:年鉴、档案室和实地调研
把时间轴拉到足够长,会发现今天高校面临的数据困境并不是新问题,只是形式变了。
2000年以前,做中国企业研究的经济学家和管理学者,主要依赖几类数据源,统计年鉴(国家统计局出版的各省市统计年鉴)、行业白皮书(各部委发布)、上市公司年报(手工从报纸或早期网站摘录),以及最原始的方式——实地调研和问卷。

那个时代出成果的典型路径是,确定研究问题→设计问卷→实地发放→录入数据→跑分析。费时费力,但数据是自己亲手收集的,质量心里有数,这里基本可以列举几个,陈晓等人1999年关于中国股票市场的研究,李维安2000年前后的公司治理研究,基本都走的这条路线。
问题是样本量小、覆盖面窄、时间序列短,做一个省份的中小企业调研已经算大工程了,想做全国层面的面板数据研究几乎不可能。
当时还没有人觉得这是个需要被解决的问题,因为大家都是这样干活的,没有替代方案。
②数据库时代(2000-2010):CSMAR和万得改变了游戏规则
真正的转折发生在2000年前后。在这个十年里,两家机构先后出现,共同改变了游戏规则"。
一件事是CSMAR(国泰安,现更名为希施玛)的诞生,深圳国泰安信息技术有限公司在2000年开始开发中国经济金融研究数据库,定位非常明确——对标美国学术界惯用的CRSP和Compustat数据库,但针对中国市场重新设计,这是中国第一个专门为学术研究设计的企业级金融数据库。

另一件事是Wind(万得)的成立,万得信息技术股份有限公司2005年4月在上海成立,万得逻辑很简单,金融机构愿意为实时数据付高价钱,先用B端收入养数据和团队,再以极低价格甚至免费授权给高校,培养下一代用户的使用习惯。

这两家走了不同的路线,但在高校市场的效果是一样的:它们让获取企业数据从一个需要数月的手工劳动变成了几分钟的数据库查询。
CSMAR的影响尤为深远。2005年5月,摩根士丹利Barra推出MSCI中国A股指数,直接以CSMAR的数据库为计算基础,这是第一次有国际金融机构认可中国本土学术数据库的质量标准,此后CSMAR被沃顿商学院纳入其研究服务体系,成为大中华地区唯一入选的中国数据提供商。
对高校而言,CSMAR解决了一个核心痛点:标准化的财务数据+足够长的历史序列。股价、财报、公司治理指标,一查就有,而且格式统一,可以直接导入Stata跑回归,这直接推动了中国会计学和金融学实证研究的爆发式增长——2005-2015年间,国内CSSCI期刊上使用CSMAR数据的论文数量呈指数级上升。
这个时代的特征很清晰:数据=财务数据。CSMAR和万得做得最好的就是股票、债券、基金、宏观这类结构化程度高的金融数据,如果你研究的是公司治理、资本市场效率、投资组合表现,那这个时代的数据供给是充裕的。
但是思考一件事,如果你研究的课题超出了上市公司财务报表的范围呢?
③爬虫萌芽期,当研究需求跑到了数据库前面
2010年到2015年之间,一个裂缝开始显现。
一方面,中国学术研究的问题意识在快速拓宽。公司治理研究不再满足于ROE这些传统指标了,人们开始关注实际控制人的隐性关联、企业的政治关联、供应链网络的拓扑结构、企业风险行为的非财务表征。这些问题需要的不是财务数据,而是工商信息、司法记录、股权穿透、知识产权等“非标信息”。
另一方面,CSMAR和万得的产品体系仍然以金融数据为核心,它们的数据库架构在设计之初就是为了处理高度结构化的交易数据和财务报表,扩展到工商、司法、知识产权等领域并非不能做,但优先级不高——因为付费意愿最强的高校用户(金融/会计学科)暂时不需要这些东西。
需求在增长,供给跟不上,于是高校师生开始自己动手。

Python爬虫技术在2010年后逐渐成熟,requests库、BeautifulSoup、Scrapy框架降低了写爬虫的门槛。2013-2015年间,大量关于“用Python抓取企业数据”的教程开始在知乎、CSDN、GitHub上流传。一个典型的教程会教你,怎么从国家企业信用信息公示系统抓工商信息,怎么从中国裁判文书网抓司法判决,怎么从各地方政府采购网抓招标数据。
这个过程充满痛苦。公开网站的接口不稳定,今天能抓明天可能就403了;反爬机制越来越强,IP封禁是常态;数据清洗工作量巨大,因为不同来源的字段命名不一样、编码格式不一样、更新频率不一样。
但高校研究者别无选择,一位经济学博士后来回忆自己的论文数据采集过程:*“花了六周时间写爬虫,两周跑数据,一周洗数据,真正做分析只用了两周。”*六周的工程量换来的数据集,可能只有几千条记录,还不敢保证完整性。
这个阶段有一个很有意思的特征,技术门槛成为了学术研究的隐性筛选器。会写代码的学生可以拿到别人拿不到的数据,做出更有冲击力的论文。不会写代码的人只能退回到传统手搓问卷和二手数据上,这在人文社科领域制造了一种新的不平等——不是因为理论功底或文献积累的差异,纯粹是因为会不会写爬虫工具。
④就在5年前,政策催化与范式转型,让数据被重新定义
2015-2020,三个方向的合力把这个裂缝撑成了鸿沟,这是一个典型的基础设施滞后于需求爆发的问题。
第一个是政策端口,2018年3月,国务院办公厅印发《科学数据管理办法》(国办发〔2018〕17号),这份文件在国家层面首次将科学数据定义为 “国家科技创新发展和经济社会发展的重要基础性战略资源”,明确提出要加强科学数据的“开放共享”,文件由科技部牵头,面向的主要是自然科学领域的科研数据,但它释放出的信号是全领域的:数据是一种应该被管理和开放的战略资产。

紧随其后的是2020年发布的关于构建更加完善的要素市场化配置体制机制的意见,以及后续的数据二十条,数据正式被列为与土地、劳动力、资本、技术并列的第五大生产要素,虽然这些政策更多指向政府数据开放和数据交易市场建设,但对高校科研环境产生了间接但深刻的影响是,数据的价值被重新认知了,获取数据的正当性也被强化了。
第二股力量来自研究范式的转移。
计算社会科学(Computational Social Science, CSS)在这个时期开始在中国高校扎根,北京大学人工智能研究院下设计算社会科学研究中心,清华大学在国内首个将计算社会科学纳入“双一流”学科规划并形成完整的人才培养体系,中国社会科学院大学近几年成立了计算社会科学研究中心,香港中文大学2026年春季学期甚至在招收计算社会科学方向的博士研究生。
这些中心的共同特点是用大数据、机器学习、网络分析等方法来研究传统社科问题,而一旦方法论变了,数据需求自然跟着变,从几百份问卷变成几十万家企业的行为轨迹,从截面比较变成动态演化追踪。
第三个方向是数据源的爆发式增长,国家企业信用信息公示系统2016年全面运行,中国裁判文书网2020年累计公开文书超过1亿篇,各地方政府采购平台的招标公告数字化率大幅提升,公开可获取的企业相关数据量在这五年间增长了不止一个数量级。
数据多了,政策也鼓励用了,方法论也在往数据驱动的方向转,但高校获取和处理这些数据的能力并没有同步增长,公开数据的分散性和非标准化使得手工采集成本居高不下,而高校内部的数据治理能力,无论是数据清洗、存储、版本控制、审查等等大多还停留在每个人管自己的阶段。
⑤直到今天,AI原生时代让商业数据平台进入高校视野
近两年事情的变化开始加速,几个关键节点值得注意:
2025年被广泛认为是AI for Science的科学政策大年,国务院2025年8月发布《关于深入实施“人工智能+”行动的意见》,提出要深入实施“人工智能+”科学技术行动,推动整体科研和研发范式智能化转型。中科院2026年4月出版《人工智能赋能科学研究:人工智能学科体系》,系统梳理AI在各学科的应用框架。百度百科对AI for Science的定义更为直白——它被视为继经验、理论、计算、数据密集型之后的 “第五范式”。

日本科学技术振兴机构在今年3月发布的《2026年AI for Science发展趋势报告》指出,全球AI for Science创新活动正从工具型赋能向驱动范式转型深化拓展。新浪财经在3月的报道则直接点出了中国高校的动作:“国内多所高校已纷纷展开系统化布局,推动科研范式发生变革。”
当AI驱动科研成为顶层叙事的时候,一个问题就被推到了台前:AI模型训练和推理需要的高质量结构化数据从哪来?
对于自然科学领域,譬如物理、化学、生物来说,答案相对明确——实验数据、模拟数据、已发表论文的结构化知识提取。但对于社会科学领域如经济、管理、法学、公共政策,答案就没那么清晰了。你不可能用实验的方法生成一家企业的股权关系数据,也不可能用模拟的方式产生真实的司法判决记录。
这些数据天然存在于外部世界中,分散在工商系统、法院、税务局、知识产权局的各个数据库里,要把它们变成可供AI分析和学术研究使用的原料,中间需要一个汇聚层。
MCP协议的出现打开了一个新通道,通过让AI模型能够通过标准化协议调用外部工具和数据源。企查查智能体数据平台(agent.qcc.com)基于MCP协议构建了一套六个Server架构的工具体系:企业基座16个工具、风控大脑35个工具、知产引擎18个工具、经营罗盘35个工具、历史存档34个工具、董监高画像42个工具,合计180个数据查询能力。
这套体系的实际效果是,让一个不懂代码的社会学教授,可以在智能体里输入自然语言:

然后直接获得经过结构化的结果,不需要写API调用代码,不需要处理JSON解析,不需要考虑分页和限流。

过程中,会交叉对abc三家企业的股东构成、高管团队、股权结构、实际控制人进行多层穿透,整个过程不需要你再提供任何信息和材料。



这对高校用户的吸引力是实质性的,过去企查查的部分高校客户的做法很具有代表性,他们把企查查数据接口接入自有系统,搭建起内部科技信息大数据资源库,用于雏鹰企业评级等量化评估工作。这不是查一下级别的轻量使用,而是将商业数据平台的能力嵌入到了机构的信息化基础设施中。
商业数据平台自身也在主动拥抱学术市场,Nature报道的一篇文章揭示了问题的紧迫性。该文报道了AI爬虫激增导致学术网站宕机的现象,称之为“数据饥渴症引发的学术宕机潮”,生成式AI工具的普及让数据需求量暴涨,而学术机构和公共数据平台的服务器容量远不足以应对这种规模的请求,从侧面印证了一个事实,高校对数据的需求已经从个人手工作业升级为系统性基础设施需求,但供给方基本还没跟上。
03. 当前困境的结构性矛盾
把以上二十年的脉络串起来,可以看到中国高校在科研数据方面正同时面临三个结构性矛盾:
①研究问题的前沿性与数据供给的滞后性张力
一个做国内企业交叉研究的年轻学者,想分析《公司法》2023年修订后企业注册资本认缴制改实缴制带来的企业行为变化,他需要的数据就可能会包括——大量中小微企业的实缴到位情况、减资程序执行情况、股东出资加速到期相关的司法判例,这几本分散在至少五个不同的公开系统中,且没有一个现成数据库提供整合好的版本。
公开数据可以爬,但如前所述,工程量大、维护成本高、数据质量不可控。

②数据获取的技术门槛与学科背景之间的错位
最需要企业数据的恰恰是不具备数据工程能力的学科——法学、社会学、公共管理、区域经济。这些领域的研究者往往没有受过系统的编程训练,让他们去写爬虫、做ETL、管理数据管道,既不合理也不现实,但目前的现状就是要么你自己想办法搞定技术问题,要么放弃那些需要细粒度数据的研究选题。
③一次性与持续性的采购模式冲突
高校的科研项目经费,申请到一个课题,拨一笔钱,做完结题,但数据需求往往是持续的,你今年做的供应链研究明年可能需要追踪同样的样本,去年收集的股权数据今年可能需要补充最新变更,商业数据平台的定价模式多为按次计费或包年订阅,跟高校项目制的经费周期不完全匹配。
这也是为什么企查查在高校市场中定制离线数据包交付是最受欢迎的方式,一次性付费,拿到完整的CSV或者Excel,想用什么工具分析都可以,不受接口调用次数的限制。
04. 场景分化:不同玩家占据不同生态位
关键在于理解,CSMAR、万得、企查查这些平台并不是在同一个战场上打仗,它们服务的场景差异很大。
企查查正在切入的是“CSMAR不做、万得顾不上”的那片空白地带,这片空白包括但不限于:
企业工商信息和股权结构;
司法风险数据——失信、处罚、立案、冻结等;
知识产权全生命周期数据——专利从申请到无效/撤回的完整链路;
招投标和供应链关联数据;
多层股权穿透;
……
这些数据对金融实证研究的价值有限,你很难用量化的方式把一家公司被列入经营异常名录放进一个标准的回归模型里,但对于法学、公共管理、区域经济、产业组织、数字经济这些学科来说尤为重要。
企查查目前深度服务于清华大学、浙江大学、复旦大学、对外经济贸易大学、香港中文大学(深圳)、中央财经大学、北京理工大学、中国财政科学研究院、湖南大学、浙江工商大学、江苏省产业技术研究院、中国城市规划设计研究院、中国科学技术信息研究所等高等院校及科研机构,这些数据恰好是最核心的自变量,高校科研组和采购部门也会看重数据覆盖的完整性、交付方式的灵活性、以及对科研场景的理解深度。
05. 企查查在高校场景中的实际能力
前面的篇幅都在讲为什么和大势是什么,这一节回到实操层面,梳理企查查的数据能力到底能干什么、适合什么样的研究课题、以及已有的真实案例。
①企业风险行为研究,从截面快照到全生命周期画像
在做企业避税风险与无实质经营风险课题时,有一组非常有代表性的需求:
| 研究关注点 | 具体数据需求 | 为什么难拿 |
|---|---|---|
| 法人、实控人的关联企业网络 | 穿透股权结构,识别自然人控制的多家企业 | 公开渠道只能看第一层股东 |
| 纳税人资质全生命周期 | 含历史+当前状态的变化轨迹 | 资质变更记录分散在不同系统 |
| 政府约谈数据 | 历史与当前的全部记录 | 部分数据未公开或难以批量获取 |
| 统一社会信用代码/纳税人识别号变更 | 两码变更的精确时间线 | 变更记录需要实时回溯 |
| 企业空壳特征的历史演变 | 判断空壳化趋势的多维指标组合 | 需交叉比对经营异常、失信、社保等多源数据 |
| 专利法律状态全流程 | 申请→授权/无效/撤回的完整链路 | 法律状态需持续追踪 |
通过上述需求可以很明显的发现,追踪变化,不只是记录状态,而市面上大多数公开数据源提供的都是快照,即这家公司现在长的是这个样子,只看存续企业会导致严重的幸存者偏差,倒闭的企业恰恰可能是产业链断裂的关键证据,而通过调取包含注吊销企业在内的全量数据将会解决样本完整性的问题。
企查查在这类场景中提供的能力是一套企业生命周期画像:变更记录接口回溯每次工商变更,年报接口获取历年社保参保人数和资产总额,配合司法风险数据,例如严重违法核查、政府约谈标签,知识产权数据等,以此拼出完整的时间序列。
②股权穿透与金融风险传导得查大量数据
某些经济学院在做供应链数据分析时,需要某城市地区全行业的产业链上下游数据来支撑政策研究,在一些供应链融资风险防控的课题上,对于历史工商数据、知产数据、客户供应商关系数据和融资信息的交叉分析。
在某商学院的课题里,需要对数千家基金公司进行向下多层的投资穿透,每层设置终止条件(被投资企业为实体企业则停止,基金公司继续穿透),这其中要提取投资企业名称、被投资企业名称、投资日期、认缴出资额、投资退出日期,最终以一次性离线数据交付完成,而这其中核心能力来自对外投资穿透接口(Api Code 663):
| 参数 | 说明 |
|---|---|
| 最大穿透深度 | 10层 |
| 持股方式 | 区分直接持股和间接持股 |
| 层级返回 | 每层返回企业名、认缴出资额、持股比例、层级路径 |
| 过滤条件 | 可设最小持股比例阈值;可选排除吊销/注销企业 |
这类交叉学科研究的共性是样本量大、维度多,API批量调用或离线交付比人工采集效率高一个数量级。
③高校采购招标环节
高校不仅是科研机构,也是一个庞大的组织体,采购处审供应商、审计处查关联方、科创办看投资企业、技术转移中心核成果转化对象,这些部门的工作模式惊人地相似:拿到一堆公司名单,逐个去查。
各类采购项目招标前,需要对投标供应商做围串标核查,难点在于关联关系不是写在脸上的,两家公司名字不同、注册地相隔千里,穿透两层股权后发现实际控制人是同一个人,这种隐性关联靠人工逐个查不可能发现:同一法人代表或同一实际控制人、同一股东(含隐匿的一致行动人关系)、同一联系电话或同一注册地址、历史上的关联关系(前任法人在其他投标公司任职)。
审计处年底审计时需要对存量供应商做进行关联关系排查,提前发现潜在服务中断风险,通过API对学校投资的企业定期巡检,实时掌握知识产权变动和立案风险,另外还可以对科技成果转化接手方进行工商核实和合规审查,接手方的经营状态直接影响转化能否顺利落地,这一步核验是安全防线。
集中不同的交付方式
高校的使用场景和商业公司完全不同。商业客户往往系统集成、长期调用;高校更多是一次性课题、阶段性项目、或小团队的轻量使用。所以交付必须灵活:
API实时接口——适合需要持续更新的监管类场景。采购部的供应商定期巡检、科创办的投资企业动态跟踪、审计处的年度排查。按次计费或企业户包年,随用随调。
定制离线数据包——适合一次性课题需求。这是目前高校课题组选择最多的方式。几千家公司一次性导出为CSV/Excel,清洗补全后交付,直接导入分析工具。按需筛选字段,不需要任何技术对接。
MCP智能体接入——越来越多年轻教师和博士生的选择,通过MCP协议接入AI工具,用自然语言直接对话:
WorkBuddy、Trae、Cursor、OpenClaw、阿里云百炼、扣子 Coze、Claude Code等平台,不需自建服务器。
三种方式可以单独用,也可以组合,同一个学院里,采购部可能用企业户包年做日常筛查,博士后课题用离线数据包,导师自己在智能体里装MCP随时查,互不影响,各取所需。
回头看这些年的演进脉络,有一个规律反复出现:
每当研究方法论往前迈一步,数据供给就跟不上半拍,然后有人来填补这个缺口,填补者就成了下一个十年的基础设施。
如果数据资产入表、数据交易所在未来几年内走向成熟,高校作为重要的数据需求方和数据生产方,高校自己也产出大量调查数据和实验数据,可能会被纳入正式的数据要素市场体系中。届时商业数据平台与高校之间的关系就不只是买卖,而可能涉及更深度的数据联合加工、联合建模、乃至联合知识产权。
文章开头提到的那篇中国社会科学网的爬虫事件,其实透露了一个信号:学术界已经在自发地寻找解决方案了。教人写爬虫这件事本身就是一个市场失灵的证明,如果有更好的数据获取方式存在,谁愿意花时间去学反爬对抗呢?
商业数据平台进入高校市场,本质上是在回答同一个问题:如何让研究者的时间花在想问题上,而不是花在找数据上?CSMAR在二十年前回答了一次,现在轮到新一轮的回答了。
区别在于,这一次的需求更加多元、用户群体的技术能力更加参差不齐、而AI技术的成熟又提供了一个全新的交互界面,谁能把这些变量组合好,谁就可能在下一个十年里重复CSMAR的故事。
附录:场景能力速查表
| 场景类型 | 具体需求 | 对应能力 |
|---|---|---|
| 纳税人资质追踪 | 全生命周期资质状态变化 | 行政许可、变更记录(410)、严重违法(741)、税务非正常户 |
| 政府约谈/合规分析 | 历史与当前约谈、处罚全量获取 | 行政处罚、严重违法核查、税收违法、欠税公告 |
| 投资/股权穿透 | 多层穿透(最大10层) | 对外投资穿透(663)+对外投资信息 |
| 专利法律状态 | 申请→授权/无效/撤回完整链路 | 专利查询(213)、软著、商标(514) |
| 供应链/产业链 | 区域/行业上下游全量数据 | 产业链数据、招投标、融资信息 |
| 围串标/关联方识别 | 供应商隐性关联多维发现 | 股东、主要人员、分支机构、联系信息(2003)、变更记录 |
| 成果转化尽调 | 接手方工商核实+合规风险评估 | 信息核验(2001)、合作风险排查(2006) |
| 日常快速查询 | 自然语言驱动企业信息检索与风险扫描 | MCP智能体工具 |
信息来源与参考资料
[1] 社会科学研究数据爬取流程与操作要领,中国社会科学网,2026年4月16日
[2] CSMAR数据库介绍页(中山大学图书馆/深圳大学图书馆/北京信息科技大学图书馆)
[3] 万得信息技术股份有限公司百科资料及Wind数据库介绍页(深圳大学图书馆/北京工商大学图书馆)
[4] Python爬虫实战:做学术研究需要获取大量的数据怎么办
[5] 代表性学术社区讨论综合引用,反映高校研究者普遍面临的数据采集困境
[6] 国务院办公厅关于印发《科学数据管理办法》的通知(国办发〔2018〕17号),2018年3月
[7] 香港中文大学人文社会科学学院计算社会科学博士项目,2026年4月
[8] 全面加快AI for Science发展的步伐,国家科技部,2025年8月27日
[9] 中科院《人工智能赋能科学研究:人工智能学科体系》出版报道,2026年4月
[10] AI for Science_百度百科,2026年3月10日
[11] 日智库发布AI for Science报告阐释第五范式变革路径,中国科学院网,2026年4月9日
[12] 中国高校加速布局AI for Science,科研智能体引领科研范式变革,新浪财经,2026年3月5日
[13] 企查查智能体数据平台文档
[14] 天津市科学技术信息所合作案例,基于实际合作信息整理
[15] 艾媒咨询:商业查询行业消费者选择数据,2024年7月
[16] AI爬虫激增致学术网站宕机,数据安全与开放获取的双重挑战,搜狐/Nature报道,2025年6月16
[17] CSMAR官方数据:覆盖近400所国内高校、100多所海外院校
[18] 数据要素发展报告(2025),中国信息通信研究院,2025年11月



