news 2026/9/20 17:21:51

使用 Pydantic 与 JSON Schema 验证 JSONL

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
使用 Pydantic 与 JSON Schema 验证 JSONL

在处理大规模结构化数据时,尤其是以 JSON Lines(.jsonl)格式存储的数据,确保每条记录符合预期结构是数据质量保障的关键一步。本文将围绕一个典型的复杂嵌套 JSON 结构,详细介绍如何使用 Python 中两种主流的数据验证工具——Pydantic 和 JSON Schema——来实现高效、可靠的校验,并对二者进行系统性对比,帮助开发者根据实际需求做出合理选择。

一、问题背景:复杂的嵌套 JSON 结构

考虑以下代表个人简历信息的 JSON 对象:

{"person":{"name":"张伟","age":30,"gender":"男","occupation":"软件工程师","contact":{"email":"zhangwei@example.com","phone":"123-456-7890"},"address":{"street":"幸福路123号","city":"上海市","state":"上海市","zip":"200000"},"education":[{"degree":"学士","major":"计算机科学","university":"北京大学","year":2015}],"work_experience":[{"company":"ABC科技有限公司","position":"软件开发工程师","duration":"2018-2020","responsibilities":["参与多个项目的软件开发工作","负责后端服务的设计和实现"]}],"skills":["Java","Python","数据库设计"],"interests":["阅读","旅行","编程"]}}

该结构包含多层嵌套对象、非空数组、以及对数组元素内部结构的约束。我们的目标是:验证 .jsonl 文件中的每一行是否严格符合此结构,包括字段存在性、类型正确性、以及业务规则(如教育经历至少有一条)。

二、方案一:使用 Pydantic(v2)

Pydantic 是一个基于 Python 类型注解的数据验证和设置管理库,特别适合在 Python 原生环境中定义数据模型。

1. 定义嵌套模型

frompydanticimportBaseModel,FieldclassContact(BaseModel):email:strphone:strclassAddress(BaseModel):street:strcity:strstate:strzip:strclassEducationItem(BaseModel):degree:strmajor:struniversity:stryear:intclass
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/20 12:44:51

jsp儿童物品置换网站tw726--(程序+源码+数据库+调试部署+开发环境)

本系统(程序源码数据库调试部署开发环境)带论文文档1万字以上,文末可获取,系统界面在最后面。系统程序文件列表用户,卖家,物品分类,求购信息,物品信息,交易信息开题报告内容一、研究背景随着家庭对孩子成长的重视,儿童…

作者头像 李华
网站建设 2026/9/20 15:32:20

Redis跳表

作为Redis对象中特别重要的ZSet的底层实现原理,理解跳表特别重要。那么我们接下来来介绍一下跳表; 1.什么是跳表 跳表的本质还是链表,普通链表的结构如下所示: 这种结构虽然简单清晰,但是查询某个节点的效率比较低,而…

作者头像 李华
网站建设 2026/9/20 15:40:59

64537

456385

作者头像 李华
网站建设 2026/9/20 15:35:45

基于大数据爬虫+Hadoop的游戏购买网站设计与实现开题报告

基于大数据爬虫Hadoop的游戏购买网站设计与实现开题报告 一、选题背景与意义 1.1 选题背景 在数字娱乐产业飞速发展的今天,电子游戏已成为全球范围内最具活力的文化消费领域之一,其市场规模持续攀升,用户群体不断扩大,游戏种类…

作者头像 李华