LLMs之DataPreparation《Can LLMs Clean Up Your Mess? A Survey of Application-Ready Data Preparation with LLMs》翻译与解读导读该论文系统回顾并分类了基于LLM的数据准备研究提出了从规则化管道向提示驱动与代理化工作流的范式转变列举了数据清洗、集成与增强三大类任务下的技术路线提示、RAG、代码合成、agent 等同时指出了显著优势语义能力、跨域泛化、降低标注成本与现实限制成本、幻觉、评估缺口、治理风险并就构建可扩展、可验证的 LLM-data 系统给出了明确的研究与工程路线图。 背景痛点●传统规则与人工成本高传统数据准备依赖大量手写规则、正则和专家维护开发与维护成本高且易出错例如复杂的标准化与校验脚本。●语义感知能力弱基于相似度/统计的传统方法难以处理缩写、同义词、领域术语和语境歧义导致匹配或发现相关数据时效果欠佳。● 跨任务/跨模态泛化差许多现有模型需大量领域特化特征或标注转到新域或异构数据表格/半结构化/文本时性能明显下降。● 高质量标注和知识整合代价高大规模、准确标签难以获得导致监督方法受限同时难以把外部知识与结构化/非结构化上下文无缝结合。 具体的解决方案方法类别与代表性技术● 方案一基于提示Prompt-based直接转换与标准化用自然语言提示或少样例示例把多样化表示转为统一格式用于日期、地址等标准化。● 方案二检索增强生成RAG用于上下文补全与修复在补缺、恢复缺失/损坏值或生成元数据时先检索相关外部上下文/知识库再由LLM生成修正建议。● 方案三Agent/流水线式自动化Agentic workflows构建能规划、执行与反思的LLM代理可调用检索、代码合成、外部工具自动识别问题并生成/执行清洗流程如 Clean Agent、AutoDCWorkflow。● 方案四程序/代码合成执行策略LLM 生成可执行脚本SQL、Python以完成清洗、匹配或转换减少人工编码工作量并便于复现。● 方案五基于知识图谱与多模型融合的集成方法用知识库消歧、用专门编码器如表格编码器处理模态差异并通过模型组合或流水线优化最终决定。 核心思路与步骤可复用的流程模板/操作步骤● 步骤一问题检测与分型通过规则/LLM提示或模型自动识别数据中的“质量问题类别”缺失、异常、格式不一致、重复/实体冲突等。● 步骤二上下文补充检索对待处理项检索相关行、表或外部知识RAG以提供决策依据。● 步骤三生成修复/映射策略以提示或程序合成方式让LLM给出标准化、修复或匹配的具体操作自然语言或代码。● 步骤四安全执行与落地将生成的操作转为可执行代码SQL/Python或在受控代理中调用工具执行并记录变更。● 步骤五验证与反思Self-reflect运行后让模型/规则验证结果若不满意则迭代或回滚必要时引入人工审核作为最终保障。● 步骤六元数据与可解释性记录自动生成字段说明、操作日志与置信度指标便于下游使用与审计。 优势LLM 相较传统方法的价值点●更强的语义理解与常识推理能处理同义、缩写和领域术语降低纯表面相似度的错误匹配。●减少标注/特征工程需求通过预训练知识与少样例提示能在弱监督或无监督场景下快速适配新任务。●自然语言交互降低门槛业务人员可用文本描述数据处理意图减少代码/脚本编写。●自动化与可编排代理提升效率Agent 能串联检索、代码合成和执行形成闭环工作流减少人工干预。 论文中列出的一些结论与观点侧重经验与建议● LLM-enhanced 方法已成为数据准备的重要发展方向但并非万能——在许多子任务上展现出显著优势尤其是语义理解与跨模态适应能力。● 把检索RAG作为常规构件——在补全/修复与注释场景用外部上下文能显著降低错误率并缓解“幻觉”问题。● 采用混合执行生成代码 人工审查策略——让LLM负责生成方案与代码但在高风险或高成本变更上保留人工审查以确保鲁棒性与合规。● 成本与可扩展性仍是主要瓶颈——大模型推理成本高、延迟与规模化工程挑战仍需系统层面优化例如轻量化模型、异构部署、分层检索策略。● 设计更合理的评估基准与协议——当前评测与真实业务场景存在不匹配论文建议建立更贴近工程化需求的评价指标可解释性、可回滚性、成本/延迟等。● 注重隐私与治理——在工业应用中需考虑数据合规、审计日志与最小暴露原则避免将敏感数据直接送入外部模型或API。 论文指出的挑战与未来研究方向● 持久的“幻觉”与不可靠输出——即便是高级代理也会输出不准确或缺乏证据的修复建议需要更强的证据驱动与验证机制。●可扩展系统设计——如何在保证质量的前提下用低成本、低延迟方式将LLM方法工程化到企业级流水线是核心问题。● 构建原则化的 agentic 工作流可插拔、可验证的工具链以支持复杂、可审计的数据准备任务。● 开发更贴近实际应用的评估体系与公开基准包含多模态、现实噪声与成本度量。目录《Can LLMs Clean Up Your Mess? A Survey of Application-Ready Data Preparation with LLMs》翻译与解读Abstract1、IntroductionFigure 1:Application-Ready Data Preparation – Three core tasks (i.e., Data Cleaning, Integration, and Enrichment) address key sources of data inefficiency: quality issues, integration barriers, and semantic gaps.图 1应用就绪的数据准备——三项核心任务即数据清理、整合和丰富解决了数据效率低下的关键来源质量问题、整合障碍和语义差距。Figure 2:Overview of Application-Ready Data Preparation through LLM-Enhanced Methods.图 2通过 LLM 增强方法实现的应用就绪数据准备概述。8 Conclusion《Can LLMs Clean Up Your Mess? A Survey of Application-Ready Data Preparation with LLMs》翻译与解读地址论文地址https://arxiv.org/abs/2601.17058时间2026年01月22日作者上海交通大学Shanghai Jiao Tong University清华大学Tsinghua University微软研究院Microsoft Research麻省理工学院计算机科学与人工智能实验室MIT CSAIL上海人工智能实验室Shanghai AI Laboratory小红书Xiaohongshu Inc.香港科技大学广州Hong Kong University of Science and Technology (Guangzhou)阿里巴巴集团Alibaba GroupAbstractData preparation aims to denoise raw datasets, uncover cross-dataset relationships, and extract valuable insights from them, which is essential for a wide range of>By investigating hundreds of recent literature works, this paper presents a systematic review of this evolving landscape, focusing on the use of LLM techniques to prepare data for diverse downstream tasks. First, we characterize the fundamental paradigm shift, from rule-based, model-specific pipelines to prompt-driven, context-aware, and agentic preparation workflows. Next, we introduce a task-centric taxonomy that organizes the field into three major tasks: data cleaning (e.g., standardization, error processing, imputation), data integration (e.g., entity matching, schema matching), and data enrichment (e.g., data annotation, profiling). For each task, we survey representative techniques, and highlight their respective strengths (e.g., improved generalization, semantic understanding) and limitations (e.g., the prohibitive cost of scaling LLMs, persistent hallucinations even in advanced agents, the mismatch between advanced methods and weak evaluation). Moreover, we analyze commonly used datasets and evaluation metrics (the empirical part). Finally, we discuss open research challenges and outline a forward-looking roadmap that emphasizes scalable LLM-data systems, principled designs for reliable agentic workflows, and robust evaluation protocols.数据准备旨在对原始数据集进行去噪处理揭示跨数据集的关系并从中提取有价值的见解这对于众多以数据为中心的应用至关重要。在i对可直接用于应用的数据例如用于分析、可视化和决策的需求不断增长ii越来越强大的大型语言模型LLM技术以及iii促进灵活代理构建的基础设施例如使用 Databricks Unity Catalog的出现的驱动下增强型 LLM 方法正迅速成为数据准备领域的一种变革性且可能占据主导地位的范式。通过研究数百篇近期文献本文对这一不断演变的领域进行了系统性综述重点关注利用 LLM 技术为各种下游任务准备数据。首先我们描述了从基于规则、模型特定的管道到提示驱动、上下文感知和代理式准备工作流的根本范式转变。接下来我们介绍一种以任务为中心的分类法将该领域划分为三大任务数据清理例如标准化、错误处理、插补、数据集成例如实体匹配、模式匹配和数据丰富例如数据标注、数据剖析。对于每个任务我们对代表性技术进行了调研并突出了它们各自的优点例如提高了泛化能力、增强了语义理解和局限性例如扩展大型语言模型的成本过高、即使在高级代理中也存在持续的幻觉、高级方法与薄弱评估之间的不匹配。此外我们分析了常用的数据库和评估指标实证部分。最后我们讨论了开放的研究挑战并勾勒出一条前瞻性的路线图强调可扩展的大型语言模型 - 数据系统、可靠代理工作流的原则性设计以及稳健的评估协议。1、IntroductionData preparation refers to the process of transforming raw datasets into high-quality ones (e.g., trustworthy and comprehensive) by denoising corrupted inputs, identifying cross-dataset relationships, and extracting meaningful insights. Despite its foundational role in downstream applications such as business intelligence (BI) analytics [98, 3], machine learning (ML) model training [109, 47], and data sharing [43, 23], data preparation remains a critical bottleneck in real scenarios. For instance, an estimated 20%−30% of enterprise revenue is lost due to data inefficiencies [15]. As illustrated in Figure 1, real-world data inefficiencies primarily arise from three sources: (1) Consistency Quality Issues (e.g., non-standard formats, noise, and incompleteness); (2) Isolation Integration Barriers (e.g., disparate systems, entity ambiguity, and schema conflicts); and (3) Semantic Context Limitations (e.g., missing metadata and unlabeled data). To these challenges, data preparation [165, 166] involves three main tasks: Data Cleaning, Data Integration, and Data Enrichment, which transform raw inputs into unified, reliable, and enriched datasets. As the volume and heterogeneity of data continue to surge (e.g., global data volume is forecast to triple from 2025 to 2029 [129]), the imperative for effective data preparation has never been greater. However, traditional data preparation methods rely heavily on static rules [86, 104], manual interventions, or narrowly scoped models [76, 24], motivating the need for more intelligent, adaptive solutions.数据准备是指通过去除有噪声的输入、识别跨数据集的关系以及提取有意义的见解将原始数据集转换为高质量数据集例如值得信赖且全面的过程。尽管在诸如商业智能BI分析[98, 3]、机器学习ML模型训练[109, 47]和数据共享[43, 23]等下游应用中发挥着基础性作用但在实际场景中数据准备仍然是一个关键瓶颈。例如据估计企业收入的 20% - 30% 因数据效率低下而损失[15]。如图 1 所示现实世界中的数据效率低下主要源于三个来源1一致性与质量问题例如非标准格式、噪声和不完整性2孤立与集成障碍例如不同的系统、实体模糊性和模式冲突3语义与上下文限制例如缺少元数据和未标记的数据。针对这些挑战数据准备[165, 166]涉及三个主要任务数据清洗、数据集成和数据丰富将原始输入转换为统一、可靠且丰富的数据集。随着数据量和数据异质性的持续激增例如预计全球数据量将从 2025 年到 2029 年增长两倍[129]有效数据准备的必要性从未如此迫切。然而传统的数据准备方法严重依赖静态规则[86, 104]、人工干预或范围狭窄的模型[76, 24]这促使人们需要更智能、更适应性的解决方案。Figure 1:Application-Ready Data Preparation – Three core tasks (i.e., Data Cleaning, Integration, and Enrichment) address key sources of data inefficiency: quality issues, integration barriers, and semantic gaps.图 1应用就绪的数据准备——三项核心任务即数据清理、整合和丰富解决了数据效率低下的关键来源质量问题、整合障碍和语义差距。Figure 2:Overview of Application-Ready Data Preparation through LLM-Enhanced Methods.图 2通过 LLM 增强方法实现的应用就绪数据准备概述。8ConclusionIn this survey, we present a task-centric review of recent advances in LLM-enhanced data preparation, covering data cleaning, data integration, and data enrichment. We systematically analyze how LLMs reshape traditional data preparation workflows by enabling capabilities such as instruction-driven automation, semantic-aware reasoning, cross-domain generalization, and knowledge-augmented processing. Through a unified taxonomy, we organize representative methods, distill their design principles, and discuss the limitations of existing LLM-enhanced methods. We also summarize representative datasets and metrics to facilitate comprehensive evaluations of these methods. Finally, we identify open challenges and outline future research directions.在本次综述中我们围绕任务对近期 LLM增强型数据准备的进展进行了梳理涵盖了数据清理、数据集成和数据丰富化。我们系统地分析了 LLM 如何通过实现指令驱动的自动化、语义感知推理、跨领域泛化和知识增强处理等能力重塑传统数据准备工作流程。通过统一的分类法我们对代表性方法进行了组织提炼了其设计原则并讨论了现有 LLM 增强型方法的局限性。我们还总结了代表性数据集和指标以促进对这些方法的全面评估。最后我们指出了开放性挑战并概述了未来的研究方向。