统一管理和整理AI和ML的文档和数据来源：开发人员在混乱中导航的指南

在快速发展的AI和ML领域中，你可能会期待存在一个清晰的标准来规范如此关键的模型文档。然而，现状与预期相去甚远。尽管这些工具如模型卡片（Model Cards）原本旨在简化问责制和透明度，我们却陷入了缺乏一致性的碎片化状态。

什么是模型卡片？

一个模型卡是一种标准化文档，旨在提供关于机器学习（ML）模型的重要信息，涵盖模型的属性、性能指标以及伦理考量。模型卡帮助开发人员、研究人员和最终用户更好地了解模型的预期用途和限制，以及与之相关的潜在风险和偏见。此文档旨在提高人工智能和机器学习系统的透明度、责任感和信任度。

模型卡的关键信息包括：

• 模型简介：模型的描述，包括其架构、预期用途和使用场景。
• 性能：模型在不同数据集、环境或用户群体中的性能表现的详细指标。
• 伦理考量：模型中潜在偏见的信息及其影响，以及任何公平性或安全性问题。
• 训练数据：用于训练模型的数据的描述，包括其来源、规模和任何预处理步骤。
• 注意事项：明确说明模型不应在哪里及如何使用，包括可能出现问题的场景。

2019年，Margaret Mitchell及其在谷歌AI的合作者提出了一种名为“模型卡”的概念。这一理念是为了应对机器学习模型，尤其是那些在实际应用中的模型，所带来的深刻伦理和社会影响。如果没有清晰透明的文档，这些模型就有可能被误用或误解，从而导致如偏见预测或不公平决策等有害后果。

这篇论文提出了模型卡片作为一种方法来应对这些挑战，通过提供一种标准化和易于访问的格式来记录模型。它从营养标签中获得了灵感，为消费者提供了关于食品内容清晰一致的信息。同样，模型卡片旨在像营养标签一样为机器学习模型提供关键细节的标准化、易于理解的格式。实际上，情况要复杂得多。

模型卡迷宫挑战

模型卡片（Model Cards），从理论上来说，模型卡片很简单。它们的目的是提供关于机器学习模型的属性、性能和伦理方面的清晰、标准化文档。背后的理念是合理的——一种通用工具，用于解释模型如何运作及其影响。

然而，在实践中，Model Cards 已经呈现出多种形式。

• HuggingFace 使用 YAML 前置元数据和 Markdown 来编写其模型卡片。
• AWS SageMaker 使用 JSON 模式。
• VerifyML 有自己的独特格式和风格。
• Google? 他们则使用一个完全不同的 JSON 模式。

这还只是冰山一角，尚未触及原始的模型卡提案来自基础论文（https://arxiv.org/abs/1810.03993）。平台之间的差异不仅仅是因为不同的偏好或小的调整。这些差异不仅体现在结构上，还体现在意图上，反映了更深层次的分歧。HuggingFace的Markdown驱动的简单性与SageMaker的基于JSON方案的精准度有很大的不同，这种差异不容忽视。试图遵循AI责任最佳实践的开发者们却在一致性上遇到难题。

模型卡片不仅仅是文档，它们还有更多内容

这些不仅仅是美学上的差异。模型卡片在确保符合日益增多的人工智能法规方面起着至关重要的作用，比如：

• 欧盟《人工智能法》：
• NIST 的人工智能风险管理框架（RMF）
• ISO 42001

这些规定要求严格的文档记录，如果没有统一的标准框架，开发人员只能在日益复杂的监管雷区中摸索前行，缺乏明确的指引。结果是，不合规的风险加大，这可能导致偏见或不安全的人工智能系统的持续。

SBOMs：一丝希望的标准化曙光 (SBOMs，即软件物料清单，为标准化带来了一丝希望)

但并不是一切都完了。在混乱之中，有一个令人鼓舞的发展：SBOM格式（软件物料清单），例如SPDX 3.0 和 CycloneDX。虽然这些格式最初并非为AI设计，但它们已经开始纳入AI模型和数据集。这是一大进步，因为SBOM为目前欠缺标准化的模型卡提供了一个逻辑上的解决方案，并且这些格式在软件开发中已经很常见了。

为什么SBOM对AI很重要.

• 全面涵盖：SBOM可以包含模型和数据，为开发人员提供更全面的人工智能系统视角。
• 标准化：通过统一的格式如SPDX 3.0或CycloneDX，我们可以弥合碎片化的Model Card领域留下的差距。
• 来源与信任：SBOM提供了一种追溯AI模型来源的方法——它们的作用，来源，训练方式以及应在何种条件下使用。

未来的方向

将AI模型纳入如SPDX 3.0和CycloneDX这样的SBOM标准中是一个关键的进展。如果这些格式被广泛采用，它们可以提供AI行业急需的透明度和责任感。这不仅仅是为了技术改进——拥抱SBOMs是一种道德上的必要，以确保AI的开发和部署既道德又透明。

最终，AI文档的未来取决于我们能否将方法标准化和统一。是时候团结起来支持SBOM，并采用SPDX 3.0、CycloneDX等标准，避免因文档不一致导致的风险。

别等到像EU AI Act这样的法规来逼着我们动手。动手时机已经到来。