世界数字技术学院(WDTA) 生成式AI应用程序安全测试和验证标准 世界数字技术学院标准 WDTA AI-STR-01 版本:2024-04 CWDTA2024-保留所有权利。 世界数字技术标准WDTAAI-STR-01被指定为WDTA规范。本文件是世界数字技术学院 (WDTA）的财产，受国际版权法保护。未经WDTA事先书面许可，禁止使用本文档，包括 复制、修改、分发或重新发布。WDTA不对本文档中的任何错误或遗漏负责。 https://wdtacademy.org/了解更多WDTA标准和相关出版物。 版本历史记录* 标准ID 版本 日期 变更 WDTA AI-STR-01 1.0 2024-04 初始版本 前言 世界数字技术学院（WDTA)致力于成为全球数字技术创新的开拓者，与作为非政府组织的联合 国框架保持一致。WDTA坚持其3s原则-速度，安全，共享-致力于加速数字规范的创建，带头 研究，鼓励国际合作，并保持技术进步的领先地位。 通过合作努力，WDTA致力于推动数字技术的发展，以改善社会。AISTR（安全，信任，责任 计划是WDTA国际计划的核心部分，旨在解决人工智能系统扩散带来的复杂挑战。认识到AI技 术在全球范围内的快速扩展和整合，AISTR站在全球技术进步的最前沿。 本标准文档提供了一个框架，用于测试和验证生成式AI应用程序的安全性。该框架涵盖了AI 应用程序生命周期中的关键领域，包括基本模型选择，检索增强生成设计模式中的嵌入和矢量 数据库，提示执行/推理，代理行为，微调，响应处理和AI应用程序运行时安全性。主要目标 是确保AI应用程序在其整个生命周期中按照其预期设计安全运行。通过为AI应用程序堆栈的 每一层提供一套测试和验证标准和指南，重点关注安全性和合规性，本文档旨在帮助开发人员 和组织增强使用1lm构建的AI应用程序的安全性和可靠性，减轻潜在的安全风险，提高整体质 量，促进负责任地开发和部署人工智能技术。 AI STR计划代表了我们如何处理AI技术的开发和部署的范式转变。倡导人工智能系统中的安 全、信任和责任，为更道德、安全和公平的数字未来奠定了基础，在未来，人工智能技术是进 步的推动者，而不是不确定性和伤害的来源。生成式AI应用程序安全测试和验证标准是AI STR标准之一。 七 WDTA执行主席