|
|
黛安·古蒂 黛安·古蒂 副总裁兼全球人工智能研究负责人 在我之前的博客中，我分享了“负责任地使用人工智能框架”的关键维度，例如透明度、风险管理、治理、包容性和人在循环中。简而言之，此类框架必须强大、符合道德且值得信赖，才能发挥人工智能的无限潜力。稳健性原则包括可靠性和安全性，以及数据隐私和安全性，这是本博客的重点，我在其中进一步探讨了生成式人工智能（GenAI）在商业实践中的安全使用。 可访问性中可用的大量知识相结合，使这些新的 AI 工具引人注目。然而，将公共 GenAI 模型用于商业目的会带来通过用户输入将专有信息暴露给模型的训练或数据源的风险。它还带来了使用人工智能输出中不可靠和/或无法验证的信息的风险，因为无法验证信息来源。 公共 GenAI 工具的安全问题很大程度上源于信息来源的透明度有限，包括对模型如何训练以及如何使用、存储和检索通过与模型交互提供的内容的可见性有限。 由于这些潜在风险，CGI 负责任地使用人工智能指南建议组织应使用与公共共享信息相同的指南作为公共 GenAI 工具以及组织数据和资产的使用指南。 多模型人工智能需要一个负责任的总体使用框架 为了降低数据泄露的风险，主要的人工智能和云技术供应商提供了负责任的使用框架以及在安全环境中使用 GenAI 工具的能力，而不会冒数据泄露到公共模型的风险。
然而，在多模型人工智能生态系统中，人工智能模型使用专有数据进行微调，组织还 印度电报号码数据 需要用自己的安全措施来补充供应商的安全措施。虽然大多数 GenAI 工具在云端运行，但也可能存在混合情况，其中某些处理发生在本地。 CGI 负责任地使用 AI 指南建议，对于涉及敏感数据的业务用例，组织应将 GenAI 技术限制在安全的基础设施内，在该基础设施中，该模型可以应用于组织数据和知识产权，而不会带来暴露风险，并且来源具有更高的透明度数据和人工智能响应可以构建到交互中。 将 GenAI 构建为云服务的好处是，组织可以利用其在云技术方面的现有投资，并完善现有的访问管理来解决 AI 服务和输出问题。在这些安全环境中，GenAI 模型可以通过用例驱动模型和可配置参数进行限制，以确保模型仅在其目的范围内做出响应。这些模型还可以根据用户角色和身份验证要求限制用户对响应的访问，从而使解决方案对于各级数据驱动的决策更加强大。
我们建议组织采用道德人工智能框架来扩展 GenAI 和云供应商负责任的使用框架。我们建议行业领导者利用现有的隐私和安全协议来实现更安全、更强大的人工智能基础设施，从而从使用人工智能解决方案中获得更大的价值和投资回报 (ROI)。 在人工智能框架内负责任地使用数据的关键道德原则包括以下内容： 包容性和相关性：确保用于培训和输出的数据经过业务验证，并验证其与人工智能问题陈述的包容性和统计相关性。继续监控人工智能输出的相关性。 偏差保护：确保人工智能模型能够解决偏差和方差等算法限制。 安全数据管道：确保人工智能摄取的任何数据都使用安全数据管道，并实施敏感数据保护，以管理个人身份信息 (PII)、IP 和其他敏感或专有信息。 去识别化：作为数据摄取过程的一部分，通过去识别化、屏蔽和分析重新识别风险来限制对任何 PII 的访问。这些转换应在任何人工智能工具或模型访问之前实施。 云安全：确保数据和信息存储以及数据移动在云租赁内受到保护，并应用适合用户级别的访问限制。 API 加密：使用安全且加密的应用程序编程接口 (API) 调用，让 AI 访问本地保留的任何信息或数据，并在适当的情况下对本地数据应用去标识化。 SME 验证：确保与业务和数据主题专家一起对人工智能响应和输出进行解释，以验证准确性和与业务运营的相关性。
|
|
發表於 2024-3-21 17:22:54