构建负责任的人工智能，以实现客户体验的下一次进化

我们知道消费者想要生成式人工智能然而，他们也有一些合理的担忧。根据2023年Zend亚博esk客户体验趋势报告在美国，超过三分之一的人担心个人和公司以恶意或负面的方式使用人工智能，近一半的人表示他们担心机器人和自动化系统可能会对某些人群表现出偏见。商业领袖也有类似的担忧:73%的人表示，确保人工智能和机器人不会对特定类型的客户产生偏见是一项重要的优先事项。

正如我们的人工智能主管克里斯蒂娜·丰塞卡(Cristina Fonseca)最近在谈到生成式人工智能的承诺和陷阱“我们认为，采用人工智能解决方案的最大挑战之一是建立对该技术的信任。”我们致力于为企业提供最安全、最值得信赖的产品和解决方案，这是我们的承诺。作为其中的一部分，Zendesk建亚博立并利用了一套设计原则，不仅为我们如何设计、开发和构建我们所做的一切设定了标准，而且为我们在客户体验(CX)中使用生成式人工智能奠定了明确的基础。

1.隐私，安全和合规性的设计
我们必须保证客户数据的安全，这一责任对我们来说至关重要。我们不会在不符合要求的技术上妥协我们的安全和合规标准我们建立了制衡机制，以评估我们对技术收集的数据的使用情况，确保这些数据得到负责任的使用。我们认为，在适当和必要的情况下，应该使用人工智能来加强我们对客户及其最终客户的现有保护。关于生成式AI的例子包括:确保所使用的训练数据是匿名的;限制使用实时聊天数据;尊重数据的局部性;为客户提供退出选择;通过让不同的开发人员参与项目，并让用户和其他主题专家参与，以确定潜在的偏见领域，从而降低偏见的风险。

2.透明建立信任
我们相信我们的技术是如何工作的，它收集了什么数据，以及如何使用这些数据。我们还为终端客户和直接客户提供行业领先的选择退出流程。当涉及到客户服务中的人工智能时，我们与客户就如何在我们的产品和解决方案中使用人工智能进行了直接、清晰和诚实的沟通。并不是所有的人工智能预测在质量上都是一样的。有时模型对完成特定任务有很高的信心，而在其他情况下，信心很低，人工智能只是尽其所能(可能是做一个新的或不太频繁的工作)。通过向我们的客户提供高质量的人工智能预测，他们可以考虑到这一点并采取相应的行动，同时建立对技术的信任。

3.准确度阈值设定了标准
对于每个产品的早期访问程序和一般可用性，我们的团队必须在向客户发布它们之前满足一定的准确性阈值。当涉及到人工智能时，必须达到的精度——无论是高、中还是低——在很大程度上取决于被测试的任务或模型。在Ze亚博ndesk，只有当模型通过最高行业标准的质量门槛时，我们才会向客户提供AI。我们做出的每一个人工智能预测都有一个相关的置信度评分，它会传递给管理员或代理，所以任何建立在人工智能之上的工作流都可以考虑到这一点。例如，高自信的预测可以导致完全自动化的任务，而那些不太自信的分数意味着我们建议让一个人留在循环中，为座席和客户提供更好的体验。其核心是，我们的技术旨在为客户的需求提供准确可靠的响应，我们确保这始终是我们的主要关注点。

4.和合适的伙伴一起工作
合作伙伴选择是我们产品开发方法的一个重要方面。我们与不同的技术合作伙伴合作，以便使用最好的工具不断为我们的客户创造价值。我们认识到，生成式人工智能是一种没有万能解决方案的工具，因此，帮助我们构建最佳产品和解决方案的合作伙伴生态系统对我们的客户来说是最好的。这也使我们能够与他们密切合作，克服目前的一些挑战和限制。

5.技术是人为人创造的
我们的技术旨在增强客户体验，而不是取代人类互动。当涉及到将生成式人工智能应用于客户体验时，人类的监督尤为重要。虽然我们的技术可以帮助自动化某些任务，但我们知道，在提供卓越的客户服务方面，人与人之间的联系仍然至关重要。当我们说最近在美国，81%的消费者告诉我们，当他们在使用人工智能客户服务时遇到问题时，能够接触到人工代理对于维持他们对企业的信任至关重要。此外，我们始终确保有人为监督，以便技术得到适当的使用，客户得到他们期望的服务水平。