人工智能面临一个最大问题，但英伟达刚刚给出了解决方案

下一代聊天机器人的亮相引发了热潮。

英伟达开发了“护栏”以确保聊天机器人不偏离正轨。

聊天机器人存在可信度问题。英伟达说它已经设计了一个解决方案。经过多年的幕后进步，2023年是人工智能年，这是有充分理由的。去年底推出的ChatGPT风靡全球，到1月月活跃用户增长到1亿。

伴随着微软向ChatGPT的创建者OpenAI投资130亿美元的消息，兴奋很快变成了狂热。这引发了其他拥有人工智能专业知识的公司疯狂发布他们自己的下一代聊天机器人。

然而，这些进步有一些明显的局限性。随后对ChatGPT和Alphabet的Google Bard进行的测试揭示了这些系统的一个固有问题：据《纽约时报》报道，它们可能（有时）提供“不相关、荒谬或事实不正确”的答案。这种被称为“幻觉”的严重缺陷使人们对这些看似开创性的进步产生了质疑。

英伟达认为该公司可以解决这个问题。在周二发布的博客文章中，英伟达应用研究副总裁Jonathan Cohen详细介绍了该公司为缓解聊天机器人转向幻觉或彻头彻尾的谎言问题而设计的解决方案。英伟达开发了NeMo Guardrails，即“新发布的开源软件”，旨在帮助聊天机器人“保持正轨”。该软件为开发人员提供了一种整合基于规则的系统的方法，能将阻止聊天机器人回复不准确的信息，确保他们的回答“准确、适当、切题且安全”。NeMo Guardrails可以“检测并减轻幻觉”。

聊天机器人的一些反应可能会偏离常规，最终可能会变得不合逻辑、令人反感，甚至令人毛骨悚然。如果英伟达的解决方案被证明是有效的，那么这一切都将成为过去。

总而言之，英伟达正在价值大约1万亿美元的总潜在市场中寻找机会，这也是该公司希望人工智能蓬勃发展的更多原因。虽然人工智能可能是下一代高科技进步的关键，但该技术的广泛采用肯定取决于用户从这些人工智能模型中获得有用、准确和真实响应。