人工智能面臨一個最大問題,但英偉達剛剛給出了解決方案

人工智能面临一个最大问题,但英伟达刚刚给出了解决方案
發佈于: 4 月 26, 2023
編輯: Amy Liu
  • 下一代聊天機器人的亮相引發了熱潮。
  • 英偉達開發了“護欄”以確保聊天機器人不偏離正軌。

聊天機器人存在可信度問題。英偉達說它已經設計了一個解決方案。經過多年的幕後進步,2023年是人工智能年,這是有充分理由的。去年底推出的ChatGPT風靡全球,到1月月活躍用戶增長到1億。

伴隨著微軟向ChatGPT的創建者OpenAI投資130億美元的消息,興奮很快變成了狂熱。這引發了其他擁有人工智能專業知識的公司瘋狂發佈他們自己的下一代聊天機器人。

然而,這些進步有一些明顯的局限性。隨後對ChatGPT和Alphabet的Google Bard進行的測試揭示了這些系統的一個固有問題:據《紐約時報》報道,它們可能(有時)提供“不相關、荒謬或事實不正確”的答案。這種被稱為“幻覺”的嚴重缺陷使人們對這些看似開創性的進步產生了質疑。

英偉達認為該公司可以解決這個問題。在週二發佈的博客文章中,英偉達應用研究副總裁Jonathan Cohen詳細介紹了該公司為緩解聊天機器人轉向幻覺或徹頭徹尾的謊言問題而設計的解決方案。英偉達開發了NeMo Guardrails,即“新發佈的開源軟件”,旨在幫助聊天機器人“保持正軌”。該軟件為開發人員提供了一種整合基於規則的系統的方法,能將阻止聊天機器人回復不準確的信息,確保他們的回答“準確、適當、切題且安全”。NeMo Guardrails可以“檢測並減輕幻覺”。

聊天機器人的一些反應可能會偏離常規,最終可能會變得不合邏輯、令人反感,甚至令人毛骨悚然。如果英偉達的解決方案被證明是有效的,那麼這一切都將成為過去。

總而言之,英偉達正在價值大約1萬億美元的總潛在市場中尋找機會,這也是該公司希望人工智能蓬勃發展的更多原因。雖然人工智能可能是下一代高科技進步的關鍵,但該技術的廣泛採用肯定取決於用戶從這些人工智能模型中獲得有用、準確和真實響應。

人工智能 個人理財 消費品及服務 美股