看不下去AI胡说八道，英伟达出手给大模型安了个“护栏”

学投资
,
1

大模型们胡说八道太严重，英伟达看不下去了。

他们正式推出了一个新工具，帮助大模型说该说的话，并回避不应该触碰的话题。 这个新工具名叫“护栏技术”（NeMo Guardrails），相当于给大模型加上一堵安全围墙，既能控制它的输出、又能过滤输入它的内容。

这是一个从 https://wallstreetcn.com/articles/3687950 下的原始话题分离的讨论话题