12 月 4 日新闻，亚马逊云科技（AWS）宣布了一款新东西，旨在处理 AI 模子发生的幻觉成绩。留神到，在拉斯维加斯举行的 re:Invent 2024 年夜会上，AWS 推出了“主动推理检讨”（Automated Reasoning checks）东西，该东西经由过程穿插援用客户供给的信息来验证模子的呼应正确性。AWS 声称，这是“第一个”也是“独一”的针对幻觉的防护办法。但是，这种说法可能不敷正确。微软往年炎天推出的“校订”功效与“主动推理检讨”多少乎雷同，都能够标志可能存在现实过错的 AI 天生文本。谷歌的 Vertex AI 平台也供给了一个东西，容许客户经由过程应用第三方供给商的数据、本人的数据集或谷歌搜寻来使模子的答复更牢靠。“主动推理检讨”经由过程 AWS 的 Bedrock 模子托管效劳（特殊是 Guardrails 东西）供给，试图弄明白模子是怎样得出谜底的，并断定谜底能否准确。客户上传信息以树立一种现实基本，而后“主动推理检讨”创立规矩，这些规矩能够被优化并利用于模子。当模子天生答复时，“主动推理检讨”会验证它们，并在可能呈现幻觉时，应用现实基本得出准确谜底。其会将这个谜底与可能的过错谜底一同浮现，以便客户能够看到模子偏离准确谜底的水平。AWS 表现，普华永道曾经开端应用“主动推理检讨”为其客户计划 AI 助手。AWS 的 AI 跟数据副总裁 Swami Sivasubramanian 表示，这品种型的东西恰是吸引客户应用 Bedrock 的起因。但据 Techcrunch 报道，一位专家往年炎天称，试图打消天生式 AI 的幻觉就像试图从水中打消氢一样。AI 模子之以是会发生幻觉，是由于它们现实上并“不晓得”任何货色。它们是统计体系，经由过程辨认一系列数据中的形式，并依据之前看到的例子猜测下一个数据是什么。因而，模子的呼应不是谜底，而是对成绩应当怎样答复的猜测 —— 在必定的偏差范畴内。AWS 宣称“主动推理检讨”应用“逻辑正确”跟“可验证的推理”来得出论断，但该公司不供给任何数据来证实该东西的牢靠性。（远洋） 　　申明：新浪网独家稿件，未经受权制止转载。 -->