“幻觉”会成为AI的终极问题吗？

但是，一款经常产生错误结果的工具怎么能用于对精度要求极高的工业应用呢？答案有点复杂。 

AI幻觉是其由于处理失误以及不良的训练数据等多种原因而可能生成不准确或误导性的结果。 

以谷歌最近推出的AI概览（AI Overviews）功能为例，AI概览几乎从一开始就产生了“幻觉”，给用户的建议包括吃石头来避免矿物质缺乏，或者从金门大桥上跳下去。但当这些概览答案出现之后，谷歌立即迅速撤回了大部分答案。 

达索系统自然语言处理专家和AI专家Eric Vernet解释道：“大型语言模型（LLM）通过大量公共文本得到训练，而这些文本大多来自互联网。其学习环境自然而然地会包含大量通用信息，其中一些为垃圾信息。” 

“掌握所有这些同时包括了有用和误导性的知识后，AI可能会在某些情况下得出完全错误的答案”，他补充道。 

AI系统必须对来自LLM的海量数据进行分类，才能执行相关功能

像大多数技术一样，AI也有弱点，而生成式AI工具尤为脆弱。AI本身不会思考，只会分类。它会查阅大量数据，识别模式并从中推断真理。它本身不具备思维，无法权衡其给出的想法，而且在接收海量信息（其中一些是垃圾信息）时，它不知道如何区分对错。

在解释谷歌概览功能的争议时，谷歌搜索副总裁Liz Reid表示，该产品经过训练，“会显示排序最靠前的网页结果所支持的信息”，不过指定网页的浏览量与其发布内容的正确性并无关系。

AI最大的缺陷之一是，其智能取决于所接收的数据，如果接收的信息质量不高，那输出结果也不尽如人意。

毋庸置疑，生成式AI存在一定缺陷。但还有很多其它类型的人工智能对于企业的日常运营不可或缺。 

例如，汽车制造商可能会使用判别式AI对零件进行分类，然后将其与预测式AI进行耦合，后者可以识别模式并做出预测，以便用于决策制定。这些预测可应用于从材料成本到机器维护的任何环节，在业务运营的各个层面，AI用例屡见不鲜。 

汽车制造商利用AI来优化零件采购与设计，调整工作流程并确保机器的准确性和高效率。

这类可自由支配的工具比一些公开的程序更准确、实用，而且更容易获得成功，这都要归功于其所采用的训练方式。 

面向公众的程序是通过LLM进行训练，但用于工业用途的AI并非如此。它在仅包含所需信息的孤岛环境中学习，以确保工具提供准确性和实用性。由于只接触相关的特定信息，这种AI不太可能产生幻觉。

Vernet表示：“根据企业自己的专有数据和分类标准训练的后端AI要比生成式AI准确得多。一些企业拥有自己专用的词汇和流程等，因此，如果AI专门根据这些信息集进行训练，它将变得‘更智能’。” 

这对于拥有重要专有信息或使用特定内部语言的企业而言尤为重要。通过部署基于公共数据训练的工具将无法胜任这项工作，只有熟悉企业术语、缩略词及流程等的独特工具才能实现其所需要的目标。 

与所有技术一样，AI需要经历NLP专家Kelly Stone所提出的“人机回圈”验证阶段。通过将人类纳入到检查和改进AI输出的流程之中，这将确保此类技术能够持续学习，从而最终产生更精细、更准确的答案。 

AI企业一直在努力改进其产品，通常有几种重要的方式来实现这些改进。拥有海量数据已经让人感到开头难了，但真正的挑战在于采用一种易于访问和使用的方式来组织这些数据。同时，考虑到大多数企业的数据都在不断增长，有时甚至呈指数级增长，这就说明稳健可靠的结构非常重要。

在3DEXPERIENCE平台等统一位置维护数据库，可让企业在一致的环境和状态下保存信息。这些数据可从统一位置高效应用于任何类型的功能，无论是预测成本波动还是通过执行NLP来描述市场趋势，都易如反掌。托管的平台摆脱了孤岛信息，让用户能够访问高级分析功能，从而有望优化流程，发现新机遇，并改进企业运营。 

达索系统信息情报品牌NETVIBES的Stone主张进一步开发和使用此类程序。通过完善AI，这将减少幻觉问题，为各类用户带来更值得信赖的工具。再结合不断扩展的后端程序以及为其提供动力的AI，我们将获得完美的情报风暴。 

Stone表示：“我确信，未来的AI将非常可靠。”尽管她承认我们尚未成功，但她认为，将生成式、判别式和预测式等所有类型的AI的准确率提高到接近100%，而非80%左右，这并非天方夜谭。 

众所周知，人无完人，人类尚且如此，因此要创建一台 完美无缺的机器有点强人所难。但克服生成式AI幻觉等重重障碍，将开启一个无限可能的新世界，并帮助我们兑现这类新兴技术的全部承诺。 

和所有其它技术及创新一样，AI也面临“最后一英里”的终极问题。 

公交车会停靠在终点站，但乘客的旅程永无止境。禁止通行的道路和失灵的GPS设备会给送货上门设置障碍，但这依旧阻挡不了我们在线购物的行动。人工智能也不例外。其生成式功能就是这最后几英里，正如那些尚未开通地铁的社区或者只有无人机才能到达的偏远地区。 

当公共交通系统并未覆盖城市的每个街区时，我们没有弃之不用；当一些偏远的地址难以到达时，我们也没有放弃在线购物的想法。我们仍在努力向所有人提供这些机会，而且AI趋于完美的坎坷之路也如出一辙。 

尽管生成式AI可能会继续产生幻觉，但后端AI将不遗余力地为整个行业发光发热。持续改进、训练和接触高质量的结构化数据，将是确保人工智能臻于卓越的必要条件。实践证明，在实现完美的路途中，最后一英里的终极挑战（细微的差别、不可言喻的人情味、未预见情况的应对之策）往往都晦涩难懂。但晦涩难懂并非不可实现。虽然AI幻觉现象带来了一系列独特的挑战，但也凸显了人类协作在AI开发和部署中的重大意义。 

随着企业和技术专家持续开发用于提高AI性能的战略，业界对其有能力实现行业变革的信心不断提升。完善AI的旅程遍布荆棘，但对于跨越“最后一英里”鸿沟的不懈追求正是人们共同向往美好未来的良好例证。未来，AI解决方案不仅近乎完美，而且值得信赖、高度可靠，将成为解决世界上一些最紧迫挑战的关键利器。