可靠性和安全性在工业场景中尤为重要。科大讯飞副总裁刘聪指出，工业场景的稳定性和准确性需求远超普通应用。例如，在核心生产环节中，任何微小的错误都可能导致巨大的损失。安全性问题同样严峻，工业数据的保护和模型安全性都亟待解决，需要行业制定严格的标准和实践。

现阶段的AI主要处于辅助阶段，尚未达到完全自主智能的水平，这给工业应用带来了很多不确定性。以大模型为例，大模型的优势在于其强大的泛化能力，可以在不同的领域和任务上进行迁移学习，而无须重新训练，但无法充分捕捉到某个行业或领域的特征和规律，也无法满足某些特定的应用场景和需求，在真正融入行业的过程中，需要适配不同的工业场景，其核心就是要解决不懂行业、不熟企业、存在幻觉这三大问题。

通用模型的C端用户往往对于模型幻觉有很高的容忍度，而在制造业中，尤其是一些非常严谨和高风险的工业场景，对模型幻觉基本上是零容忍的。只有通过一些技术或是别的AI算法引入将幻觉最小化，或者退一步，让模型可以检查到、意识到哪些输出可能是幻觉，把大模型变得更加可靠、稳定，才能在工业中使用起来，并带来一些颠覆性的突破。

在工业领域，最终我们需要的可能不仅是一个AI模型，而是一个多元化、复杂的AI系统，包含预测型的视觉模型、决策类模型等，必须融合各种各样的技术和学科。

工业企业宜“小步快跑”

据香港生产力局统计，今年针对制造业港资企业的调查显示，18%的企业引入了智能解决方案，仍有很大比例的企业智能化程度相对较低。

香港生产力局下属香港工业人工智能及机械人研发中心总裁黎少斌指出，面对丰富的制造业场景，AI解决方案厂商很难开发出一个唯一的解决方案。在大模型加入后，工业AI应用已经加深，但目前距离做出一个通用的工业大模型尚远，要获取足够的数据也存在困难。

投入产出比是企业考虑AI应用的一个重要指标。“做企业、做工业都有一个不能改变的目标，那就是所有的投入都要产生效益，这是改变不了的，也是我们更看重的。”罗忠良表示，大模型训练动辄上亿美元，这是制造企业投入不起的。因此，制造领域的企业家即使看好大模型，也还是选择小步快跑，而不是疯狂投入。

工业AI落地亟须建立多方协同、合作共赢的产业生态。中国电子信息产业发展研究院副总工程师安晖提出，工业场景的精确度要求与人工智能技术特性间存在矛盾，需要在用户配合下进行调和。工业领域的人工智能应用必须用到机理模型，必须融合运用人工智能模型与机理模型。人工智能技术必须与工业行业的工艺逻辑相结合，仅依靠人工智能技术无法实现应用。人工智能无法完全代替传统行业软件，行业软件企业与人工智能企业的协同非常重要。

“现在大家对AI的期望太高了。”美国国家工程院院士吴建福表示。在他看来，AI对于制造业究竟能产生多大的助力、增加多少利润尚未可知。AI对工业的价值提升肯定是有的，但我们应该降低对他的期望值。