专家：认知局限与安全隐忧 成企业落实AI应用最大挑战

尽管 人工智能 （AI）技术在企业经营中的应用日益普遍，但企业整体的AI采用率仍然偏低，除了对AI安全性存在顾虑外，部分企业决策者对AI的认知仍有限，也是影响企业采用AI的因素之一。

曾参与投资开源AI协作平台Hugging Face的天际科技投资（FutureX Capital）创办人张倩，星期四（9月24日）在慧眼中国环球论坛一场主题为“AI落地的企业分水岭”的讨论会上指出，AI的企业应用在过去四年里看似普及迅速，但实际上企业AI应用率的平均水平，仍低于10%。

对此，张倩在会后接受《联合早报》访问时说，企业的决策者对AI的认知不足，是当前企业落实AI应用的最大挑战之一。

她受访时说：“有些决策者可能认为，开始使用ChatGPT就代表企业已经用上AI了，但这其实只相当于成为AI聊天工具的普通用户。部分企业的一把手和决策者仍未充分认识到AI的潜力，也不知道如何真正将AI转化为生产力。”

新加坡科技独角兽智慧芽（Patsnap）联合创办人关典在讨论中也指出，有研究显示大量企业在应用AI后以失败告终，并非是因为技术不成熟，而是组织自身还准备不足。“决策者须先充分了解各种利弊与潜力，做出确信的决策后再推动AI的大规模应用。”

英伟达（NVIDIA）人工智能技术中心全球主管施忠伟博士认为，闭源模型某种程度上加剧了这类困难，导致企业难以将AI技术引入到自身的业务流程中。

施忠伟指出，通过开源路线推动技术普及与应用，才能真正促进企业AI的发展。他说：“开源模型会公开模型权重（weight），用户可以直接采用并集成到自己的模型中。能够采用和应用这些技术的人越多，对整个行业就越有利。”

近年来，不少企业担忧引入AI将危及自身数据与系统安全，因此转向开放权重的开源AI模型，并根据自身的业务数据来部署或训练自己的专有AI，避免出现内部资料泄露。

黑湖科技创办人周宇翔说，他们在为制造业企业构建AI智能体（AI agent）时，也会涉及大量敏感数据。如果仅仅依赖Anthropi和OpenAI等AI企业的闭源模型，会很担忧企业知识与数据等核心资产泄露的风险。

“AI模型的开源模式提供了一种良好的隔离机制，让我们既能利用强大的模型算力，又能兼顾数据隐私，维护自身的竞争优势。”

新加坡鹰阁医院总裁黄瑞达接受《联合早报》访问时也指出，医院已开始在多个领域部署AI应用，但如何确保患者数据安全仍是最大的挑战。他说：“目前，我们使用的服务器都必须部署在本地，临床使用AI辅助时也必须有医护人员在场……这些都是为了保障患者安全而采取的措施。”