专题:博鳌亚洲论坛2025年年会
3月26日消息,在2025年博鳌亚洲论坛年会期间,新浪财经对话德勤中国科技、传媒和电信行业主管合伙人程中。
关于如何防范AI使用过程中的风险,程中对新浪财经表示,现在大模型工具有很多不足,而AI的性能和实用性取决于算力(硬件资源)、算法(模型架构与优化)、知识(数据质量与规模)三大核心要素的协同作用。他认为,之所以有时候AI提出来的东西有幻觉(看似合理但实际错误或虚构的信息),本质上是当前技术架构与训练方式固有局限的体现。比如在机制方面,AI基于统计概率生成文本,通过海量数据学习词语/概念的关联模式,而非真正理解事实。在逻辑合理性方面,模型输出的“合理性”仅反映语言结构的概率分布,而非事实准确性。在数据偏差方面,若训练数据包含矛盾、过时或未标注的虚构内容,模型可能混淆真实与虚构边界。