全国人大代表、科大讯飞董事长刘庆峰(摄影/董莹)
人工智能时代已来,加快落地见效迫在眉睫。“人工智能+教育”应用建设的预算从哪儿来又该怎么花?“人工智能+医疗”的标准规范该怎么构建?人工智能生成内容怎么确保可靠?2025年全国两会期间,全国人大代表、科大讯飞董事长刘庆峰在接受政府采购信息报记者采访时对上述问题一一进行了答复。
教育领域AI产品和服务
不仅采购硬件也要采购持续软件服务
2025年1月,中共中央、国务院印发的《教育强国建设规划纲要(2024-2035年)》,为我国教育强国建设绘就了一张“蓝图”,其中明确提出“促进人工智能助力教育变革”,包括打造人工智能教育大模型等。
可见,未来十年人工智能教育大模型需求将越来越多,各学校怎么采购才能实现物有所值呢?刘庆峰代表认为,人工智能教育大模型的建设,不仅要采购硬件,还要考虑采购持续的软件服务,这样建设的大模型才好用。因此,政府采购要改变重建设轻服务的模式,给人工智能运营服务提供经费保障。
据了解,目前我国基础教育阶段的人工智能应用建设主要依靠教育信息化经费的划拨支持,因生均经费有限且支出结构较传统,难以支撑人工智能教学的开发和应用。
为此,刘庆峰代表提出三点建议:一是优化生均公用经费支出结构。一方面通过政策引导,在生均公用经费支出中提升人工智能投入比例。另一方面给学校购买AI服务的自主权,鼓励按应用成效付费。二是加大生均公用经费投入。结合各地区经济发展水平和教育实际情况,提高义务教育学校生均公用经费基准定额,用于人工智能教育的发展。三是推动教育AI应用和服务纳入政府采购体系。例如将智能学习终端、智能教师助手等教育领域AI产品和服务分阶段纳入《政府采购品目分类目录》,建立动态品目分类体系,指导和支持教育单位规范、有序采购AI相关产品及服务。
采购需求是实现“物有所值”的关键,那么教育领域AI产品和服务的采购需求怎么标准化呢?刘庆峰代表告诉记者,标准化的核心体现在三个方面:一是定义产品形态,是软件还是硬件,是本地部署还是现场服务等;二是定义应用场景,是老师用还是学生用,是上课用还是课后用等;三是定义性能指标,是否满足教育领域基本性能等。
系统构建“AI+医疗”标准规范
有条件的区域先行先试
大模型技术在医疗临床、服务、管理等领域的应用越来越广泛。梳理全国采购数据不难发现,近年来,每年都有数百个“人工智能+医疗”类政府采购项目实施了采购。但在实践中,因“人工智能+医疗”缺乏标准规范,面临数据安全、医学专业性及伦理风险等诸多问题。
“系统性构建‘AI+医疗’标准规范,推动行业良性健康发展。”刘庆峰代表建议,应制定医疗健康行业大模型应用技术标准与测试规范。注重大模型技术创新的临床实践价值检验,确定权威第三方评测机构和信息公布机制,选定有条件的区域和科技企业先行先试,制定应用技术标准和测试规范。
“医疗领域专业且严谨,人工智能大模型须满足国家相关标准规范要求,例如人工智能大模型是否通过国家职业医师资格考试,是否通过行为应用技术标准测试,是否经过临床正规检验流程等。”刘庆峰代表说。
建立安全可信的信源和数据知识库
定期清理幻觉数据
用过通用大模型的可能都有同感,生成内容真假难辨,怎么确保大模型生成内容真实可靠呢?
刘庆峰代表认为,预防大模型生成胡编乱造“幻觉数据”,首先,大模型的基础数据要干净。如果基础数据不靠谱、错误,那么大模型生成的数据自然也不靠谱、错误;其次,对专业领域的专业数据进行专门训练;第三,数据实时联动。动态联网数据与专业领域非联网内部数据实时联动,从而快速把网上最新数据和内部专业数据与大模型打通。
“预防大模型生成‘幻觉数据’带来的危害,须从技术研发和管理机制上构建可信的信息环境。”刘庆峰代表说。他建议,一方面,构建安全可信数据标签体系,提升内容可靠性。建立安全可信、动态更新的信源和数据知识库,对不同类型数据的可信度和危害程度建立标签体系,降低人工智能幻觉出现概率,提升生成内容可靠性。另一方面,研发人工智能生成内容幻觉治理技术和平台,定期清理幻觉数据。研究幻觉自动分析的技术和软件平台,开展幻觉自动分析、人工智能生成内容深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源,由中央网信办、国家数据局等部门定期清理幻觉数据,为公众提供人工智能生成内容幻觉信息检测工具与服务。