3月1日,以“AI驱动的人文社会科学理论创新与范式变革”为主题的2025人文社会科学智能大会(Artificial Intelligence for Social Sciences and Humanities)在复旦大学成功举办。来自国内外政府、产业界、学术界和研究机构的400余名领导与专家齐聚一堂,围绕“AI4SS社会智能体与复杂系统”“AI风险识别与智能决策”“AI4H中华文明源流建构与传承”“AI伦理与治理:安全可信与价值对齐”等议题展开深入探讨。会上发布的国内首部《未来已来——人文社会科学智能发展蓝皮书》为相关研究和实践提供了重要参考。
浙江省基础教育研究中心执行主任、tyc3556太阳集团城网址李云星教授应邀出席大会,并在分论坛上作主题报告,围绕“AI伦理与治理:安全可信与价值对齐”这一重大议题,发表了“通用大模型教育应用的价值风险及其防范”的主旨演讲。李云星首先从通用大模型的伦理价值框架切入,构建了教育大模型的专用伦理价值框架,并通过模拟测试问题,深度剖析了通用大模型在教育应用过程中可能产生的价值观偏差与伦理风险。
报告指出,通用大模型往往因训练数据和算法等因素,隐含特定价值观偏差。国外大模型在涉及中国政策立场时,容易带有偏西方的价值渗透;而中国本土大模型也可能因知识蒸馏等技术原因仍然残留部分西方中心主义倾向。此外,由于教育领域的特定价值观需求与大模型的价值伦理规范常有不匹配之处,尤其在敏感性问题上,大模型出于监管考量选择回避回应,而教育实践却需要明确、正向的引导立场。
对此,李云星提出了强化AI技术价值对齐机制、推动技术向善伦理的教育转向、提升使用者伦理素养与技术能力等多维度风险防范策略。他同时指出,目前研究仍存在测试样本不足、研究规范性不够等问题。未来将进一步完善教育大模型价值对齐的框架、标准和数据集建设,并加强跨学科协同攻关。
李云星的报告在会议上引发了热烈讨论。复旦大学杨庆峰教授、上海交通大学闫宏秀教授就“通用大模型的价值问题”及“教育大模型如何应对人工智能的欺骗性”等话题,与李云星展开了深入的学术对谈。与会专家一致认为:中国教育大模型的开发及其价值对齐问题至关重要,亟需深入、协同研究。