8.1 人工智能在教育治理中的挑战
随着人工智能的发展，人工智能为教育领域带来了多样化、现代化的治理手段。而在当前，教育治理注重政府、学校和教育第三方的相互协调发展，但是在治理进程中的数字化、智慧性和整体性这三个方面带来的问题给人工智能视域下的教育治理带来诸多挑战。我们要高度重视人工智能技术可能带来的一系列风险，进一步明确理念规范，注重价值引导，加强预防和约束，保障数据安全和算法公平，确保人工智能安全、可靠、可控发展。
人工智能技术带来便捷的同时，也衍生出复杂的伦理、法律和安全问题，这些问题中我们应着重警惕数据泄露、数据鸿沟等隐私伦理问题。可以说，伦理学的提出，特别是科技发展带来的应用伦理学，给社会带来巨大的变革，但现有的人工智能在教育治理中却很少有涉及人工智能伦理的。虽然社会上对人工智能伦理问题关注度很高，但缺少实质性的行动，这也就导致了在人工智能伦理教育实施过程中有很多的问题。例如，国内基于数据的人工智能应用还处于一种无序状况，对互联网企业的数据安全约束还不够，对学生的个人隐私信息不够尊重等。人工智能伦理教育要注重意识与实操两个层面，要建立正确的价值导向，扬善避恶；要制定相关教育标准，通过学校开展伦理教育，构建完整的人工智能教育体系。解决伦理安全问题应该两手抓：一是抓教育；二是抓制度建设。现在，我们列举下面五个人工智能在教育治理应用中关键性的问题。
（1）人工智能在教育应用中数据分析模型的科学性有待提高。
人工智能促进教育发展的关键能力是数据建模能力，数据建模能力决定了人工智能在教育应用中的水平，是制约人工智能在教育应用中的深层次的问题，值得关注，也亟待加强。数据建模与分析是人工智能在技术教育应用中的核心生产力和价值所在。数据建模工作应基于数据的可能性，以脑科学、学习科学以及教育学为基础，形成数据分析的模型，再选择算法进行数据分析。在这个过程中，数据分析模型决定了选择哪些数据，如何基于数据进行价值判断，对分析结果起到方向性、决定性的作用。由于数据范式是全新的事物，需要高度综合交叉的创新能力。人工智能教育应用的服务主要来自企业，企业中不乏高水平的计算机和人工智能领域的专家，但缺少具有教育信息化背景的专业人才，更极度缺少具有教育数据建模综合能力的专业人才，以至于目前许多应用中的数据建模水平仍比较低，有些应用尽管呈现结果非常漂亮，但模型的科学性还有待检验。
（2）数据缺乏共融共通，数据质量安全难以保证。
从数据层面看，数据是人工智能技术的基石，是教育治理的基础性资源。但是，因传统科层制体制壁垒的约束，不同行政层级、不同地区和部门之间沟通不畅和协调乏力，引发了教育治理数据传播中的“孤岛效应”。数据难以共融共通的主要问题一是在数据质量上，缺乏标准性和一致性。各行政层级、地区和部门之间的数据资源均由自身监管，在数据采集、存储和开发上缺乏统一标准，在数据库类型、操作系统等方面存在差异。因数据标准缺乏等原因导致上下级政府及部门之间的数据冲突、数据重复和数据冗余等问题凸显。二是在数据共享上，难以实现互联互通。由于缺乏共享的理念、动力和机制，导致教育治理中“信息孤岛”现象增多，不同部门间的数据难以实现开放共享。而且数据很容易带来安全方面的问题，各教育治理主体通过自动化搜集、处理、控制着海量的数据信息，涉及众多教育管理人员和师生的隐私。如果发生数据泄露，则会对社会稳定甚至国家安全产生巨大冲击。各国教育部门和学者都高度重视数据安全，保障数据的安全是人工智能教育和谐发展的基石。
（3）多元教育治理主体缺位。
从主体层面看，人工智能在教育治理中的有效应用需要政府、市场、社会组织和公众等多元治理主体的协同共治。但是面对在人工智能发展背景下，政府关于人工智能教育治理应用的法律法规缺失，科技市场逐利性、侵犯学生数据隐私的案件时有发生，以及公众参与教育治理能力不足的现状，各教育治理主体能否应对人工智能的挑战还有待考量。首先，教育行政机构必须保障人工智能应用于教育事业的合法性和权威性，因此，政府有必要为人工智能在教育领域的应用设置相适应的远景规划、制度安排、伦理规范和技术策略。其次，缺乏规范成熟的市场运行机制，人工智能的持续健康发展难以保障。企业出于逐利的目的，频繁出现买卖、盗窃师生个人隐私数据的案情；加上人工智能技术实施的法律法规尚不规范，公平竞争的市场氛围还未形成，导致政府通过公开招标、购买人工智能相关技术服务的体系依旧不完善。而且现有的具备专业化、较成熟的人工智能组织机构仍相当有限，并对政府部门具有很强的依附性和顺从性，行政化的职业倾向较为明显，难以为教育治理提供权威性、高水平和客观中立的技术服务。最后就社会组织和公众参与者而言，由于其不具备人工智能专业相关的知识能力，难以对教育治理中数据和算法的应用进行监督。
（4）人才不能满足产业发展与实践应用的需要。
人工智能教育是一个朝阳产业，发展非常快。在人工智能教育应用的新阶段，企业不仅是人工智能技术与产品的提供者，还是许多地区促进教育现代化的方案设计者、创新策源地和应用的长期支持者。例如，上海市浦东区在解决教育大数据发展过程中的技术问题时，选择与企业合作，搭建平台，研发系统。浙江省丽水市与高校合作共建“一院三中心”（教育评估院、教育督导评估中心、教育质量监测中心、教育数据中心），与企业合作构建“五纵四横”，实现市、县、校、班、生贯通，学生发展、教师发展、学校发展与区域发展联动。石家庄一中的智慧校园解决方案也与企业进行了深度合作。企业在智能教育发展过程中的地位与作用突显。但是，企业在发展过程中面临的最大困难就是严重缺乏兼具人工智能技术和教与学经验的复合型人才，特别是教育建模人才。在国家政策的呼唤下，高校纷纷设立了人工智能专业，但在时间节奏上，还未批量产出，以人工智能教育人才培养为目的的专业培养方案还很少，这是人工智能专业建设的薄弱环节。
（5）智能治理伦理规范缺失，引发教育伦理风险。
从伦理层面来看，基于人工智能的教育治理引发了多重教育伦理问题。一是教育行政伦理的危机。人工智能将挑战传统教育行政主体的信息角色、决策角色和服务角色，可能引发教育行政主体责任缺失和角色模糊化的危机。二是算法歧视可能导致教育不公平。人工智能的参与是基于其内部的精确算法，系统研发者的主观意志和偏见可能带入算法系统。三是师生信息与隐私泄露的伦理风险。智能终端及机器学习中大量敏感数据的交互使用，使师生面临个人信息与隐私泄露的风险。