人工智能在教育应用中的伦理风险与理性抉择

作者简介:
冯锐,博士,扬州大学新闻与传媒学院教授,博士生导师,研究方向:网络教育应用,新媒体开发与应用,信息化教学设计、学习科学与技术设计,江苏 扬州 225009;孙佳晶,扬州大学新闻与传媒学院在读硕士研究生,研究方向:人工智能教育应用,信息化教学设计,STEM教育,江苏 扬州 225009;孙发勤,博士,扬州大学新闻与传媒学院讲师,研究方向:MOOC建设质量评估,教育大数据,教育数据挖掘与学习分析,江苏 扬州 225009

原文出处:
远程教育杂志

内容提要:

教育是人类社会文明发展的重要领域,人工智能在教育领域的应用,对教育产生了革命性的影响;同时,也给教育伦理带来了一系列风险和挑战。人工智能在教育应用中导致的伦理困境和可能面临的伦理风险,主要表现在人工智能与教育主体的权利嬗变、算法推荐与学生个性的发展异化、人工情感与人机互动的情感危机、智能感知与教育数据的价值困境这四个方面。为了防范和消除这些伦理风险,“以人为本”“以德为先”“以法为界”是人工智能在教育应用中的理性选择,教育责任则是“可信赖的人工智能应该做什么”伦理准则的实践指向。


期刊代号:G1
分类名称:教育学
复印期号:2020 年 10 期

字号:

      [中图分类号]G420 [文献标识码]A [文章编号]1672-0008(2020)03-0047-08 DOI:10.15881/j.cnki.cn33-1304/g4.2020.03.005

      新一代人工智能技术的飞速发展,正在引领新一轮科技革命和产业变革,引发和重构新的行业结构和行业形态。教育是促进人类文明发展的重要领域,而人工智能技术在教育中的应用,正在推动互联网教育进入智能教育发展的高级阶段[1]。利用人工智能技术提高教育服务水平,促进教育的创新发展,让人类教育变得更加智慧,这是人们对人工智能带给教育变化的期待和愿望。人工智能作为一种沉寂了几十年,然后近几年才厚积薄发的一种尖端技术,它引领和促进教育创新发展的潜力毋庸置疑。但是,人工智能在教育领域的创新性应用,也冲击和改变了整个教育系统生态和教育秩序,尤其是教育文化、教育中的人伦关系、教育结构和教育价值等诸多方面。由此,也产生了一系列伦理问题,如,削弱教师地位,侵犯学生自由,加大教育不平等,对教育正向价值的压制,对教育育人价值的僭越,教育对人工智能的依附等等。只有对人工智能在教育应用中所引发的社会和伦理问题进行研究,从而在一定的教育伦理建制内对其进行有效规范,才能发挥其对教育积极的一面,避免消极的一面;才能有效实现人工智能推进教育智能化发展的美好愿景。

      一、人工智能给教育带来的“技术陷阱”

      在教育领域,从来不缺乏利用新技术进行变革的热情与野心。长期以来,教育的规模化和程序化模式饱受诟病,人们一直在积极期盼和探寻着通过技术的驱动,能给这种工业化教育体系带来变革和创新。自20世纪90年代以来,随着计算机、互联网、物联网、云计算、大数据、自然语言处理等技术突飞猛进的发展,信息技术已经从2G发展到5G,从有线连接发展到无线连接,从二维空间发展到三维空间。互联网的快捷性、便利性、清晰度和诉诸不同感官的信息形态不断发生的革命,加上数字化、云计算、可穿戴计算、人工智能的整体性突破,正在推动着学校教育向泛在教育、集体化学习向个体化学习、纸笔学习向屏幕学习的转变。工业革命以来标准化教育的弊端,有可能被彻底扭转,人们梦寐以求的从“以教定学”向“以学定教”的转变,真正成了可能[2]。然而,人们在利用人工智能促进和推动教育创新发展的同时,人工智能的教育应用却可能引发教育主体权利嬗变、学生个性异化、情感危机、教育价值丧失等“技术陷阱”。

      (一)人工智能与教育主体的权利嬗变

      教育主体是相对于客体而言的,它是教育过程中的教育实践的组织者和实施者[3]。对于教育主客体关系的认识,现代教育观念抛弃了以往教育者和受教育者相互对立的主客二元关系,认为教育者和受教育者是一种主体间的交往实践关系,二者之间广泛存在着相互联系与交互影响。作为主体的个人不再排斥其他主体,不再把他人看作征服、占有的客体,人类的生存已经步入共生性的存在。以课程、教材为载体的教育内容,构成他们共同作用的客体[4]。他们“借助于人类共同的文化、语言和劳动工具”,在主体间展开交往实践活动。

      什么是人工智能?这是一个看似简单却又难以给出明确界定的概念。人们对它最朴素的理解就是人造的智能,它是社会发展和技术创新的人造产物。人们对人工智能的期待不在于让它充当“工具”,而是要最终成为能够理解人,拥有与人类类似的情感和思维方式,并且能够成为帮助人的“顾问”[5]。从人工智能在教育应用的发展历程来看,其在不同的应用阶段,承担的教育角色和发挥的教育功能不尽相同。历史上有很多比较著名的智能教学系统,如,SOPHIE、MYCIN、GUIDON等,这些系统在培训和教学过程中扮演了辅导者、教练、评价者等多种角色,完成了基于领域知识和已有经验进行教学决策和指导的教学任务;最新集成了新一代智能技术开发的LearnSmart、Knewton平台、松鼠AI自适应学习系统、AI助教Jill Watson以及科大讯飞的阿尔法蛋机器人、美国麻省理工学院的Tega机器人、Anki的玩具Cozmo机器人、机器人教练阿尔法2号等,都能够完成智能辅导、智能答疑、智能出题、智能评价、智能学伴等教学任务,扮演着教师、学生、同伴、领域专家等教育角色。可以说,人工智能在教育“行动中”的“智能”表现并不一定逊色于人类个体,甚至超过了人的“智能”。原本在教育中由教育者和受教育者组织和实施的一些教育教学活动,如今却渐渐被人工智能和智能机器人所替代和完成。那么,这对教育会意味着什么?

      近年来,人工智能在教育中的应用,实际上已经引起了人们对教育主体的担忧和思考。主要担忧人工智能的应用是否会真的取代教师:当教师遇上人工智能,究竟会发生什么?人工智能技术出现后,教师真的会被取代吗?人工智能时代,还需要教师吗?这些疑问从一个侧面反映了人们对于教师主体性的担忧。人类的教育本质明确地告诉人们,教师肯定不会被取代,教师职业也肯定不会消亡。但是,人工智能发展的历史告诉我们,人工智能的教育应用必然会消解和重构教师的主体地位。其实,人工智能也冲击和影响了学生的主体地位,现在开发的很多学伴机器人和智能搜索引擎,已经成为学生自主探究学习和合作学习的得力助手和学伴,有些还具有情感陪护、数字娱乐等功能。基于人工智能的教学软件能够根据个人需求定制学习,将学习者相互联系在一起,提供获取数字材料的机会,支持分散学习,并以有意义的方式让学生参与进来[6]。

相关文章: