AI强扭出的“好学生”,不甜

近来,AI屡屡登上头条。

8月31日,AI换脸APP“ZAO”刷屏朋友圈后就被用户质疑,分享链接被微信屏蔽;9月1日晚,一张有关旷视科技的AI课堂行为分析图在微博上引起不少网友的争议。旷视随后发布声明称,该图片为技术场景化概念演示。

这张图为我们展示了这样的信息,利用AI不仅可以统计课堂中学生的举手、阅读、听讲次数,还可监控学生趴桌子、玩手机和睡觉的次数。

AI强扭出的“好学生”,不甜

不管是ZAO还是AI课堂行为分析,戳到网友心坎的主要因素都是因为隐私保护问题。

无独有偶,近日,瑞典北部城市一高中因为引入人脸识别考勤,违反了欧盟《通用数据保护条例》,导致该市政府被罚款20万瑞典克朗。

隐私问题似乎成了AI前进道路的一颗绊脚石。

一张图片引发的争论

近年来,由于政策、资本和技术进步等因素推动,AI+教育成为人们关注的热门话题。因此不少技术或教育公司纷纷探索AI在教育中的应用。

在AI领域积累颇深的旷视也不例外,教育也是其输出AI能力的一个场景之一。这张图中分析统计学生举手、听讲和睡觉的次数主要是借助人脸识别、人体识别等技术。

由于这张图片被广泛传播,9月2日晚,旷视科技在其官方微博紧急发布声明称,该图片为技术场景化概念演示。言外之意,就是这张图片只是一张蓝图,还未真正落地学校实施。

在声明中,旷视表示,始终坚持技术向善,让人工智能造福所有人。在人工智能技术的各种场景中,旷视会坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。

AI强扭出的“好学生”,不甜

而网友们的讨论也是主要集中在隐私保护层面,这反映出多数人其实针对的不是技术本身,而在于怎样合理的使用技术。

松鼠AI创始人栗浩洋就此向雷锋网(公众号:雷锋网)表示,AI监控学生,这个到底属不属于隐私,其实是要我们对监控的定义要有一个清晰的界定。

“首先,我们比较清晰的界定就是在公共场合、广场街道、酒店大堂的监控,这些肯定是不属于隐私的。另外,在私人领域或者几个人的包间场所的监控肯定是侵犯人的隐私的,比如说人在家里,那么这种监控是违反人的隐私的。但学校是一种半私人的场景,那它既不是一个公共的,谁都可以去的,也不是完全属于一个人的个人隐私的一个场景。所以,我认为现在是没有直接的界定。”

由于涉及到学校这个主体,雷锋网就该事件采访了北大附中朝阳未来学校语文教师唐伊豆,她表示,这项技术立刻让她想起了福柯笔下的全景敞视监狱。如果学生都规规矩矩、按部就班,反倒非常伤害学生的多样性与校园文化建设。

“我个人对这项技术的态度比较保守。实际上,我认为它仍然是在很传统甚至陈旧的思路上进行设计,从目前的实践来看,虽然它在某些方面加强了校园安保,但是整体上简单地将老师和学生置于看与被看、管理者与被管理者的权力关系中,这是很粗暴的,背后实在缺乏对师生关系的想象力。”

此外,唐伊豆老师不赞成将课堂教学评价功能进入课堂。她认为,表情分析更是直接将“人”抽离了出去。她举个例子,在语文课堂上,学生在构思文章时发呆,或者为同学讲述的故事而难过,这都是很正常的,“这些幽微的情绪是不可能也不需要被机器捕捉的。教学互动中有很多模糊地带,这正是其生动的、人性化的魅力所在。”

而某位不愿意透露姓名的老师告诉雷锋网,他认为利用AI技术分析学生课堂行为,可以帮助老师更好地了解学生的课堂行为,从而改进自己的教学。

“比如,讲到某个知识点时,大部分学生都在发呆,老师课后就可以再针对性地补充。但是,如果技术运用不当,也会产生负面效果,比如AI检查到学生发呆,老师因此去惩罚学生,这样是不可行的,会引起学生的逆反情绪。”

“AI课堂行为分析”是否侵犯了学生的隐私?

按照旷视的说法,那张图片只是一个概念演示,但现实中其实有不少学校已将AI应用于课堂中监控学生的行为。

据澎湃新闻报道,近日,中国药科大学已在两间教室试点人脸识别系统。该系统不仅可以人脸考勤,还能全程监控课堂的行为,例如统计学生是否在听讲、玩手机、打瞌睡等等。从描述上看,这套系统的功能基本与旷视的概念演示是相同的。

该校图书与信息中心主任表示这套系统是为了减少学生逃课、早退以及上课走神等行为。关于是否侵犯学生隐私,他表示已向公安和法务咨询,教室属于公开场所,不存在侵犯隐私的说法。

AI强扭出的“好学生”,不甜

中国药科大学的人脸识别系统(图片截自:梨视频)

唐伊豆老师则认为,教室里是存在隐私的,它不是完全的公共场合,更像是一个特定的师生群体共有的空间。“用摄像头考勤还可以接受,但是采集和监控课堂行为就是一种过度的介入,它暗含着对教师、对学生的不信任,会影响师生共同建设的一个安全互信的、自在舒适的环境。”

一位老师对雷锋网表示,教室里学生也是有隐私的,学生的行为数据不应该共享给所有人,应该设置严格的权限,比如校长、学校安全处等,只给有需要的人针对性地开放部分数据。

另一位老师则认为,利用AI摄像头监控学生考勤和行为,一方面出于保证学生安全、优化管理的目的,这一做法无可厚非。但另一方面,更要考虑适度的问题,教室虽是公共场合,但也要切实保障未成年人的隐私安全,特别是持续要关注该举措对学生心理的持久影响。

由于涉及采集学生脸部和行为信息,这点颇受争议。在栗浩洋看来,在AI教育这个范畴里面的信息,也应该区分信息的类别。

例如,学生不喜欢被监控表情和在课堂的表现,但是学习过程中的学习数据,一般的学生和家长都比较愿意提供。因为他们需要老师、专家来分析评估学习数据,需要系统拿到和通过这些数据帮他们去做更完美的推荐。“最终我认为选择权应该是留在家长和学生手里,而且应该征求家长和学生的同意。”

AI+教育如何更好的结合?

之所以一张AI课堂分析的概念图能引起如此大的反响,无外乎还是人们在担心新技术所带来的未知挑战,尤其是恐惧于将技术用在了错误的方向,以致于带来无法挽回的后果。

尤其是在教育这个特殊领域,任何新技术的应用和创新都会被密切关注,任何瑕疵都会被无限放大。因为教育中最大的成本是时间,这些还未成熟,未经严格验证的产品一旦应用于课堂中,对学生产生的任何影响都是不可逆的,所以不管是学校、家长,还是社会舆论对此都是高度关注。

AI强扭出的“好学生”,不甜

与此同时,国家也在鼓励AI、大数据技术与教育的融合应用。2017年7月,国务院印发《新一代人工智能发展规划》,要求推动AI在教育、医疗等领域的应用。规划中还提到要建设在线智能教育平台,利用智能技术在教学、校园管理、学习分析系统及个性化教育方面进行探索应用。

当然AI在教育中的应用,不止考勤和学生行为分析等校园管理层面。在教学和个性化教育方面,AI主要被用于减轻老师工作负担,帮助学生建立个性化学习路径,实现因材施教。

例如,某些公司开发的智能评卷系统,基于OCR识别、自然语言处理等AI技术,能够对语文、英语作文,简答题以及日常作业实现自动评卷和批改,减轻了不少学校的工作压力。这种教育信息化层面的技术早已在很多学校中得到应用。

一起教育科技CEO刘畅对雷锋网表示,教育本质是让学生学习到知识,并将知识应用到实际生活中。现阶段AI+教育想象空间最大的就是自适应学习领域。

“自适应学习真正从学习的本质提升学习效率,为学生匹配最佳学习路径,最终提升每一个学生的效果。我们认为自适应学习对教学辅助,学习效果和学习兴趣的提升明显,是目前最为合理且前景光明的方向。”

刘畅认为学生的个人学习资料、学习数据这种都是学生的隐私数据,不能被随意调取。对于平台的学生数据,他们会全部进行脱敏处理,并且有严格的安全防护措施。

栗浩洋觉得,AI+教育的方向最重要的是改变,从原来教育千人一面的形式,往千人千面去做因材施教。但是现在AI教育其实只是老师的观察工具,可以让老师看得更仔细了,并没有真正切入到“教”和“育”的过程。所以,真正的AI+教育不应该只是对孩子的一个人脸、表情、动作的识别。

“而最重要的AI+教育就是能让孩子减负80%,能让他们真正的是学自己所不会,而不是浪费时间去学那些自己已经会的内容。那么在减负之外,是对他们孩子的能力的培养,如何用AI系统提升孩子的学习能力,而不只是教他们知识。”

唐伊豆老师认为, AI这项新技术应该在更加积极的方向发挥它对教育的赋能效果,而不仅仅局限在所谓的“管理”、“采集”层面。在需要数据帮助的环节里,怎样避免单一刻板的、自以为是的数据,需要教育者和科技工作者共同来思考。

远昊科技CEO邓艾华曾在采访中告诉雷锋网,在处理校园隐私上,他们采取的办法是,通过分布式系统将各个学校的大数据留存在学校的本地服务器上,只通过云平台获取学生简单的画像信息,以此防止泄露学校数据隐私。将校园的各种数据留在学校中,也是一个解决方案,这也考验了学校的数据保护能力。

如何正确使用技术才是问题

关于隐私的讨论告诉我们,技术不是问题,如何正确使用技术才是问题。网友们对于旷视的那张概念图片的讨论,本质上源自人们对于未知的新技术可能被滥用而产生的恐惧心理。

如果能用AI监控就能培养出好学生,那样的教育简直太轻松了,显然现实并不是这样的。

对于科技公司来说,尤其是AI教育公司,如何将AI技术合理应用于教育场景中,显然是首先要考虑的问题。希望下次AI+教育登上头条,不再是因为隐私保护的争议。

原创文章,作者:ItWorker,如若转载,请注明出处:https://blog.ytso.com/70532.html

(0)
上一篇 2021年8月11日 17:39
下一篇 2021年8月11日 17:39

相关推荐

发表回复

登录后才能评论