AI化身为“抓睡”神器 越来越先进的监控技术会否适得其反? 

更新:
2023年09月08日 23:07
AI化身为“抓睡”神器 越来越先进的监控技术会否适得其反? 

过度监控使人不安

课程内容太无聊、老师讲课太无趣,抑或是休息睡眠时间不足?相信不少人在求学阶段一定曾有过“钓鱼”打盹的经验。

有时能睡得神不知鬼不觉全身而退,有的时候则逃不过老师的法眼。

但最近有日本的研究人员打算借助AI(人工智能)技术替代老师的火眼金睛,帮后者抓出课堂上打瞌睡的学生,让瞌睡虫无所遁形。

但这种技术,也引发了是否对学生成长有害的争论。

为了帮老师分担工作

这套“抓睡”神器,是由日本大阪教育大学与一家东大阪市的能源公司所联合开发的。

其操作原理是将测量体温的热像仪摄影机与AI系统结合。

当热像仪把学生的热成图像传回给AI系统后,AI系统即可精确侦测学生有没有在教室内睡觉。

开发团队指出,这款AI系统可以侦测出站立、就坐、趴桌乃至坐在椅子上睡觉的姿势,准确度达九成以上。一旦有人“钓鱼”,教师就能透过系统一目了然。

大版教育大学的教授仲矢史雄解释,研发这套系统的目的是为了减轻教师的负担。

一旦老师能从必须时刻留意学生是否睡着的任务中解放出来,他们便可以更专注在教学工作上,同时在系统的提醒下和打瞌睡的学生沟通,鼓励他们专注在课堂内容上。

研究初衷听起来立意良善,但用AI监控学生却也引发了一些批评。

据《南华早报》报道,日本中央大学社会学教授辻泉说:

“这是一种用来控制人类的科技,我不认为这能帮助教师更好地教育学生。”

他认为“抓睡”神器的使用方式须有清晰的规范,否则放任使用将对孩童有害。

“抓睡”神器号称能捕捉学生在课堂上的各种姿势,准确度高达九成。(Freepik)

过度监控使人不安

外界对“抓睡”神器的担忧不无道理。

即使不说学生,职场中的成人往往也对过度监控感到不舒服。

根据美国心理学会今年4月进行的一项调查,员工士气低落和被雇主使用电眼、电脑软件或其他科技方式展开监控有关。

调查显示,那些被雇主采用科技监控及追踪的员工,更容易比没被监控者感到不安、更倾向于觉得老板“管太多”,甚至更可能出现工作倦怠及过劳的情形。

打工一族尚且如此,心智还未健全的学生若被AI严密监控,更是不可承受之重,恐怕对学习及性格养成造成更多负面影响。

调查发现,被雇主监控的员工更有可能出现士气低落及工作倦怠等问题。(海峡时报)

AI监控非首遭

印度警方2021年曾宣布要在犯罪热点地区加装AI监视器,透过捕捉女性的表情变化,研判其是否受到性骚扰,并第一时间通知警员到场。

当时便有民权团体反对这项措施,认为这形同侵害女性的个人空间,恐有道德隐私及相关数据遭滥用的风险。

极度重视人权的法国也因计划在2024年巴黎奥运上使用AI辅助监控而招致批评。

这套研拟中的监控系统将把电眼及无人机摄像机的监控画面由演算法处理,即时侦测可能构成危险的行为,包括不寻常的人群移动或弃置的袋子,一旦有危险便向警方示警。

但批评者担心,法国当局的做法将在欧洲开启前所未见的监控先例,将安全系统过度扩张是非必要且危险的。没有人会对无时无刻的过度监控感到舒服,哪怕自己问心无愧。

法国当局有意在2024年巴黎奥运采用AI辅助监控。(路透社)

不论是日本的“抓睡”神器,还是印度及法国的治安监控系统,最常引发的质疑便是这类监控措施可能打开缺口,使社会监控无序扩张。

以治安监控系统为例,任何形式的监控系统都无法避免对个别民众的面孔及行踪进行搜集,必然引起个人资讯遭滥用或外泄的担忧。

在英国作家乔治·奥威尔(George Orwell)的经典乌托邦小说《1984》里,那个无时无刻监控人们的“老大哥”(Big Brother),导致人们在极权社会中行尸走肉般活着的情节,是时至今日依然受用的警示。

如果课堂上有“老大哥”、职场上有“老大哥”、公共场合上也有“老大哥”,最终人们究竟还能在哪里躲避无处不在的监控?

无可否认,AI技术有巨大潜能,监控系统也有其必要性,但必须划下界限,避免其无序扩张,最终反噬人类世界,这是科学家、各国政府及全人类必须时刻警惕的。

想分享你的文章?

请电邮:antseditorial@redants.sg