微信截图_20240920153326.jpg
用AI替写论文涉嫌学术不端,多校宣布引入AIGC检测服务系统——“AI检测”能否打败“AI论文”
2024-07-31 07:08:00  来源:新江苏客户端·中国江苏网  作者:程晓琳 杨频萍 谢诗涵 张宣  
1
听新闻

前不久,一年一度的江苏省硕士学位论文抽检工作再次拉开帷幕。据透露,今年的抽检将首次探索AI评审路径,提升论文智评水平。利用生成式AI分析数据、用AI工具辅助文献综述……生成式人工智能在给科研带来一定便利性的同时,也给学术道德和规范造成极大冲击,不少大学生开始尝试借助AI改写文章,甚至直接代写论文。为刹住这场席卷而来的学术不正之风,多校宣布在论文检测中引入AIGC检测服务系统,判断学生论文是否使用AI写作。

一些大学生论文AI写作痕迹明显

近日,在悉尼大学留学的学生小严收到了学术委员会的邮件,被判定论文疑似AI写作的部分占比高达75%,将面临被判定为学术不端的后果。

记者在调查中发现,如今不少大学生都会尝试用AI辅助论文写作。南京大学生周瑞告诉记者,自己正在准备硕士毕业论文开题报告,她偶然在社交平台发现有人在推荐AI整理文献综述,便试了一试,“在网上筛选出文献后,上传到AI大模型平台,向AI下达指令,让其开始撰写文献综述,不到半分钟,AI就能完成对文献的阅读并生成文献综述。”

与其他同学一样,周瑞也尝试过用AI写论文,但很快她就发现,AI写出来的论文具有明显的“非人类写作”特征。比如,AI常常使用大量的首先、其次、最后等表示顺序的连接词,且句式较为单一,表达较为机械,缺乏人类语言的多样性和灵活性。“其实老师能看出来文章是否是AI写的,而且AI写的论文较为死板,不可能拿到高分。”

用AI代替人类写论文,导致部分大学生对AI过于依赖,降低了思考能力和学术水平。周瑞告诉记者,已经有不少课程教师明令禁止使用AI替写论文,违者将取消作业成绩。

AI写论文也让一些商家看到可乘之机,将学术变成“生意”,助长了学术不端之风。记者在某网络购物平台检索发现,有上百家提供AI写作的服务商,其中一家热销店铺显示“24小时内97人已买”,而在评论区,也有不少评论反馈“不好用,AI味很重”。

记者联系到一家名为“AI写作大师”的AI论文写作服务提供商,对方表示可以提供毕业论文、课程论文、实践报告等10余种AI代写服务,每千字10元,只需要提供论文标题、学历层次、论文关键词、字数等信息,就可以在20分钟左右生成范文。记者进一步询问是否会被检测出是AI写作?对方表示,去检测AIGC率是有概率被检测出来的,建议可以使用降AIGC率的辅助工具或者自己进行修改,从而降低AIGC率,并且要求消费者能接受机器生成带来的误差和局限性,付款后除非系统生成失败,否则不接受任何形式退款。

除了生成内容,还有不少大学生使用AI降低论文重复率。近日,南京大学生刘芯在提交课程论文时,发现重复率高达36%,于是便使用某国产大模型“降重”。她对AI发出指令:请将这段话改写,通过调整语序增减字数,替换同义词等方式,避免与原文出现连续8个字相同的句子,使这段话更有逻辑,符合论文的规范。“通过一晚上的尝试,论文重复率降到了15%。”

有专家提醒,由于目前很难判断AI生成的内容源自何处,是否为原创,有可能在使用时将虚假信息或是受版权保护的信息掺杂到文中,产生侵犯知识产权的风险。

“写作神器”还是“偷懒神器”?

记者了解到,多数学生使用AI写论文的原因,是为了节省时间。为什么AI写作可以这么快?“这其实与AI写作系统背后的大数据模型有关。当用户给出主题词,AI便会从海量的语料库采集相关信息,随后模型会根据用户需求,推断出满足要求的文字。理论上来说,如果语料库中的信息量足够大,那么AI写出来的文字可以达到真人写作的效果。”东南大学网络空间安全学院副教授宋宇波说。

尽管如此,仍然时常有人吐槽AI会“一本正经地胡说八道”。宋宇波认为,其最主要原因在于,模型的推断和预测本身并不像人一样具备思考的能力,而只是基于现有语料库中的内容重新进行文字组合。“这是目前大模型领域的一个技术缺陷,也被称为‘幻象’。换句话说,当用户所提问的内容与大模型语料库中的一些内容正好相符,那么AI写作生成的内容就会很符合现实;而如果用户提问的内容与语料库中的素材不相符,那么大模型常常会生成一段看上去符合人类表达逻辑的语句,但这些内容很可能是虚假或者错误的。”

当AI已经成为很多大学生的作业帮手时,学校也必须应对AI对教学可能带来的冲击。“过去我们在学术写作的考核评分中,有50%是针对语言的应用,另外50%针对文章的布局把控和细节的详尽程度。”西交利物浦大学语言学院教学副院长夏令表示,由于AI的出现,老师们也针对性地增加了后者的考核权重。

夏令还发现一个比较有趣的现象,“当学生越来越多使用AI助力时,写作作业的质量逐渐出现两极分化的趋势,强的学生更好了,弱的学生更弱了。”夏令猜测,可能是AI让平时成绩较差的学生有了更多“偷懒”的机会,而成绩较好的同学则可以借助于AI技术更好地提升作业的质量。夏令认为,人工智能正对教学模式、考核标准等产生重要影响,“比如我们在尝试将过去单纯的写作考核转变为项目制考核,增加纸笔考试、提高口语表达考试的比重等。”

AI确实可以助力很多工作,在日常学习中不可避免地成为一些学生的“偷懒神器”。夏令说,“AI可以在几分钟内快速生成好几周才能写出来的文本,一些学生很难不受到诱惑,而且目前传统的查重检测方法也无法有效识别,我们在教学上的应对方法非常有限。同时,应该如何评判学生对于AI的使用,学生是否尽到其应尽的努力,目前来看也没有确切的答案。”

“但是,我们必须提醒学生的是,AI有其先天不足。”夏令以文献综述为例,AI工具所能接触到的是可以免费访问的文件,有些收费的文献库是搜不到的,这导致文献综述的结论往往是不全面且失之偏颇的。夏令表示,做科研,AI只能做到“快速领路”,但每一篇关键文献还是要扎扎实实地阅读和消化,否则真正的知识会离你越来越远。

厘清AI写作边界遏制学术不端

今年4月26日,十四届全国人大常委会第九次会议表决通过《中华人民共和国学位法》,将于2025年1月1日起正式施行。学位法第三十七条规定,学位论文或者实践成果被认定为存在代写、剽窃、伪造等学术不端行为,经学位评定委员会决议,学位授予单位不授予学位或者撤销学位。有专家分析,AIGC技术可以用于辅助学位论文写作,但是不能用于代写。AI写出的论文并非学生自己撰写,属于“代写”范畴。

在宋宇波看来,适度使用AI技术可以帮助学生快速便捷地寻找答案,并将精力集中在核心问题的思考上;同时,AI技术还可以对文章进行润色,使得语句表达更流畅更合理。“然而,一些学生放弃了自我思考,过度依赖AI技术去生成答案,甚至使用AI代写专业课程所需的论文,这是一种学术不端的行为。”

宋宇波说,就目前而言,真正想要杜绝AI代写论文比较难。一般来说,判断一篇文章是否为AI代写的手段主要有两种,一种是使用AI检测工具,另一种则依靠人工经验判断。“AI检测工具实际使用下来准确率并不高,且比较容易造成误判,因此只能作为辅助。而人工来判断则费时费力,效率低。”

使用AI检测工具判断文章是否为AI生成,目前已有部分论文重复率检测软件开始“试水”。记者了解到,多家论文重复率检测平台已开通AIGC检测功能,识别文本是否部分或全部由AI模型生成。但也有用户反馈,用AI去检测文章是否为AI生成难以确保科学性,一些原创的片段也被AI系统认为是AI写作而成的,只要是稍显生硬的文字就可能会被判定为AI写作,例如“系统的设计与实现不仅为银行带来了直接的经济效益,更为银行长远发展策略的制定和执行提供了科学、系统的技术支撑,具有重要的理论价值和广泛的应用前景”这句话被判定为疑似AI写作的概率为80%,而改为“系统的设计与实现给银行带来了直接的经济利益的同时,也为银行的长远发展策略的制定与执行提供了科学系统的技术支撑,在理论上具有十分重要的价值,其应用前景十分广阔”,疑似AI写作率就降到了0。

不可否认的是,AI创作大模型的精进给高等教育带来了一定风险。但也有专家认为,面对技术浪潮,“鸵鸟心态”不可取。与其逃避,不如正视问题,厘清AI论文写作的边界,比如可以在文献综述等方面适当使用AI提高效率,但在AI代写论文上严加监管。

今年,中国传媒大学、华北电力大学等高校相继发布通知,宣布将在毕业论文审核过程中加入对文章使用生成式AI风险情况的检测。南京工业大学则要求每位学生在毕业论文答辩前原则上均需查重,并将对论文进行AIGC检测。

宋宇波认为,之所以一部分学生倾向用AI技术生成答案,甚至代写论文,其背后的一个重要原因在于这部分学生尚未建立正确的学术道德观。这也意味着,一方面我们要帮助学生树立正确的道德观、价值观和学术观,另一方面要建立相应的处罚制度,使得抄袭作假成本提升。“此外,我们还需要进一步完善优化相应的检测工具,尽可能遏制学术不端现象。”

记者 程晓琳 杨频萍 谢诗涵 张宣

标签:
责编:戴凌 易保山