AI当“科研搭子”,你真的放心吗?
同学们,你有没有过这样的经历:写作业时遇到不会的题,赶紧问一问AI小助手,它「唰」地一下给出答案,你高高兴兴地抄进作业本。可是,如果它给的答案是错的呢?
最近,安徽财经大学就发生了这样一件事。有位大哥哥大姐姐在写论文的时候——论文就像是大学生的一份超长作业,要写好多好多页,还得引用别人的资料,来证明自己说得有道理。写完后,有人发现,这篇论文的注释里提到的一份法院判决书,它的编号竟然是不存在的,像是凭空编出来的。
注释是什么呢?你可以把它理解成论文里的「小括号」。就像你写「月亮绕着地球转(见《十万个为什么》)」,括号里告诉大家,这个知识是从哪儿看来的。而法院判决书编号,就是那份法院文件的「身份证号码」,每一份都不一样。
事情被发现后,学校马上展开了调查。结果发现,这位作者并不是故意造假,而是在写论文时「误信」了人工智能给出的检索结果。AI就像一个特别自信的小伙伴,说起话来头头是道,可它给出的那个编号其实是错的,甚至可能是它自己「编」出来的。
学校最后认定,这属于使用人工智能不当造成的问题。
这件事让很多研究大人都开始讨论:AI能帮我们查资料、想思路,确实很厉害,但它也会「一本正经地说错话」。所以,请它帮忙可以,最后一定要自己再核对一遍,就像写完作业请爸爸妈妈检查一下那样。
AI是个好帮手,但它不是「万事通」。真正靠得住的,还是我们自己的眼睛和脑子。
🧠 知识点
- 论文注释是标明资料来源的地方,就像作业里的小括号,告诉大家这个说法是从哪儿看来的。 你知道吗?法院判决书都有自己的编号,就像每份文件独一无二的身份证号码,是不会重复的。
- AI有时候会「一本正经地说错话」,因为它太会编出听起来很像真的内容。 你知道吗?大人们给AI这种编错话的现象起了个名字,叫「幻觉」,就像它做了个白日梦。
- 学校最后认定,这次事件属于使用人工智能不当造成的问题,不是故意造假。 你知道吗?很多大学现在都有规定,用AI帮忙做研究要先说清楚,就像借了同学的橡皮要道谢一样。
- 用AI帮忙之后,一定要自己动手核对一遍,不能全信。 你知道吗?科学家做实验时,同一个实验常常要重复做好几次,就是为了防止出错。
❓ 常见问题
什么是「论文注释是标明资料来源的地方,就像作业里的小括号,告诉大家这个说法是从哪儿看来的。」?
你知道吗?法院判决书都有自己的编号,就像每份文件独一无二的身份证号码,是不会重复的。
什么是「AI有时候会「一本正经地说错话」,因为它太会编出听起来很像真的内容。」?
你知道吗?大人们给AI这种编错话的现象起了个名字,叫「幻觉」,就像它做了个白日梦。
什么是「学校最后认定,这次事件属于使用人工智能不当造成的问题,不是故意造假。」?
你知道吗?很多大学现在都有规定,用AI帮忙做研究要先说清楚,就像借了同学的橡皮要道谢一样。
什么是「用AI帮忙之后,一定要自己动手核对一遍,不能全信。」?
你知道吗?科学家做实验时,同一个实验常常要重复做好几次,就是为了防止出错。
本内容由好奇喵(晨启10分钟)用AI改写,专为儿童版读者打磨。
🆕 最新阅读
给量子网络“对表”:中国团队把相位锁定做到理论极限
中国团队用多波长联合锁定与贝叶斯估计,让量子网络跨节点相位锁定达到散粒噪声极限。
中国科大实现量子网络跨节点散粒噪声极限相位锁定
科学家让两台量子机器隔空对表,精度达到理论极限。
AI成了“点子王”?CMU和Meta让机器和人类专家比创意
CMU与Meta让AI生成科研点子,请一百多位NLP研究者盲评,结果AI新颖性略胜、可行性稍逊。
AI也会出主意啦!CMU和Meta造出一个“点子工厂”
CMU和Meta让AI学会跨领域出点子
给量子网络“对表”:中国团队把相位锁定做到理论极限
中国团队用多波长联合锁定与贝叶斯估计,让量子网络跨节点相位锁定达到散粒噪声极限。