点击阅读英文原文
在柏拉图的《费德鲁斯篇》中，苏格拉底讲述了一个关于埃及神明托特（Thoth）的故事，他有许多发明，包括写作。苏格拉底提到，底比斯国王塔穆斯曾警告托特，预言他的发明将“在学习者的灵魂中注入遗忘之力”。
“他们将聆听许多事物，却什么也学不到。”苏格拉底如是说。此言见于牛津学者本杰明·乔伊特（Benjamin Jowett）翻译的书中：“他们看上去无所不知，但通常什么都不知道;他们会成为令人厌烦的伙伴，只会炫耀知识，却脱离现实。”
这篇文章可以作为菲利普·道森（Phillip Dawson）断言的证据，即对新技术及其对学习的影响的“恐慌”可以追溯到2500年前。迪肯大学（Deakin University）评估与数字学习研究中心（Centre for Research in Assessment and Digital Learning）副主任道森表示，有时我们有充分的理由担心。例如：“20世纪90年代末互联网的兴起与复制-粘贴这一剽窃行为的增加有关联。”他在最近的著作《在数字世界捍卫评估安全》（Defending Assessment Security in a Digital World）中这样写道。
THE Campus opinion: AI has been trumpeted as our saviour, but it’s complicated
20世纪70年代末，个人电脑和文字处理器的出现，以及20世纪70年代初的袖珍电子计算器的出现，甚至连1444年印刷机的出现，都给学生及其技能带来了意想不到的后果。现在，随着人工智能（AI）驱动的技术变得无处不在，新一轮的辩论已经开启
那些负责维护学术诚信的机构已经在努力跟上先进技术的步伐。最近出现的令人担忧的问题包括各种各样的“词霸”（word spinners），它们帮助学生通过改变一些单词和短语来掩盖抄袭的作品。捷克共和国孟德尔大学（Mendel University）的语义分析专家托马斯·福尔蒂奈克（Tomáš Foltýnek）表示，使用计算机检测通过使用此类自动释义工具伪装的抄袭“非常困难”，有时甚至需要对可疑段落与Turnitin等公司持有的千兆字节级别的数据库进行比对，更是难上加难。
但现在教育家们面临一个越来越棘手的挑战：由人工智能撰写的整篇论文。
福尔蒂奈克说：“这些工具越来越强大。如果学生没有诚实地完成他们提交的作业，那么鉴别剽窃或其他形式的作弊就会越来越困难。”
就连Turnitin也仍处于应对威胁的早期阶段。该公司驻美国首席产品官瓦莱丽·施赖纳（Valerie Schreiner）表示，Turnitin已聘请“领先的自然语言处理分析师”以“应对学术诚信的一些不断演变的优势”。她指出，人工智能可能会为评估工作带来巨大的好处，因为它可以将评估者从繁琐而重复的工作中解脱出来，例如Turnitin的“人工智能助手”工具为需要提供一行文字或数学答案的问题提供“参考答案组”，让学者对给出类似答案的答题者打分并给予反馈。
施赖纳还指出，该公司广泛使用人工智能来捍卫学术诚信。例如，该公司的一款产品使用人工智能来寻找计算机科学作业中提交的代码的相似性。“它必须比文本相似度(探测器)要复杂一点，因为它需要观察结构，而不仅仅是代码或文本。” 她说，“例如，学生可能会改变程序中的变量名，希望躲过检测。人工智能还可以用来检查学生写作中的任何违规行为，比如拼写模式的变化，还用于寻找学生没有完成作业的迹象。”
但一些观察人士认为，用科技对抗科技只是我们所需要的一部分。检测作弊的困难“只更突出了教育的重要性，但是，大学和教师不应该依赖这些技术工具。”福尔蒂奈克表示，“他们需要与学生更密切地合作。”
弗吉尼亚州玛丽·华盛顿大学（University of Mary Washington）的数字研究专家杰西·斯托梅尔（Jesse Stommel）支持这种观点。他说，在技术和剽窃的讨论中，作弊会转移我们的注意力：“我们需要做的是与学生建立积极的人际关系，从而对他们的学习工作、引用方式、剽窃的定，义及识别进行有益的交谈。”他说：“从根本上看，所有这些公司——作弊技术公司和反作弊技术公司——都破坏了这些积极的关系。”
迪肯大学的道森说，部分挑战在于避免陷入评估的固化模式。他说：“我们需要对每一类新的工具进行充分的讨论。”但这场辩论不应被他所称的“评估保守主义”所主导，即由于“对旧做法的熟悉或信任”从而“需要坚持过去的做法”。
他表示，学者们需要考虑人工智能将如何影响“真实评估”，即允许学生在评估练习中使用“真实世界”工具。“我们可能会想，专业人士在未来能接触到什么？”他说，“这是让学生为将要进入的世界做好准备——不仅是现在，而且是未来。如果不给学生机会来决定何时使用这些工具，以及如何最好地利用它们，我们就没有真正提供他们需要的教育。”
在线学习平台Course Hero的首席执行官兼联合创始人安德鲁·格劳尔（Andrew Grauer）表示，大学里成年学生的增多只会更加凸显在评估中复制真实世界条件的必要性。他说，学生和专业人士一样，都在寻找更高效、更快速地完成工作的方法——“学得最多、最快、最好、最实惠”。
他说：“我的文字处理软件上有一个闪烁的光标。这是一种多么压力山大、效率低下的状态啊！”相反地，他可以使用人工智能机器人“提出某种主题陈述，生成一些目标主题句，权衡支持和反对论点的证据。最后，我开始检查语法了。这样我可以很容易地进行议论文写作了。”
露辛达·麦克奈特（Lucinda McKnight）是迪肯大学教育学和课程高级讲师，负责职前英语教师的教培工作，她同意道森的观点，即每一次新技术革命都会伴随“技能丧失的道德恐慌”。她也认同单纯关注消极方面的风险。她说：“这些新技术无论好坏都有巨大的能力。”
就她而言，她一直在与人工智能作家进行试验，想“看看他们能做什么”，并评估她应该如何相应地调整自己的指令。
“当下第四次工业革命正在发生，而学校甚至是大学，在某种程度上似乎与之完全隔绝，我们如何让老师们培养未来的作家?”麦克奈特问道：“我只是很惊讶，大学里数字写作的教学概念和各个行业的实际应用，例如新闻报道、商业报告、博客文章等等网络内容之间有如此巨大的差距。人工智能正在接管这些领域。”
麦克奈特说，人工智能“在增强人类能力方面具有巨大的能力，例如，用多种语言写作，快速写出基于搜索引擎优化的文本;各种各样人类要花更长的时间才能做，也不能做得那么彻底的事情，这是一个有待发现的全新领域”。
此外，未来已来。“在创意领域、文学和艺术领域，人们已经在用人工智能做一些非常令人兴奋的事情。”她说：“人类是如此好奇——我们会开发这些东西，挖掘它们的潜力。作为教育者，我们面临的问题是如何支持学生更有策略地、有效地使用人工智能，成为更好的作者。”
她认为，尽管查重公司正在寻找更复杂的方法来“发现”犯错的学生，但他们也有兴趣培育学术诚信文化。“这是我们都感兴趣的。”她说，“就像计算器、拼写检查、语法检查一样，这项（技术）将融入写作实践……我们需要更有策略地思考写作的未来，与人工智能合作——而不视为异端进行迫害，惩罚使用它的人。”
施赖纳表示，Turnitin正通过使用“Draft Coach”这一人工智能工具，为学生提供直接反馈，帮助他们避免无意的抄袭。她说：“‘你的论文有一个未注明引用的部分。你需要在最后提交之前修改一下。你和维基百科上的某一文章有太多相似之处了。’这种类型的相似性检测和引用帮助直接利用人工智能支持学生的学习。”
但如何界定作弊只会变得越来越困难，她补充道:“花钱请人代写文章永远是错误的。但对于人工智能编写的材料，我觉得这是一个灰色地带。在何种程度或何种教育水平下，使用人工智能工具来帮助你写作会更像使用计算器？我们不允许三年级的学生在数学考试中使用计算器，因为这意味着他们不知道如何做那些我们认为重要的基本计算。但我们让微积分学生使用计算器，因为他们应该知道如何做这些基本的数学运算。”
施赖纳表示，决定学生何时得以使用人工智能工具的是学术界，而不是科技公司。如果规则明确允许，或者学生承认，这样的使用是允许的。
Course Hero的格劳尔表示，关于利用人工智能的归因问题“非常有趣”。当引用或转述别人的作品时，注明出处是必不可少的，但人工智能的作品就无法明显区分，因为人工智能制作内容的方式多种多样。他表示，帮助学生在这一“灰色地带”中导航的一个经验法则是，该工具是否仅仅提供答案，还是也解释了如何得到答案。
他表示，更广泛地说，围绕人工智能的使用和认可的规则，应该由讲师、院长或整个大学制定，以适合他们特定的“学习目标”的方式，这些规则应该在教学大纲、荣誉守则等方面明确表述。
施赖纳希望这样的标准会随着时间的推移而发展，就像传统的学生作业和研究出版物的引用标准一样。她表示:“与此同时，我们需要支持机构客户的要求。”
对于道森来说，大学需要更严格地考虑可接受的“认知减压”的程度，即使用工具来降低任务的脑力消耗。他说：“我认为我们目前在这方面做得还不够好。”
他说，像长除法这样耗时费力的技能，对学生和工人来说“有点没用”，因为计算器是“更好的选择”。但在某些情况下，如果认为认知减压总是可行的，那就可能太冒险了，教育课程必须反映这一点。“如果你在训练飞行员，你希望他们能够在所有仪器都正常工作的情况下驾驶飞机，你希望他们能够有效地利用所有仪器。你也希望他们能够在仪器出现故障的情况下驾驶飞机。”
事实上，尽管人工智能潜力巨大，但在教育和更广泛的领域都存在造成伤害的巨大风险。
麦克奈特引用了美国关于在学生写作评估中使用人工智能的研究。“算法做出的判断意味着那些特立独行、行为反常的学生，或者使用非主流语言的学生，真的会受到惩罚。我们需要非常清楚（人工智能工具）在产生偏见方面的作用。”人工智能具有复制偏见和仇恨言论的潜力，比如微软的Tay“聊天机器人”在2016年发布带有种族主义色彩的推文就是一个例证，这些问题有可能涉及到法律层面。
麦克奈特说：“如果机器人违法，谁应该负责？发明机器人的公司？为机器人挑选训练材料的人？这将是未来法律需要面对的一个巨大领域。这也是老师和孩子们必须考虑的问题。”
人工智能还会引发股权问题。道森将学校拥有的技术包括学习管理系统、远程监考等与“学生主导”的人工智能应用进行了区分。他表示：“这些领域的公平问题变得更加严重。”“其中一些将会是付费使用，但不是每个人都能负担得起。”
但反对的人认为，人工智能提高了公平性，因为人工智能导师比人类导师更便宜。Photomath应用程序的创始人达米尔·萨伯尔(Damir Sabol)强调了这个观点。Photomath应用程序利用机器学习来解决学生智能手机扫描到的数学问题，为他们提供循序渐进的指导，帮助他们理解和掌握概念。萨伯尔在最近的一次新闻发布会上说:“有能力聘请(人类)家教的家庭和没有能力聘请的家庭之间存在明显差异。”
格劳尔表示，人工智能也有可能让学生成为更好的学习者。例如，图形计算器和求解器等在线数学工具在提供解答的同时，也提供了一步一步的解释：“这是一个提出问题、获得解释然后提出更多问题的练习，就像一场对话。当一个人想要进行探究性学习时，获得一个有用的、准确的答案和解释是一个非常强大的助力。如果能将其与完整的学习过程结合起来，就会变得更好。”
但麦克奈特对科技能否有效地创造公平竞争环境表示怀疑。“如果精英们能够获得风度翩翩、和蔼可亲、与你还有情感连接的人类导师，能够以机器人无法提供的各种方式支持你，而社会经济背景较低的学生只能获得人工智能机器人，那会怎么样？”她问道。“正如我们所知，在技术方面，现实并不总是能实现梦想。”
玛丽·华盛顿大学（Mary Washington（的斯托梅尔警告称，这项技术发挥作用的方式可能非常令人不安，因为查重公司利用数据“将许多教学工作自动化”。
“他们有学生写作的数据，”他说，“还有关于学生写作随时间变化的数据，因为他们拥有学生写作生涯中多次提交的作品。他们有数据可以比较学生之间的差异，也能比较不同院校学生的差异。”
斯托梅尔认为，下一步是开发一种算法，可以捕捉“我的学生是谁，他们如何成长，以及他们是否可能作弊”。这就像一个反乌托邦的未来，而且可信度极高，你不是在抓作弊者，而是突然想要抓住作弊的想法。如果发明一种算法可以预测学生可能何时、何地、如何抄袭，然后在他们抄袭之前介入，会怎么样？如果你看过《少数派报告》或《1984》或看过《大都会》，你会发现一切最终会走向一个反乌托邦的未来。”
或许同样令人不安的是，机器人能够进入大学，以和人类一样的方式上课，并最终获得自己的学位——这一概念是由人工智能研究员本·格尔策尔（Ben Goertzel）在2012年的“机器人大学生测试”中提出的。
最近有消息称，由中国清华大学（Tsinghua University）开发的一名人工智能虚拟学生报名攻读清华大学计算机科学学位，这一概念离实现又近了一步。道森说，这种技术相当于“一台作弊机器”。此外，它的到来将引发这样一个问题:“还有哪些是人类能做的？”他说，答案是，学生应该学会“评估性判断”，也就是“判断什么是高质量的作业”。
麦克奈特也认为，人工智能要求学生超越“计算机一秒钟就能完成”的“公式化”写作类型，发展对差异的评估判断。
“假设他们想写点东西，得到了3个不同的AI版本。那么将如何决定用哪一种？”她问道，“他们将如何批判性地看待每个版本使用的语言?他们可能截取某一个版本的片段，和另一个版本的片段合并起来。编辑在写作中将变得非常非常重要。这是一个非常激动人心的时刻。”
更广泛地说，Course Hero的格劳尔表示，教育工作者需要“利用人类最擅长做的事情。计算机可以更好更快地处理信息，更快更好地存储信息，甚至可能更快更好地回忆信息。但他们不一定也能很好地把信息联系起来。”
如果关于建立适当的学习目标和评估标准现在都很难解决，那么随着技术的进一步发展，这些问题会变得更加困难。牛津大学（University of Oxford）2012至2013年的一项调查发现，人工智能专家对发展“高水平机器智能”的前景进行了评估，认为到21世纪40年代，机器与人的评估比例为50:50，而到2075年将升至90:10。“这确实改变了评估，”道森说。
麦克奈特预测，下一个进步将是当前人工智能革命的“延伸”。“但它将是大规模的、个性化的，比如你在写作时身边有一个机器人——一个写作指导机器人，为你做各种工作:研究、提出语法建议、编辑、改进，讨论做事的方法。所以当你在写作的时候，你是真的在和这个机器人合作。孩子们将被这样教导;各行各业的人都会这样写;这就是方法。”
事实上，也许学者们自己也将与他们的个性化机器人一起写作和教学——这进一步引发了各种各样的问题，即什么才是独创性和真正的洞察力。但似乎很清楚的是，我们需要在这个险恶的未来完全到来之前，尽早开始解决这些问题。
“这就是我所说的后人类时代——人类和机器之间的鸿沟被消除了，”麦克奈特说：“我认为那已经离我们不远了。”
john.ross@timeshighereducation.com
本文由陈露为泰晤士高等教育翻译。
