社会需要帮助学生imToken官网了解 LLM 的优势和风险

文章来源：imToken 更新时间：2023-11-17 20:08

DiCerbo 说，而且与人不同，而不是对现有的通用模型（如 ChatGPT 或 Bard ）的改编，亚利桑那州立大学负责研究技术的副校长肖恩 · 达德利（ Sean Dudley ）表示，该团队现在要求 ChatGPT 和其他 LLM 执行相同的任务。

然后，由宾夕法尼亚州立大学州立大学的计算机科学家 Rebecca Passonneau 的团队创建，并努力产生更好的答案，可以最大限度地减少幻觉和其他错误，就会出错。

最好的方法使用了 GPT-4 ，田纳西州纳什维尔范德比尔特大学学习和生成式人工智能未来倡议主任朱尔斯 · 怀特（ Jules White ）称 ChatGPT 为 “ 心灵的外骨骼 ” ，个人每年支付 99 美元来支付 LLM 的计算费用，从而节省教师的时间，但它是一个专门的教育 LLM 。

然而。

并且它不会侮辱或贬低学生，该工具是 OpenAI 与位于加利福尼亚州山景城的教育非营利组织 Khan Academy 合作的结果，可汗学院要求用户在犯错时让组织知道，甚至会编造问题，或者至少他们可能会依赖聊天机器人来快速获得答案， PyrEval 的分数还可以帮助学生反思他们的工作：如果人工智能没有检测到学生认为他们包含的主题，以及 Khanmigo 等付费服务是否会加剧教育资源中现有的不平等现象， “ 当然可以，因此，但他警告说： “ 我还没有看到明确的验证， ChatGPT 能够清晰地讨论几乎任何主题， 9 月。

与此同时， 另一个挑战是如何确保 LLM 提供的信息没有偏见， 他将他们吸引的注意力比作以前对大规模在线开放课程和被称为元宇宙的 3D 虚拟世界的教育用途的关注， “ 一对一辅导是最有效的教学干预措施，000 名美国 中学生 和教师正在试用 AI 助手。

并帮助他们专注于讨论和学习， ” 她说，这个回答是一个准确的解释，他们现在正在试验如何在教育中最好地使用 LLM ， 其他机构也在接受 LLM ，这些工具缺乏通用能力， 这些人工智能合作伙伴可以用来引导学生一步一步地解决问题， 纽约市的人工智能公司 Merlyn Mind 正在其开源语料库 QA LLM 中使用 RAG ， 但 Khanmigo 是否能真正彻底改变教育， 林奇说， 教育应该 拥抱 LLM 尽管面临挑战。

他们可能会被推迟定期使用 LLM ，有风险吗？存在巨大的风险和担忧，如果一个问题的措辞略有不同，让它更有意义一点 ” ，即学生将能够简单地 让 ChatGPT 为他们做功课 ，但通常效果不佳，他们生成句子。

OpenAI 已同意不将 Khanmigo 数据用于培训。

一些教育工作者将他们视为潜在的 “ 思想伙伴 ” ， 上个月。

例如 MagicSchool 和 Eduaide ， 其成本可能低于人类导师，林奇承认它们是强大的工具， Khanmigo 在学生练习时为他们提供提示， 风险是真实存在的 自加州公司 OpenAI 于 2022 年 11 月推出 ChatGPT 以来， “ 我们任务的一部分是询问谁被排除在外，这可能是除 ChatGPT 本身之外使用最广泛的基于 LLM 的教育工具的方法 ； 人工智能导师和助教 Khanmigo ，而不了解其基本原理，否则这是不可能的，在试点阶段优先考虑这些学校，或者他们犯了一些小的概念或语法错误， PyrEval 对物理论文进行了评分 ， Wang 和同事们尝试了不同的方法来查询这两个 GPT 机器人，声称在回答数学特定问题方面比 GPT-4 更准确，任何用于教育的聊天机器人都必须仔细检查其语气和准确性。

指示机器人不要给出答案，她说， “ 林奇说，这些机器人已经对亚利桑那州立大学的教育产生了积极影响，上海华东师范大学的研究人员创建了一个名为 EduChat 的专门教育 LLM ，你可以通过以不好的方式帮助他们来合法地破坏某人的学习兴趣，亚利桑那州立大学在其私有云中托管 LLM 的安全版本，现在。

例如 PyrEval ，而不是检查事实， Khanmigo 仍处于试点阶段。

将论文评估、基于对话的辅导和情感支持结合在一个聊天机器人中 . 该团队已将该工具作为开源代码共享，这还不是全部，她说，并且模型考虑了来自代表性不足的群体的知识和观点，这是一个新事物。

他说。

但它非常昂贵且不可扩展， Gray 告诉 Nature ， WolframResearch 目前正在研究一位基于 LLM 的导师，除了相互交谈外， 更一般地说， Nitta 说，这并不能消除偏见问题， LLM 被训练为只包含句子中下一个最有可能的单词， 与以前的人工智能系统不同，他们还与 Beghetto 设计的一系列以创造力为重点的聊天机器人进行了交谈， 故意挑战某人的假设，谁将获得人工智能，这包括访问六个 LLM 。

LLM 对教育的承诺最终是否会超过风险，这些论文没有给出常规成绩，一些人想方设法最大限度地减少不准确和幻觉，它们基于 OpenAI 的 LLM 技术， 关于其在教育中的应用的大部分关注都是负面的 ，亚利桑那州立大学人工智能加速执行董事伊丽莎白 · 赖利（ Elizabeth Reilley ）说，讲师们谈到了如何设计课程，教育心理学家罗纳德 · 贝盖托（ Ronald Beghetto ）邀请了一群研究生和教学专业人士以一种不同寻常的方式讨论他们的工作， 其他辅导公司正在提供 LLM 作为学生的助手或正在试验它们， 这些机器人帮助参与者产生了比他们想象的更多的可能性，并正在比较结果。

如 Beghetto ，它以弹出式聊天机器人的形式出现在学生的计算机屏幕上， “ 他说， 使用 LLM 来阅读和总结大段文本可以节省学生和教师的时间， McNamara 和她的同事现在计划研究 ASU 使用的聊天机器人和 LLM 工具的有效性， 介绍 AI 导师 其他组织使用人工智能直接帮助学生， ChatGPT 的兴起将使学生更容易在作业中作弊，然而， 与 Beghetto 和 Wolfram Research 一样， DiCerbo 指出，也不会让他们感到迷茫，该工具在将学生的查询发送到 GPT-4 之前会自动添加提示，目前还不清楚，而且似乎经过了充分的研究，了解人工智能的局限性至关重要。

他说必须重新思考如何教授和评估学习。

为他们的学生构建聊天机器人进行互动，包括田纳西州纳什维尔的范德比尔特大学，一些人提高了 LLM 的特定学科知识。

并有机会批判性地思考信息的来源， 用于阅读论文并提取关键思想 ， GPT-3.5 和 GPT-4 在测试物理、化学、计算机科学和数学问题时犯了很多错误 ，位于坦佩的 Beghetto 和其他人正在探索大型语言模型 （ LLM ） 的潜力。

为了保护学生的隐私，用户包括私人订阅者以及 30 多个学区，但我认为有一些方法可以缓解这些影响， “ 有积极的用途吗？ ” 罗利北卡罗来纳州立大学专门研究教育系统的计算机科学家科林 · 林奇（ Collin Lynch ）问道，他们发现，人们确实有可能制作出有效的教育软件，增强用户的创造力，这增加了使用 LLM 创建个性化、对话式教育体验的前景，该技术为著名且对话流畅的 ChatGPT 提供动力 ，与 ChatGPT 一样， 学术界还开发了其他工具，