首页>>教育 >>内容

ChatGPT制造商字段工具用于识别AI编写的文本

发布时间:2023-02-02 14:48:54编辑:愉快的缘分来源:

周二,ChatGPT机器人的创造者因其模仿人类写作的能力而引起轰动,发布了一种工具,旨在检测书面作品何时由人工智能创作。

ChatGPT制造商字段工具用于识别AI编写的文本

该公告发布之际,美国和世界各地的学校和大学都在激烈辩论,担心该软件可能被用来帮助学生完成作业并帮助他们在考试中作弊。

总部位于美国的OpenAI在周二的一篇博客文章中表示,其检测工具已经过训练,可以“区分人类编写的文本和来自各种供应商的AI编写的文本”。

来自OpenAI的机器人最近收到了微软的巨额注资,它使用受互联网收集数据启发的大量文本来响应简单的提示。

OpenAI警告说,它的工具可能会出错,尤其是对于包含少于1,000个字符的文本。

OpenAI在帖子中说:“虽然不可能可靠地检测所有AI编写的文本,但我们相信好的分类器可以为缓解AI生成的文本是由人类编写的错误说法提供信息。”

“例如,运行自动错误信息活动,使用AI工具进行学术不诚实,以及将AI聊天机器人定位为人类。”

法国一所顶尖大学上周禁止学生使用ChatGPT完成作业,这在该国的大学中尚属首次。

该决定是在有消息称ChatGPT在撰写了从宪法到税收等主题的论文后通过了美国法学院的考试后不久作出的。

ChatGPT仍然犯了事实性错误,但教育机构已赶忙禁用该AI工具。

OpenAI在帖子中表示:“我们认识到识别AI编写的文本一直是教育工作者讨论的一个重要问题,同样重要的是认识到AI生成的文本分类器在课堂上的局限性和影响。”

“我们正在与美国的教育工作者合作,了解他们在课堂上看到的内容,并讨论ChatGPT的功能和局限性。”

纽约和其他司法管辖区的官员禁止在学校使用它。

一群澳大利亚大学表示,他们将改变考试形式以消除人工智能工具并将其视为作弊。

OpenAI表示,它建议只对英文文本使用分类器,因为它在其他语言中的表现更差。