12 月 5 日消息，斯坦福大学社会媒体实验室创始人、错误信息专家（misinformation expert）杰夫・汉考克（Jeff Hancock）承认，他在一份法庭文件中使用了人工智能工具 ChatGPT 来帮助整理引用文献，但出现了所谓的“幻觉”（hallucinations）。批评者指出，这已经严重影响了该文件的可信度。

据IT之家了解，汉考克向法庭提交了这份宣誓证词，以支持明尼苏达州的“使用深度伪造技术影响选举”法案。该法案目前正在联邦法院受到挑战。挑战者包括保守派 YouTuber 克里斯托弗・科尔斯（Christopher Khols）和明尼苏达州众议员玛丽・弗兰森（Mary Franson），他们的律师发现，汉考克的宣誓证词中似乎包含不存在的引文，因此认为该文件“不可靠”，并要求在审议中将其排除在外。

汉考克随后承认使用了 ChatGPT，但否认用它来撰写任何内容。他表示，自己撰写并审查了宣誓证词的内容，并坚信其中的每一项主张都得到了该领域最新学术研究的支持，并反映了他作为专家对人工智能技术对虚假信息及其社会影响的看法。

对于引用文献出现错误的问题，汉考克解释说，他使用了 Google Scholar 和 GPT-4 来识别可能与宣誓证词相关的文章，以便将自己已知的知识与新的学术研究相结合。他表示，他使用 GPT-4 创建了引文列表，并没有意识到该工具生成了两个错误的引文，即所谓的“幻觉”，并为另一个引文添加了错误的作者。

汉考克表示：“我无意误导法院或律师。我对由此造成的任何混乱表示诚挚歉意。尽管如此，我仍然坚定地支持宣誓书证词的所有实质性观点。”

此次事件凸显了在使用 AI 辅助工作时，人工审核和验证的重要性。