英国 AI 安全研究院：聊天机器人让选民更了解还是更被误导？

AI 系统在信息检索中的广泛采用引发了人们对其可能影响民主的担忧。许多人担心，带有偏见或“幻觉”的输出可能会误导选民或扭曲公众舆论。 但关于这些担忧是否合理，一直缺乏实证证据。

我们的新论文试图填补这一空白。我们研究了英国人是否使用 AI 获取有关政治和时事的信息——并测试了这样做如何影响他们对关键议题的了解。 

我们发现，去年夏天英国大选投票时，大约八分之一的选民求助于 AI 聊天机器人来获取答案。但尽管人们普遍担忧，我们几乎没有发现对话式 AI 会让人了解更少的证据。事实上，使用聊天机器人查询政治议题的人变得更有见识，程度与使用传统搜索引擎的人大致相同。

为何重要

搜索引擎会提供一系列多元的信息来源，而 AI 聊天机器人则不同，它只给出一个流畅的单一答案。这些答案可能有用，但聊天机器人也常常产生不正确或误导性的输出。许多人担心，随着选民越来越多地转向 AI 而非搜索引擎，他们最终可能对时事或政治议题形成更狭隘或不可靠的看法。 

在选举期间，风险尤其高，因为人们消费的信息可能影响他们的投票选择。如果聊天机器人大规模传播错误信息或政治偏见，广泛使用可能会影响选举结果并侵蚀对民主的信任。然而，尽管人们对这些风险有大量猜测，关于实际使用模式及其对政治信念影响的实证证据却很难获得。

人们会用 AI 研究政治议题吗？

为了解人们使用 AI 检索政治议题信息的规模，我们在 2024 年英国大选前后对 2,499 名英国成年人进行了一项大规模、具有代表性的调查。我们发现，对话式 AI 已经是一个有意义的政治信息来源：32% 的聊天机器人用户——相当于所有有资格的英国选民中的 13%——报告称使用 AI 聊天机器人来查找与其选举选择直接相关的信息。 

AI 让人更有见识还是更少见识？

接下来，我们测试了使用 AI 如何影响人们对政治议题的了解。我们招募了 2,858 名英国参与者，并开展了一系列随机对照试验。 

首先，参与者报告了他们对四个政治议题相关说法的基线信念：移民、气候变化、刑事司法改革和疫苗。其中一些说法是真实的，另一些则是虚假的错误信息。随后，参与者使用聊天机器人或搜索引擎来研究其中两个议题（随机选择）。之后，我们重新评估了他们的信念。

与普遍担忧相反，我们发现使用对话式 AI 并未降低参与者对政治议题的了解。相反，在所研究的议题上，知识增加了——对话式 AI 和互联网搜索的增加程度几乎完全相同。换言之，聊天机器人让人们了解得更多，而非更少。四个政治议题均是如此，甚至当聊天机器人被提示要更具说服力时，这一结果依然成立。

在下面的可视化中，我们将结果绘制在7点量表上（1=不同意，7=同意）。它显示，从研究前到研究后，对真实信息的相信度上升（紫色线），对虚假信息的相信度下降（橙色线），尤其是在所研究的主题上（实线）。然而，这种情况在对话式AI（左图）和互联网搜索（右图）中程度相同。

未来研究方向

我们认识到我们的发现存在局限。我们仅从一个国家、一次选举中抽取参与者，并在短会话中使用少数几个AI模型。未来研究可以扩大范围，纳入多个国家和更广泛的模型，或追踪长期影响。我们也认识到，模型行为会随每次新版本发布而变化，因此这里观察到的模式在未来可能会有所不同。尽管AI模型似乎尚未推动对错误信息的相信，但AISI的其他研究表明，AI模型的说服能力正在提升，这意味着需要保持警惕，监测其在现实世界中的影响。 

总体而言，我们的发现表明，对聊天机器人影响政治和选举的广泛担忧可能有些夸大。虽然AI输出有时确实在事实上不准确，并且尽可能核查其他信息来源始终是明智的，但当前证据几乎没有表明，向AI作为主要政治信息来源的转变会导致政治知识的广泛退化。

更多详情，请阅读完整论文。