如何判断你是否在和机器人聊天

　　这篇文章是Lifehacker“揭露人工智能”系列的一部分。我们正在探索六种不同类型的人工智能生成的媒体，并强调常见的怪癖，副产品和标志，帮助你区分人工和人类创造的内容。

　　现在很多交流都是通过短信进行的。你可能会在约会软件上和配对对象来回发短信，或者在需要客户服务时给公司代表发信息，而不是和任何一方打电话。问题是，当谈话完全基于文本时，你永远不知道你在和谁说话。事实上，你可能根本就不是在和一个人聊天。

　　近年来，对话式人工智能已经取得了长足的进步，而ChatGPT等聊天机器人的引入只会加剧这种情况。在智能人工智能使模仿人类语言达到可怕的程度成为可能之前，这些机器人已经很难被发现了。但即使这项技术发展迅速，它也远非完美。你可以留意一些人工智能聊天机器人的特征，帮助你确定聊天另一端的“人”是否真的是他们所说的那个人。

　　现代聊天机器人是由大型语言模型(llm)驱动的。这些模型在包含大量文本的数据集上进行训练:随着时间的推移，模型学习单词和短语之间的关系，并利用这些关系来告知其响应。当你问聊天机器人一个问题时，它会把你的输入分解成它认为最重要的部分，然后根据它的训练来猜测哪些单词是有意义的，然后做出回应。它不知道自己在说什么，只知道这一系列的单词基于它的数据集是有意义的。

　　在此基础上，开发人员可以给他们的聊天机器人提供关于如何响应查询的具体指令，以更好地控制最终用户的体验。如果开发人员希望他们的聊天机器人承担特定的角色，例如客户服务代表，这一点尤其有用:您可能不希望您的代表滔滔不绝地谈论与公司无关的话题，也不希望它与用户发生争论。因此，它的指令会让人很难分辨电话另一端的人是训练有素的员工还是机器人。

　　另一方面，也许一个开发人员制作了一个约会聊天机器人，它的指示是永远不要把回答的第一个单词大写，经常使用“lol”和眨眼的表情，并采取随意的语气。突然之间，你不是在和一个ChatGPT的克隆体聊天，而是一个听起来不那么像机器人的机器人。

　　虽然识别聊天机器人的身份变得越来越困难，但这并非不可能。相反，当你继续在网上发短信时，有很多迹象需要注意:

　　这篇文章的前一个版本建议读者注意那些笨拙的措辞，因为当时最好的会话机器人受制于英语语言的奇怪复杂性。然而，从那时起，大型语言模型迅速发展，现在对英语有很强的掌握。聊天机器人很少会说出一些听起来不懂它使用的语言的话:事实上，它不懂，但它已经学会了单词之间的关系，知道如何以一种对人类有意义的方式排列它们。

　　也就是说，这些模型决定使用的一些词是奇怪的。正如我在这篇关于检测AI文本的文章中所解释的那样，OpenAI的模型经常使用一系列在日常对话中并不常见的单词。在描述概念时，您会看到像“钻研”、“强调”、“开创性”和“挂毯”这样的词，虽然这些词本身都不是诅咒，但看到这些词被反复使用可能表明您的“朋友”实际上是由大型语言模型驱动的。

　　这类机器人也往往非常专一。人类的谈话往往是流动的——话题被引入，被抛弃，然后又被提起。但是专门的聊天机器人通常是为特定的目的而构建的，无论你做什么，它们都会坚持不懈地追求这些目的。这只是他们基本指令的一部分。如果你注意到，无论你说什么，与你交谈或聊天的“人”总是回到同样的建议或解决方案，那么你可能正在处理一个机器人。如果他们每次都重复精确的措辞，这是一个更强的迹象，因为人类倾向于改变他们表达事情的方式——尤其是当他们感觉到他们没有让你理解的时候。

　　另一种需要注意的重复形式?重复你的问题。如果你问“美国的首都是哪里?”机器人可能会回答“美国的首都是华盛顿特区”，而不是简单地说“华盛顿特区”或“废话”。聊天机器人喜欢在回复中加入你之前的信息，而我们在随意对话中的回答往往是简短的。

　　虽然机器人已经取得了长足的进步，但它们仍然可以对你的问题给出模糊、毫无意义的回答，尤其是当你试图谈论沉重或严肃的话题时。同样，他们会重复你刚刚说过的话，以给人一种听的错觉。这其实是一个老把戏。20世纪60年代开发的“聊天机器人治疗师”ELIZA经常使用它。如果你告诉她:“我很难过”，她会回答:“你难过多久了?”这是一个简单的算法结构，但它提供了感知的错觉。聊天机器人现在是基于法学硕士的，不一定是按照传统意义上的编程，但它们的反应仍然可能有点无用，这取决于手头的话题。

　　如果你的朋友总是回复你的“建议”，听起来像是折扣先生罗杰斯写的，他们可能只是一个机器人。

　　你正在与人工智能打交道的另一个标志是它们的反应速度。机器人的反应速度比人类快得多。如果你曾经要求ChatGPT为你写一篇文章，你可以看到这些模型生成文本的速度有多快。如果聊天内容立即回复给你，或者另一方能够立即给你提供人类应该花一些时间来查找的信息，那么你要么是在与机器人打交道，要么是在与宇宙中最有才华的客户服务代表打交道。

　　这也不仅仅是反应速度。与人类不同的是，机器人总是可以在早上、中午和晚上聊天。如果你发信息的那个“人”无论在什么时候都看起来很想说话，这是一个很大的危险信号。当然，有些人总是在玩手机，但我们都会在某个时候休息一下。注意你的谈话对象是否让你挂电话，或者你发给他们的每条信息是否都得到了及时的回应。

　　聊天机器人被设计成能够帮助他们完成任何任务。不管出于什么原因，他们经常把这个任务理解为过于友好和急于取悦，这让人觉得很奇怪。这些机器人总是“很乐意帮助你做任何你需要的事情”，每当你出了问题时，它们都会为你感到难过，并希望你知道“它们理解你”。虽然成为一个移情者很好，但大多数人不会在几乎每条信息中都向你证明自己。说到发短信，请接受冷嘲热讽。

　　现代聊天机器人不会犯拼写或语法错误:它们只是没有受过这样的训练。再一次，他们是根据训练中有意义的顺序来选择单词的，这在语法上是准确的。这些单词的拼写也都是正确的，所以他们没有受过拼写错误的训练。另一方面，人类打字员总是把事情搞砸。你们有多少次在聊天中对方没有至少一个错别字?不管你是否承认，完美的拼写和语法总是一个危险的信号。

　　然而，这并不意味着机器人是完美的。虽然他们的语法可能很好，但他们可能只是在编造。这叫做幻觉，所有的人工智能都会时不时地产生幻觉。如果你注意到你的伴侣编造事实并坚持他们的说法，他们可能是一个机器人，或者只是在他们的无知中非常固执。

　　如果你怀疑你在和一个机器人打交道，但又不确定，你可以试试这个测试。在电影《寻找红色十月号》中，肖恩·康纳利扮演的俄罗斯潜艇船长在水下航行时，以拉动“疯狂伊万”而闻名——突然转向他的船，看看敌人的潜艇是否藏在他的身后。这种出人意料的举动也会扰乱人工智能。

　　虽然对话式人工智能已经变得非常复杂，而且很难从一个简短的互动中判断出你不是在和人说话，但机器人在处理非逻辑推理方面仍然存在困难。在情感和人际关系方面尤其如此。在谈话的过程中，问问对方的家庭情况，或者告诉对方你很沮丧，看看对方的反应。在过去，这种类型的中断可能会破坏机器人的整个角色，但今天的聊天机器人足够聪明，至少可以将偏离主题的查询纳入它们的响应中。尽管如此，它仍然可能揭示它们的法学硕士性质:一个机器人可能会说:“哦，不!听说你很沮丧，我很难过。但让我们言归正道吧……”或者深入探讨一系列关于如何应对你所谓的抑郁症的建议，这些回答与你对人类健谈者的期望不太一样。

　　这里有很多疯狂伊凡的招式。我个人最喜欢的?切换对话的语言。告诉你的“朋友”你更愿意用另一种语言继续对话。你甚至可以建议朋友提到他们的语言很流利，即使他们从来没有说过。真人的反应可能是困惑，而机器人可能会抓住机会帮助你。“当然，让我们换成冰岛语吧!”Hvae vilt tú r?ea um?”我甚至发现，即使机器人为了转换语言而争吵，它们可能仍然会用另一种语言回答问题，就像你用英语问它们一样。

　　当然，如果你真的在和一个真人聊天，这些疯狂的伊万技巧真的会把他们吓坏的。研究一下这种反应:一个得体的“哥们……你只需要知道他们是百分之百的人类就可以了。