那个回答“随便”的机器
那个回答“随便”的机器
凌晨两点十七分,我睡不着。翻了个身,摸到手机,点开了某个聊天窗口——不是微信,是那种你一打开它就热情问候“有什么可以帮您”的聊天机器人。
我问它:明天吃啥。
它回答:这个问题很有意思!您可以根据自己的口味偏好,考虑营养均衡、荤素搭配……
看到这里我笑出声了。大半夜的,它给我讲营养均衡。
嗯,这就是今天想聊的事儿。很多人对聊天机器人有一种奇怪的期待,觉得它像一个博学的朋友,随时待命,知无不言。实际上呢?它更像是……怎么说呢,像一个背了整本百科全书但完全不懂人情世故的实习生。
它其实不认识你,只是在猜下一个字
大部分人对聊天机器人的第一印象,来自客服。你输入“我的快递呢”,它弹出一串选项:1. 查订单 2. 退换货 3. 人工服务。这种老派机器人,说白了就是高级版的关键词匹配。你说“包裹”,它不一定懂。你说“我的东西呢”,它可能直接卡住。
但最近几年,情况变了。大语言模型这波东西来了之后,聊天机器人突然变得“能聊”了。
它跟你扯哲学。帮你写道歉信。假装是你家猫的口吻给你回消息。
那它到底在干什么?
说穿了,
它的核心动作只有一个:预测下一个词。
你给它“今天天气真”,它会算出后面跟着“好”的概率是60%,“不错”是25%,“糟糕”是10%……然后挑一个。就这么简单。
不对,就这么“复杂”。因为要算准这个概率,它得吞下几乎整个互联网的文本。
所以你看到它妙语连珠,其实它并不是“想”到了什么。它是在概率的海洋里捞鱼。捞到哪条算哪条。
大语言模型逐词预测文本生成内部流程示意图
为什么它有时候聪明得吓人,有时候蠢得离谱
我有个朋友,姓王,做外贸的。他试过让聊天机器人帮他写一封给客户的英文邮件。要求是:语气正式,解释延期原因,表达歉意,但不要显得太卑微。
结果呢?机器人写出来的东西,他直接复制粘贴就发出去了。客户回信说“非常理解”。
但同一个机器人,换个场景就翻车。
他问机器人:“我们公司去年Q3的销售额是多少?”机器人一本正经地编了一个数字。三千两百万。还配了一段分析。
王先生当时差点信了。
这就是所谓的“幻觉”。
聊天机器人在遇到自己不知道的事情时,不会说“我不知道”。它会猜。而且它猜的时候,语气和说真话时一模一样。自信、流畅、有理有据。
为什么会这样?还是回到那个核心动作——预测下一个词。它的目标从来不是“说真话”,而是“说出最像人话的句子”。
一个数字,只要在语法上站得住脚,在上下文里看起来合理,它就会说出来。真假?那不在它的计算范围内。
聊天机器人屏幕对话气泡显示虚构信息场景图
把它当搜索引擎用,十有八九要出事
我见过太多人把聊天机器人当成搜索框用。
问它:“XX大学计算机专业排名第几?”
它给你报了一个。听起来有理有据。但你如果去查官网,会发现完全对不上。
这不是它坏。是
它压根没有“查证”这个功能。它脑子里只有训练时吃进去的那些文字。今天是几号?它不知道。最新的新闻是什么?它不知道。你刚刚跟它说过的话?聊长了它也可能忘。
说实话,这一点最反直觉。因为我们习惯了搜索引擎——输入问题,返回链接,你点进去自己看。聊天机器人是把“自己看”这一步也替你做了。问题是,它看的方式是“猜”。
所以,涉及到具体事实、数字、时效性信息,别偷懒。多开一个浏览器标签页,自己查一下。
那它到底能干什么
说了这么多不是要劝你别用。恰恰相反,用对了地方,这东西真的省时间。
我自己的用法大概是这样几种:
一是起草。写邮件、写通知、写那种你明明知道想说什么但就是不知道怎么开头的文字。让机器人先来一版,哪怕写得不好,你改起来也比对着空白屏幕强。
二是换说法。同一句话,让它用更正式、更轻松、更简短的方式各写一遍。有时候它给出的某个表达,刚好就是你卡住的那根弦。
三是翻译加润色。尤其是中译英,它能帮你把那种“中式英语”的味道去掉不少。当然,专业术语还是得自己把关。
四是当陪聊。这个可能有点意外。但深夜睡不着的时候,跟它扯两句,它不会烦你。虽然它的安慰听起来像客服培训手册,但……总比盯着天花板强。
深夜卧室手机屏幕亮光聊天机器人对话特写图
回到凌晨两点那顿饭
回到凌晨两点那顿饭
那天晚上,我最后没听它的营养建议。
我关了聊天窗口,去厨房煮了碗泡面。加了个蛋。
但话说回来,那个“明天吃啥”的问题,它其实答得不算差。它列了三个选项:清淡的粥、有嚼头的面、或者干脆点个外卖。它不知道我冰箱里有什么,不知道我最近在控制体重,不知道我其实只是无聊。
它只能基于“人类通常怎么回答这个问题”来给我答案。
这大概就是聊天机器人最真实的样子——一个非常擅长模仿人类说话的东西。它见过太多人说话,所以它说得比谁都像。但它没见过你。它不知道你是谁。
下次你跟它聊天的时候,可以试试这一点。问它一个只有你自己知道答案的问题。看它怎么编。
挺有意思的。