英国《新科学家》周刊网站8月7日文(wén)章(zhāng),原题:人工智能(néng)聊天(tiān)机器人能否受(shòu)到“说真话”法律义务的约束人们能要求(qiú)人(rén)工智能讲真话吗?或许不(bú)能(néng),但一(yī)个伦理学家团队表示(shì),从(cóng)法律上来说,人工智(zhì)能开发(fā)商应该承担减少犯(fàn)错风险的(de)责任。“我们只是在尝试(shì)创建一种激励构架,让公司在创(chuàng)建(大语言模型)系统时(shí)更重视真实性或准(zhǔn)确性,”牛津大学(xué)伦理学家布伦(lún)特·米特尔施塔特说。
基于对大(dà)量文本的统计分析,大(dà)语言模型(xíng)聊天(tiān)机器人,例如ChatGPT能(néng)对用户提出的问题生成(chéng)类似人类的回答。然而,尽管它们的答案通常看起来令人(rén)信服(fú),但也(yě)容易(yì)出错,这是一(yī)种被称(chēng)为“幻觉”的缺陷。米特尔施塔特说:“我们拥有(yǒu)这些极其令(lìng)人(rén)印(yìn)象深刻的生成式人(rén)工智能系统,但它们(men)也会频繁出错,从我们对这种(zhǒng)系统基本机能的了解来看,没有根本的解决(jué)方法。”
米特尔施塔特表示,对大语言模型系统来说,这是(shì)一个重大(dà)问(wèn)题,因为它们正在被应用于政(zhèng)府决(jué)策,在这种(zhǒng)情况下,它(tā)们诚实(shí)地承认自己的知识(shí)局限(xiàn)性就变得至(zhì)关重要。为解(jiě)决这个问题,他们提出一系列应对(duì)措施:当(dāng)被问(wèn)及(jí)与事实有关的问题时,人工(gōng)智能应该像人一样。这意味着它们要诚实,秉持(chí)“知之为知之,不知为不知,是知也”的态度(dù)。“要(yào)点在(zài)于采取必要步骤,让它们真正做到(dào)谨言慎行,”米特尔(ěr)施塔特说,“如果(guǒ)对某件事不确(què)定,它们不要只是为了让人们信(xìn)服(fú)而编造一些东西。相反,它们应该说,‘嘿,你知道吗?我不知道。让我(wǒ)来研究一下。我会回复(fù)你的(de)。’”
这似乎(hū)是一个(gè)值得(dé)称赞的目标,但(dàn)在英国(guó)德蒙(méng)福特大学网络安全教(jiāo)授伊尔克·鲍伊(yī)腾看来,伦理学家提出的这些(xiē)要求(qiú)在技术上未必可(kě)行。开(kāi)发商正尝试让人工智能实事求是,但到目前为(wéi)止,事实证明(míng)这是一项极其“劳动密集型”的(de)任务,甚至不(bú)切实际。“我不(bú)明白,他们怎么(me)期望法律(lǜ)要求强制执行这种命(mìng)令,我认(rèn)为这(zhè)在技术上根本行不通,”鲍伊腾说(shuō)。
为此,米(mǐ)特尔施(shī)塔特及其同事(shì)们(men)提出一(yī)些更直接的措施,可能使人工智能更“诚(chéng)实”。他说,这些模型应该列(liè)出答案的信息源,目前许多模(mó)型都在这样做以证明它们给(gěi)出(chū)答案的(de)可信度,此外,更(gèng)广泛地使用一种被称(chēng)为(wéi)“检(jiǎn)索增强”的技术来(lái)给出答案,也可能限(xiàn)制这些模型产生“幻觉”的可能(néng)性。他还认为(wéi),应该缩减(jiǎn)在政(zhèng)府决(jué)策等(děng)高风(fēng)险(xiǎn)领域(yù)部署人工智能的规模,或(huò)者(zhě)应该限制模型可(kě)利用的信息源(yuán)。“如果我(wǒ)们有一个(gè)仅在(zài)医学中使(shǐ)用的语言模型,我(wǒ)们就应该限制它,让它只(zhī)能在(zài)高质量(liàng)医学期刊上搜(sōu)索学术文章。”
米特尔施塔特声称,改变观念也很重要,“如果(guǒ)我们能摆脱所谓(大(dà)语(yǔ)言模型)善于(yú)回答事实(shí)性问题、或者它们至少会(huì)给你一个可靠答案的想法,而是认为它(tā)们有助于(yú)为(wéi)你提供更多相关(guān)的信息,那就(jiù)太好了。”
但(dàn)荷兰乌得勒支大学法学院(yuàn)副教(jiāo)授卡塔(tǎ)琳娜·戈安塔表示,这些研究人员过于关注技(jì)术,因(yīn)此对(duì)公共话语中长期存在的谎(huǎng)言(yán)问(wèn)题关注不够。“在这种背(bèi)景下,仅将矛头指向(xiàng)大语言模型会制造一种假(jiǎ)象(xiàng),即人类非常勤奋细致,永远不会犯此类错误。问(wèn)问你遇到的任何法官,他们都遇到(dào)过(guò)律师玩(wán)忽职守(shǒu)的可(kě)怕经历,反之(zhī)亦(yì)然——这并(bìng)非一个机器的问题。”(作者(zhě)克里斯·斯(sī)托克尔-沃(wò)克,王会聪译(yì))