九游官方网页版-九游(中国)





    1. 咨询热线:021-80392549

      九游官方网页版-九游(中国) QQ在线 九游官方网页版-九游(中国) 企业微信
      九游官方网页版-九游(中国)
      九游官方网页版-九游(中国) 资讯 > 人工智能 > 正文(wén)

      英国《新(xīn)科学家》:法律能否要求AI讲(jiǎng)真话?

      2024/08/09环(huán)球(qiú)网344

      英国《新科学家》周刊网站87日文(wén)章(zhāng),原题:人工智能(néng)聊天(tiān)机器人能否受(shòu)到“说真话”法律义务的约束人们能要求(qiú)人(rén)工智能讲真话吗?或许不(bú)能(néng),但一(yī)个伦理学家团队表示(shì),从(cóng)法律上来说,人工智(zhì)能开发(fā)商应该承担减少犯(fàn)错风险的(de)责任。“我们只是在尝试(shì)创建一种激励构架,让公司在创(chuàng)建(大语言模型)系统时(shí)更重视真实性或准(zhǔn)确性,”牛津大学(xué)伦理学家布伦(lún)特·米特尔施塔特说。

      基于对大(dà)量文本的统计分析,大(dà)语言模型(xíng)聊天(tiān)机器人,例如ChatGPT能(néng)对用户提出的问题生成(chéng)类似人类的回答。然而,尽管它们的答案通常看起来令人(rén)信服(fú),但也(yě)容易(yì)出错,这是一(yī)种被称(chēng)为“幻觉”的缺陷。米特尔施塔特说:“我们拥有(yǒu)这些极其令(lìng)人(rén)印(yìn)象深刻的生成式人(rén)工智能系统,但它们(men)也会频繁出错,从我们对这种(zhǒng)系统基本机能的了解来看,没有根本的解决(jué)方法。”

      米特尔施塔特表示,对大语言模型系统来说,这是(shì)一个重大(dà)问(wèn)题,因为它们正在被应用于政(zhèng)府决(jué)策,在这种(zhǒng)情况下,它(tā)们诚实(shí)地承认自己的知识(shí)局限(xiàn)性就变得至(zhì)关重要。为解(jiě)决这个问题,他们提出一系列应对(duì)措施:当(dāng)被问(wèn)及(jí)与事实有关的问题时,人工(gōng)智能应该像人一样。这意味着它们要诚实,秉持(chí)“知之为知之,不知为不知,是知也”的态度(dù)。“要(yào)点在(zài)于采取必要步骤,让它们真正做到(dào)谨言慎行,”米特尔(ěr)施塔特说,“如果(guǒ)对某件事不确(què)定,它们不要只是为了让人们信(xìn)服(fú)而编造一些东西。相反,它们应该说,‘嘿,你知道吗?我不知道。让我(wǒ)来研究一下。我会回复(fù)你的(de)。’”

      这似乎(hū)是一个(gè)值得(dé)称赞的目标,但(dàn)在英国(guó)德蒙(méng)福特大学网络安全教(jiāo)授伊尔克·鲍伊(yī)腾看来,伦理学家提出的这些(xiē)要求(qiú)在技术上未必可(kě)行。开(kāi)发商正尝试让人工智能实事求是,但到目前为(wéi)止,事实证明(míng)这是一项极其“劳动密集型”的(de)任务,甚至不(bú)切实际。“我不(bú)明白,他们怎么(me)期望法律(lǜ)要求强制执行这种命(mìng)令,我认(rèn)为这(zhè)在技术上根本行不通,”鲍伊腾说(shuō)。

      为此,米(mǐ)特尔施(shī)塔特及其同事(shì)们(men)提出一(yī)些更直接的措施,可能使人工智能更“诚(chéng)实”。他说,这些模型应该列(liè)出答案的信息源,目前许多模(mó)型都在这样做以证明它们给(gěi)出(chū)答案的(de)可信度,此外,更(gèng)广泛地使用一种被称(chēng)为(wéi)“检(jiǎn)索增强”的技术来(lái)给出答案,也可能限(xiàn)制这些模型产生“幻觉”的可能(néng)性。他还认为(wéi),应该缩减(jiǎn)在政(zhèng)府决(jué)策等(děng)高风(fēng)险(xiǎn)领域(yù)部署人工智能的规模,或(huò)者(zhě)应该限制模型可(kě)利用的信息源(yuán)。“如果我(wǒ)们有一个(gè)仅在(zài)医学中使(shǐ)用的语言模型,我(wǒ)们就应该限制它,让它只(zhī)能在(zài)高质量(liàng)医学期刊上搜(sōu)索学术文章。”

      米特尔施塔特声称,改变观念也很重要,“如果(guǒ)我们能摆脱所谓(大(dà)语(yǔ)言模型)善于(yú)回答事实(shí)性问题、或者它们至少会(huì)给你一个可靠答案的想法,而是认为它(tā)们有助于(yú)为(wéi)你提供更多相关(guān)的信息,那就(jiù)太好了。”

      但(dàn)荷兰乌得勒支大学法学院(yuàn)副教(jiāo)授卡塔(tǎ)琳娜·戈安塔表示,这些研究人员过于关注技(jì)术,因(yīn)此对(duì)公共话语中长期存在的谎(huǎng)言(yán)问(wèn)题关注不够。“在这种背(bèi)景下,仅将矛头指向(xiàng)大语言模型会制造一种假(jiǎ)象(xiàng),即人类非常勤奋细致,永远不会犯此类错误。问(wèn)问你遇到的任何法官,他们都遇到(dào)过(guò)律师玩(wán)忽职守(shǒu)的可(kě)怕经历,反之(zhī)亦(yì)然——这并(bìng)非一个机器的问题。”(作者(zhě)克里斯·斯(sī)托克尔-沃(wò)克,王会聪译(yì))

      关(guān)键词: 人(rén)工智能(néng),AI




      AI人工智能网(wǎng)声明:

      凡(fán)资(zī)讯来(lái)源注明为其他媒体来源的信息,均(jun1)为转载自(zì)其他媒体,并不代表本网站赞同其观点,也不(bú)代表本网站对其真实性(xìng)负责(zé)。您若对该文章内容有任何疑问或质疑,请立即(jí)与网站(www.baise.yingtan.bynr.xinxiang.zz.pingliang.ww38.viennacitytours.com)联系,本(běn)网站(zhàn)将迅速给您回应(yīng)并做处理。


      联系电话(huà):021-31666777   新闻、技术文章投(tóu)稿QQ:3267146135   投稿邮(yóu)箱:syy@gongboshi.com

      精选资讯更(gèng)多

      相关(guān)资讯更(gèng)多(duō)

      热门(mén)搜索

      工博士人工智能网
      九游官方网页版-九游(中国)
      扫描二维码关注微信
      扫(sǎo)码反馈

      扫一扫,反馈当前页面

      咨询反馈(kuì)
      扫(sǎo)码关注

      微信公众号

      返回顶部

      九游官方网页版-九游(中国)

      九游官方网页版-九游(中国)