本报（bào）记者 赵姗

微软的创始人比尔·盖茨有一句名言：“我（wǒ）们总是高（gāo）估在一年或者两年中能够做到的，而低估（gū）五年（nián）或十（shí）年（nián）中能够做（zuò）到的。”这句话用来理解人工智能的影响是相当合适（shì）的。目前，随着人（rén）工（gōng）智能（néng）产业（yè）飞速发展，催（cuī）生了新（xīn）的人机交（jiāo）互模式（shì），核心便是（shì）AI大模型驱动的（de）智能（néng）体（AI Agent）（以下（xià）简称“AI助手”）。AI助手让“人（rén）机协同”成（chéng）为新常态，个（gè）人（rén）与企（qǐ）业正在步入AI助手时（shí）代。

然而，伴（bàn）随着（zhe）快速发展，一系列问题与挑战也随之而来。如何在应对AI助手面临挑战的同时（shí）抓住（zhù）发展机遇，实现AI助手（shǒu）的可持续发（fā）展和更广泛应用，成为（wéi）行业需（xū）要深入思（sī）考和探讨（tǎo）的重点。

数据隐（yǐn）私安全、伦理和法律（lǜ）等成为挑战

“AI助手在快速发展的（de）同时，也面（miàn）临许多挑战和问题。”国务院发展（zhǎn）研究中心创（chuàng）新发（fā）展（zhǎn）研究部第二研究（jiū）室主（zhǔ）任杨超在接受中国经济时（shí）报记者采访时表示（shì），在这（zhè）些问题中，最（zuì）为关键的还在于AI助手（shǒu）使用所带（dài）来的（de）数据（jù）隐私安全、伦理和（hé）法律问题。

杨超（chāo）认为，从数据隐（yǐn）私保护来看，由于人工（gōng）智能系统本身需要依（yī）赖大量用户数据（jù）进行训（xùn）练，必（bì）然会导致相关机构将AI助手服务期（qī）间获取和产（chǎn）生的（de）数据用于（yú）AI助手本身的优化（huà），即使（shǐ）通过删除个性化属（shǔ）性（xìng）等方式对数据脱敏（mǐn），数据隐私和（hé）安全（quán）问题也（yě）难以完（wán）全避免。尤其是随着AI助手的普及，其训练涉（shè）及的（de）数据量将快速提（tí）升，从而进一步放大安全风险。

从伦理和法律角度看，随着AI助手能力（lì）的增强（qiáng），其自主性和决策能力（lì）必然会显著（zhe）提升，在部分（fèn）应用（yòng）场景中将会脱离人类（lèi）的（de）直接指令（lìng）而开展（zhǎn）自主（zhǔ）行为（wéi）。这些自主行为（wéi）一旦产（chǎn）生（shēng）外部（bù）性影（yǐng）响，就将引发伦理和法律问题。“一个经典（diǎn）的例（lì）子是，人工智能自（zì）动驾驶的汽车在行驶过程中，前方（fāng）突然出现行人（rén），改（gǎi）变行驶方向会伤（shāng）害（hài）乘客，不改变方向则会伤（shāng）害行人（rén）。这种情况下无论AI助手做出何种选（xuǎn）择都会带来伦理问题（tí）。”杨超说。

清华（huá）大学复杂（zá）工程系统实验（yàn）室主任、中国（guó）人（rén）工智（zhì）能学会智能（néng）产品与产（chǎn）业工（gōng）作委员会（huì）主任（rèn）任勇在接受中国经济时报记者采访时表示（shì），在当（dāng）下阶段，AI助手仍然面临技术创新（xīn）与（yǔ）场景适配度的挑战。

一是算（suàn）法的精准性与可靠（kào）性。AI助手的核心——算法需要不断学习和（hé）优化（huà）以提高准确性（xìng）和（hé）可靠性，然而，面对复杂多变的用户需求和场景，当前（qián）的算法往往难以达到期待的（de）要（yào）求。

二是跨模态学习与环境理解（jiě）能力。AI助手当前的技术水平仍存在一定的局限性，难（nán）以（yǐ）充（chōng）分理解和整合应用时空变化的（de）模（mó）态信息（xī），对环（huán）境（jìng）信息的多模态感知（zhī）与理解尚有很大的提升空间。

三是场景理解与适（shì）应能力。有些场景化需求超越了简单的（de）物理环（huán）境感知，需要与场景自身的底（dǐ）层逻（luó）辑、应用（yòng）逻辑相结合才能理解（jiě），这对当下的AI助手而（ér）言是一个现实挑战。

“此外，AI技术（shù）的（de）复杂性和变（biàn）化（huà）性使（shǐ）得（dé）已有法规难以完全覆盖各种变动。当AI助手出现错误或造成损害时，责任追（zhuī）究便成了难题。”任勇说。

“AI助手面临的（de）挑战还有算法（fǎ）偏见与歧视、过度依赖和成瘾。”清华大学人工智能国际治理研（yán）究院秘书（shū）长（zhǎng）、欧美同学会研究院（yuàn）人工智能和数字经济研究中（zhōng）心执（zhí）行主任（rèn）鲁俊群在接（jiē）受中国经济时（shí）报记者采访时（shí）表示。

鲁俊群认为（wéi），目前，AI算法的训（xùn）练数据还（hái）存在不完备性（xìng）和（hé）偏（piān）向（xiàng）性。由于（yú）AI训练所使用的语料数据本身可能客观上就存在（zài）着统计（jì）学上的（de）一定偏差，还有可（kě）能存在开（kāi）发（fā）者的个人偏好等，因此，现阶段的（de）各（gè）种AI助手仍有可能存在一（yī）定（dìng）的算法偏见（jiàn）与歧视（shì）问题。对此，有必要建立对技术背（bèi）后（hòu）训练数（shù）据和算法的审查机制，如通（tōng）过建立AI伦理（lǐ）委员会（huì）等（děng）形式加强审核。

另外，“假如（rú）一名用户经常与AI角色互动来寻求帮（bāng）助和（hé）安慰，容易对其产（chǎn）生（shēng）情（qíng）感上的（de）依赖，以此来（lái）填补情感需求上（shàng）的空缺，这有可能（néng）导（dǎo）致用户沉迷虚拟世界而忽视现实世界。对此（cǐ），建议对于AI助手应该（gāi）使用得（dé）当，同时应该注意（yì）保（bǎo）持与现实世界的互动。”鲁（lǔ）俊群说。

未（wèi）来发展方向（xiàng）：垂直领域（yù）专业化、与具身智能的结合（hé）

当前，大模型进入应用时（shí）代（dài），多家科（kē）技公司都展出了最新AI应用。

“AI助手发展的方向是多样的，在技术路线和应用场景的（de）双重影响下，将会迎（yíng）来种类繁多的AI助手。”杨超认为，其中，有两个方向是较为（wéi）确定的。

一是（shì）垂直领域专（zhuān）业化。在特定行业或领域，如家（jiā）政（zhèng）、健康、医疗、法（fǎ）律、金融等（děng）大领域，甚至是（shì）制造（zào）业（yè）中（zhōng）不同行业等小领（lǐng）域（yù），AI助手（shǒu）都将具（jù）备更深（shēn）入（rù）的专业（yè）知识和技（jì）能（néng），提供专业（yè）服务。

二是（shì）与具身智能的结合。随着人工智能（néng）能力的提（tí）升，其提供（gòng）的服务将不仅是咨询（xún）和智力服务，而是通过更多的感知和操作，为人类提供直接（jiē）与物（wù）质世界交（jiāo）互的能力。

任勇认为，就发展方向而言，AI助手在产（chǎn）业场景（jǐng）和个体场景中（zhōng）的应用虽然都基于人工智能（néng）技术（shù），但在（zài）技术路（lù）径和（hé）响应机理上（shàng）存在（zài）着显著（zhe）差（chà）异。

AI助手（shǒu）产业场景的技术路径（jìng）主（zhǔ）要（yào）是针对特定需（xū）求，如制造业（yè）、物流、医疗、教育等，AI助手通常需要进行定制（zhì）化开发，以符（fú）合行业的特（tè）定需求。利用（yòng）相（xiàng）应产业所产生的数据（jù），结合（hé）各种（zhǒng）机器学习算（suàn）法，AI助手能够自主（zhǔ）学习和（hé）优化，实现智能排班、任（rèn）务分配、数据（jù）分析、流程（chéng）优（yōu）化等高级功能。在（zài）此过程（chéng）中，AI助手往往需（xū）要与企（qǐ）业的其他（tā）系（xì）统进行集成，如ERP（企业资源计划（huá））、CRM（客户（hù）关系管理）等，以实现信息的共享和协（xié）作。通过（guò）上（shàng）述技（jì）术路径实现对重复性（xìng）烦琐任（rèn）务的自主处理和数据洞察（chá）、科学决（jué）策（cè）、降本增效。

AI助手（shǒu）用于个体场（chǎng）景的技（jì）术路径（jìng）主要是利用通用智能平台，如（rú）智能手机（jī）、智能家居设备等，通（tōng）过语（yǔ）音识别和自然语（yǔ）言交互、多设备协同来辅助（zhù）用户（hù）完成任务，提升日常生活的便利（lì）性和服务的精准性（xìng）。

“在产业场景中，AI助手主要关（guān）注（zhù）于提升（shēng）效率、优化决（jué）策和（hé）降低成本（běn），需（xū）要更多的（de）定制化开发和集成协作；而在（zài）个人生活场景中，AI助（zhù）手则（zé）更注（zhù）重于提供（gòng）便捷（jié）化、个（gè）性化、适应性服务（wù），未来的技（jì）术创新只能围绕不同（tóng）场景下各自的内生逻辑进行迭（dié）代优化。”任勇说。

鲁（lǔ）俊（jun4）群认为，AI助手（shǒu）未来可（kě）能会（huì）向多模态交（jiāo）互以及具身智能方向发展。

“为了实现具身智（zhì）能，需要将类ChatGPT等这些基础大（dà）模型与（yǔ）进化学（xué）习机（jī）制相（xiàng）结（jié）合，通过（guò）与物理世界交互（hù）取得的新数（shù）据（jù）（而不再是人类投喂的数（shù）据）来（lái）不（bú）断学（xué）习，并适应新（xīn）环境，优化行为策略。多模态大模型能够整合视觉、听觉、触觉等多种感官数据，提升（shēng）机（jī）器（qì）人（rén）的理（lǐ）解能力。使具身智能机器人在（zài）与物（wù）理世界的互（hù）动和理解方面（miàn）更加人（rén）性化。这些（xiē）未来的AI助手机器人可以自主理解（jiě）场景、识别自然语言指（zhǐ）令、规划任务（wù），并执行操作，将是人类最得力的智能（néng）助理。”鲁俊群说。

从创新方向引导、应用场（chǎng）景规范方面为AI助（zhù）手（shǒu）提供（gòng）支持（chí）保障

当（dāng）前，AI助（zhù）手的服务升级与互联互通是国内多家互联网科（kē）技公司持（chí）续探索的重（chóng）点。

杨（yáng）超建议，第一，加强对用户隐私和数据安全（quán）的保护。强制性地（dì）将用户隐私和（hé）数据安全作为（wéi）提供AI助手服务（wù）的前置条（tiáo）件，引导和（hé）鼓励（lì）相关机构采用先进的数据加（jiā）密（mì）和匿（nì）名化技术，确保用户数据的安全和（hé）隐私。

第二，增强AI助手决策过（guò）程的可解释性，让用户能够理（lǐ）解其行为和决策逻辑，从（cóng）而提高用户信任（rèn）度。为整个社会更好接纳AI助（zhù）手创（chuàng）造良好的环境，从而为（wéi）在更广阔的应用场（chǎng）景中使用（yòng）AI助手提供帮助。

第三，加（jiā）强（qiáng）伦理（lǐ）和法规遵从。根据人工智能技术的进步及（jí）时修（xiū）订相关法律法规，完善（shàn）对AI助手进行（háng）规（guī）制的制（zhì）度环境，确保AI助手的开发和应（yīng）用符合伦理标（biāo）准和（hé）法律法规，避免产（chǎn）生（shēng）歧视、偏见等问题。

“国家政策层面（miàn）应该从创新方向引（yǐn）导和应用场景（jǐng）规范（fàn）两个方面出发，为AI助手的发展提供支持和保障。包括明确AI助手的适用场景（jǐng）和（hé）范围等，避免误用（yòng），更要避（bì）免国际资本集团假借技（jì）术触发（fā）虚假（jiǎ）市场的（de）滥用。特（tè）别是在（zài）医（yī）疗、教育、交（jiāo）通等关键领域，应（yīng）严格规范AI助手的应用（yòng）条件和程序。此外，要（yào）建立健全AI助手的监管机（jī）制，加强（qiáng）社会力量尤其是（shì）人民群众（zhòng）对AI助手应（yīng）用的监督和评估（gū），确保其合规（guī）性、合理性和安全（quán）性。对（duì）于违规行为，应依法进行处罚和追责。”任勇表示。

未来，企（qǐ）业可（kě）以利用（yòng）AI助手优化（huà）现有业务流程，特别是在新产品研发和（hé）服务的（de）创（chuàng）新（xīn）应（yīng）用方面，AI助手的普及将推动（dòng）不同行（háng）业之间的跨界（jiè）融合和协同发展，为企（qǐ）业带来新的（de）商业机会和合作伙伴，进而带动（dòng）商业模（mó）式和生态的变革。

中央财经大学数字经（jīng）济融合创（chuàng）新发展中心（xīn）主任陈（chén）端在接受中国经济（jì）时报记（jì）者采访时认为，企业（yè）运用（yòng）AI助（zhù）手强化核心竞争力需要（yào）一系列的战略（luè）规划和技术实施。

一是要识别关键业务（wù）场景，深（shēn）入（rù）了解业务需求，确（què）定AI助（zhù）手在哪些（xiē）环节能够（gòu）发挥最大价值（zhí），然后为选定的业务场景明确具体的需求（qiú）和目标，如提高客户满意度、优化库存管（guǎn）理、增强市（shì）场分析能力（lì）等。

二是根据业务需求和（hé）技术成熟（shú）度，选择适合的AI技术和解决方案，要充分考虑（lǜ）与现有系统（tǒng）的兼（jiān）容性，确保AI助手能够顺利集成到企业的（de）IT架构中。此（cǐ）外，还（hái）要（yào）建立完善的数据（jù）治（zhì）理体系，避免因为数据偏差导（dǎo）致的（de）结果偏（piān）差（chà）。

三是需要设（shè）立明确的评估指标和机制，对AI助（zhù）手的性能和效果进（jìn）行定期评估，及（jí）时调整和优化AI助手的算（suàn）法和（hé）模型，以提升其准确（què）性和（hé）效率。此外，还需要关注AI助手可能带来的伦理和社会问题，确保其应用符合道（dào）德和（hé）法律规（guī）范。