人工智能（Artificial Intelligence，AI）发轫于20世纪50年代，至今已（yǐ）经历了三次发展浪潮，不管是实验室（shì）阶段还是（shì）大规模产业化阶段，研究（jiū）者们几十年如一日不变的都是推进其技术（shù）的进步，希望机器真的有一天（tiān）能具有一般人（rén）类智慧，执行（háng）全方位的人类认知（zhī）能力。

近年（nián）来，为（wéi）了让AI更加（jiā）健康发展，有（yǒu）一项技术领（lǐng）域正在成为产业界和学术（shù）界研究的重点：可信AI，即（jí）将人（rén）类（lèi）社（shè）会的正面价值观，通过技术赋予到人工智能上（shàng），包括（kuò）可解释、公平性、隐私保护（hù）和公平（píng）性。

从（cóng）学术研究（jiū）层（céng）面（miàn）来说，可信AI主要是针对算法和系统（tǒng）层面（miàn）的研究，包（bāo）括（kuò）安全性/鲁棒性、可解释性、隐（yǐn）私（sī）性、公平性、可审计性（xìng）/问责性、环境保护（hù）。可解（jiě）释（shì）性包括（kuò）学习方法或模型的理（lǐ）论可解释、算法可解释、行为可解释（shì）；鲁棒性主要针对模型（xíng）稳定性研究、攻击（jī）模（mó）型和防（fáng）守模型（xíng）；隐私（sī）保护指的是攻击与保护方法直（zhí）接（jiē）的博弈，如差分隐私（sī）、多中心联邦（bāng）学习（xí）；公平性针对的是（shì）各（gè）种数据、模（mó）型（xíng）的偏置（zhì）研究，平（píng）等和公正（zhèng）的平衡；而环保指的是寻求高能（néng）效策略，更高能效的计算硬件。

与可信AI学术研究不同，企（qǐ）业更多是针对当下的问题，提（tí）出解（jiě）决方案（àn）。如2015年，蚂蚁（yǐ）集团启动基于（yú）“端特征”的手机丢失风险（xiǎn）研究项（xiàng）目（mù），旨（zhǐ）在用（yòng）AI技术保护用户的（de）隐私安全。为了解决了AI中的公平性（xìng）（Fairness），IBM于2018年开（kāi）发了多个AI可信工具（jù），在AI系统中采用不带偏见的数据集和模型，从而（ér）避免对（duì）特定群体的不公平。产业（yè）界对可信AI的应用加（jiā）更加苛（kē）刻（kè），容错率更高。很多可信（xìn）AI白皮书提到（dào），可信（xìn）AI真正（zhèng）落地起来，需要放到（dào）生（shēng）产流程里面（miàn），让其（qí）成（chéng）为一（yī）种机制（zhì），发挥技术（shù）的约束（shù）作用。

青年（nián）学生是重要的技术人才（cái）储备（bèi）。对于研究可信AI的青年学生来说，对从事可信AI怎（zěn）么准备，在他们现在的学习和生活中（zhōng），就应了解学术的前（qián）沿，以及业界（jiè）最新技（jì）术趋势，思考哪些（xiē）技术可以应用（yòng）到（dào）哪些问题上，主动观察了解所处的世（shì）界，以及业界（jiè）的需求痛点和技（jì）术瓶颈。比（bǐ）如，最近一档可信（xìn）AI实战科技（jì）真（zhēn）人秀，就联动了（le）全国一些顶尖高校，通过可信AI在工（gōng）业界（jiè）“科技反诈”当中的应用，还（hái）原了可（kě）信（xìn）AI技术在实际应（yīng）用中的能（néng）力，把学（xué）术（shù）界和（hé）产业界（jiè）正在做（zuò）的事，通过大家都能理（lǐ）解的形式打通起（qǐ）来，让技术（shù）从业者、技（jì）术研究者都深（shēn）度参与（yǔ）其（qí）中（zhōng）。

做AI研究，“复杂度”是一个关键词。环境复（fù）杂度、任务复杂度、系统复（fù）杂度决定了AI的水平。对它的（de）研究可以（yǐ）揭示AI产生原理（lǐ），也可（kě）以（yǐ）回（huí）答（dá）AI的（de）终极问题，即对人类命运（yùn）的最终影（yǐng）响。未来（lái）可信AI研究，也要从复（fù）杂度分（fèn）析来看AI为人类（lèi）带来的价值，更需要学（xué）界和产业界共同努（nǔ）力来推动。