语音识别、文本（běn）识别、视（shì）频识别……数字经济时代，人工智能技术已走近你我身边，被视（shì）为经济（jì）增（zēng）长的（de）新引（yǐn）擎、国际竞争的新阵地和推动智慧社（shè）会建设的有效（xiào）工具。而加快“人工智能＋”产业融合、赋（fù）能更多（duō）行业应用落地，更成（chéng）为社会各界共同的期待。

然（rán）而，不久（jiǔ）前（qián）在由中国人（rén）工智能学会主（zhǔ）办的（de）2020中国人工智能产（chǎn）业年（nián）会上，最（zuì）新发（fā）布的报告指（zhǐ）出，目前已成（chéng）熟应用的人工智（zhì）能技术仅为语音识别，机器学习、计算（suàn）机视觉、自然语言处理、知识图谱、智能机（jī）器人等技术距离生长（zhǎng）成熟尚（shàng）需数年时间，而无人驾驶汽车在（zài）未来10年内都不太可能（néng）出现。

从实验室走向大规模商用，人（rén）工智能还需要多久？尚存在哪些（xiē）“堵点”“痛点”？在许多业内专（zhuān）家看（kàn）来，正视人工智能尚存（cún）在的诸多挑战，对（duì）技术赋能抱有理（lǐ）性期（qī）待，方（fāng）能（néng）让其回归技术本质，成为更多产业变（biàn）革创新的（de）动力源泉。

算法不透（tòu）明（míng）导致（zhì）的不可解释

2016年，谷（gǔ）歌人工智（zhì）能（néng）系统AlphaGo击败世界围棋冠军李世石，令世人大为震动。依靠人工智（zhì）能深（shēn）度（dù）学习理论的突破（pò），计算机可以模仿人（rén）类作出决策，然（rán）而，这仅基于大量的（de）数（shù）据学（xué）习,而非因果或规（guī）则推理，整个决策（cè）过（guò）程仍是（shì）一个“黑箱”，人类难以理解（jiě），导致追责难（nán）。

复旦（dàn）大学（xué）计算机（jī）科学技术学院院长姜（jiāng）育刚举例，此前，美国IBM公司研发（fā）了（le）人工智能（néng）系统“沃森（sēn）”帮助医生进行诊疗决（jué）策（cè）。然而，许（xǔ）多（duō）医生很快（kuài）发现在使用“沃森（sēn）”时，系统（tǒng）给出了多（duō）个（gè）不安全、不（bú）正确的治疗意见，甚（shèn）至在（zài）极端的诊断（duàn）案例中，“沃森（sēn）”给（gěi）有出血症（zhèng）状的癌（ái）症病人开出了容易导致出血的药物，严重时可致患者（zhě）死亡。然（rán）而，医生却（què）并不知道为什么（me）“沃森”给出了这样的意见。决（jué）策步骤的不可解释，带（dài）来诸多不确定性。

近（jìn）年来，人工智能应用（yòng）于新药研发被寄（jì）予厚望（wàng）。然而，算法的（de）不可解释性却横亘在前（qián）。相关研发和监管部门需要清楚地知道药物开发中使用（yòng）的算（suàn）法,从而理解人（rén）工智能（néng）主导的决策背（bèi）后的逻辑。如果不对（duì）监管实现（xiàn）算法透明化（huà）,人工（gōng）智（zhì）能将会是一（yī）个无法进行严谨的（de）科（kē）学评价及验证的“黑匣（xiá）子（zǐ）”。这可能会（huì）导致（zhì）在药物审批过程中出现种种无法（fǎ）预料的问题,比如对人工智能“发现”的生物（wù）标记（jì）物的接（jiē）受度不明（míng）。此外，对于智能政（zhèng）务（wù）、无人驾驶这样（yàng）安全性要求极（jí）高的行业，人工智能的（de）引入自然更为（wéi）谨慎。

“深（shēn）度学习的算法和核心模型需要能够真正展开，让公众知晓它的机理模型”，上海人工智能研究院有限公司总经（jīng）理宋海（hǎi）涛建议。中科院软件研究所研究（jiū）员薛云志则指出，人工智能面向不同知（zhī）识背景的（de）用户，要能以简单、清晰的方式，对决（jué）策过程的根（gēn）据和原因进行说明，并能对系统决策过（guò）程（chéng）关键（jiàn）节点的数据加以追溯并能够审计，这在（zài）未来人工智能（néng）应用大规模落（luò）地时，是（shì）特别需要关注的特性，也是实施监（jiān）管的必（bì）要。

易受欺骗引发安全性质疑（yí）

作为人工智能技术的（de）“大热选手（shǒu）”，深度学习（xí）可（kě）以通过对大量已知样本（běn）的训练，制作自己的样本（běn），这是深度学（xué）习（xí）的特点，同样也是痛（tòng）点。

京东人工智能研究院院长周（zhōu）伯文坦言，人（rén）工智能目前在面向产（chǎn）业化落地时，遇（yù）到的巨大（dà）挑战正是真实（shí）环境的开放（fàng）边（biān）界（jiè）和（hé）规则（zé）模糊，数（shù）据的（de）“噪音”非常多，使（shǐ）得智能模型的部分结果和使用情况难以（yǐ）让人信赖。

姜育刚指出，人工智能目前的智能判别模式（shì）存在缺陷，容易被对抗样本所欺骗。比如图（tú）像识（shí）别，在一张人像图片上加入一些非常少（shǎo）量的干扰，人为（wéi）视觉（jiào）看上去（qù）基本（běn）没（méi）有区别，但人工（gōng）智能模型就（jiù）会产（chǎn）生识别错误；再如自动驾（jià）驶，一张（zhāng）“限速（sù）80码”的交通标牌，加入一些干扰后，就（jiù）可能（néng）被（bèi）机器（qì）识别（bié）成“禁止通行（háng）”。显然，存在很大的安全隐患。

语（yǔ）音识别领域也存在这种问题。技术人（rén）员在（zài）语音上任意加入非常微小的干扰，语音（yīn）识别系统就可能（néng）会识别错误。同（tóng）样（yàng），在文本识别领域，改（gǎi）变一（yī）个字母（mǔ）就（jiù）可以（yǐ）使得文本内容被错误分类。

此外，若深度学习的数据集（jí）中存在隐藏的偏见，人工（gōng）智能系统无（wú）法发现，也不会否定。缺少反馈机制的“照单全收”，最（zuì）终可（kě）能导致生成的结果并不客观（guān）。

例如在（zài）行业内已经出现的，人工（gōng）智能在深度学（xué）习后对女性、少数族（zú）裔、非主（zhǔ）流文化群体产生“歧视”：亚马逊通过（guò）人工智能筛选简历，却发现（xiàn）了系统对女性存在偏见导（dǎo）致最终关（guān）闭。更为常见的是（shì）手机软件利（lì）用人（rén）工智能算（suàn）法导致的大数据（jù）“杀熟”，如根据手机类型的（de）不同，可（kě）能会推荐（jiàn）不同类型的商品，甚至打车时推荐不同价格、档次（cì）的车辆。

目前,“AI+金融”的发（fā）展如火如荼。但（dàn）当金融机构均采用人工智能进行决（jué）策（cè）时,其市场信号解读就可能趋同与不断强化,导致形成偏离正常市场规律的结（jié）果。而这（zhè）些不正（zhèng）常（cháng）的市场变化也会成为（wéi）人工智能的学习基础,将（jiāng）人工（gōng）智能的决策逻辑进一步畸化（huà）,容易造成恶（è）劣的（de）后果。

以上（shàng）这些（xiē）问题（tí），影响着人工智（zhì）能赋能实（shí）体（tǐ）经济（jì）的安全性，凸显（xiǎn）产业对技术可信赖性的呼（hū）唤。“从AI到可信赖AI，意味着我们需要在技（jì）术层面上解（jiě）决（jué）鲁棒性（稳定性）、可解释性和可复制性（xìng）这（zhè）些（xiē）核心技术挑（tiāo）战。同时为了（le）大规模产业化应用，我们必须考虑到（dào）人工智能（néng）的公平性和（hé）负责任。这几个维（wéi）度是人（rén）工智能（néng）必须要解决的问题。”周（zhōu）伯文说。

法律规（guī）制和伦理（lǐ）问题（tí）待完善

“目前的智能算法还存（cún）在给出的决策不符合伦理道德要求的问题（tí）。”姜育（yù）刚指出，在应用中已发现，智能算法的决策没有从改善人类生活、服务人（rén）类社（shè）会的角（jiǎo）度来进行。如智能音响在（zài）对（duì）话（huà）中出现“劝主人自杀”的内容，聊天机器人学（xué）会了骂脏话（huà）和种族（zú）歧视等。而这些不友好的（de）决（jué）策都是（shì）模（mó）型从数据中学来的，并不是研发者对人工（gōng）智能模型设置的（de）目标。

同时，人工（gōng）智能算法需要海量的数据驱动，训（xùn）练数据可以被算（suàn）法恢复，个（gè）人（rén）隐（yǐn）私存在泄露（lù）和被侵犯（fàn）的风（fēng）险，而大量的数据也存在共享壁垒。在人（rén）工智能（néng）赋能金融的过程中，这（zhè）一问题尤被关注（zhù）。最（zuì）新报告显示，近年来（lái）,每（měi）年发生金融隐私（sī）泄露（lù）事件以大约35%的速度在增长。加之近年（nián）来（lái）人工智能（néng）技术在（zài）金融行业的广泛（fàn）应用,由此带来的银行数（shù）据、保（bǎo）险数据（jù）、网贷（dài）业务及大（dà）数据等（děng）个人信息保护问题日益凸显。

在2020年抗击新（xīn）冠肺炎疫情期间,人工（gōng）智能技术在我国响应速度快、介入力度（dù）大（dà），帮助推（tuī）出了（le）CT影像的辅（fǔ）助诊断（duàn）系统，提升了（le）医生诊断的（de）速度和信心。然而，医疗影像智能诊断（duàn）发展（zhǎn）也面临着法律规制问（wèn）题（tí）。与其他（tā）人工智能赋（fù）能（néng）行业的（de）大数据相比（bǐ），获取高质量的医疗影像数据相对困难。不同医疗机构的数据,目前还很少互通、共享（xiǎng）。而单（dān）个医疗机构积累的（de）数（shù）据（jù）往往不足（zú）以训练出有效（xiào）的深度学习（xí）模（mó）型。此外,使（shǐ）用医疗影像数据进行人工智能算法的训练还涉及保护病人隐私（sī）等非技术（shù）问（wèn）题。

此（cǐ）外，近年来，随（suí）着人工智能技（jì）术（shù）的深入探索，科学界有人提出（chū）研发“人工生命”，成为又一（yī）个伦（lún）理话题（tí）。对（duì）此（cǐ），中国工程院院士（shì）李（lǐ）德（dé）毅（yì）表示，生命不仅有智能，更要有意识。从伦（lún）理角度上，生命是人类的底线，触碰底线要慎之又慎。“所以（yǐ），我们可以通过计（jì）算机技（jì）术（shù）继续研发（fā）没有意识、但有智能的高阶机器。让人类的智能（néng）在体外延伸，保（bǎo）持它的工具性，而非（fēi）人工创（chuàng）造意（yì）识。”

深（shēn）圳云天励（lì）飞（fēi）技术股份有限公司（sī）副总裁郑文（wén）先同（tóng）时提醒，“人工智能的技术进步可以给社会带来非常正向（xiàng）的效（xiào）益，不应（yīng）因（yīn）为对隐私保护机制等方（fāng）面的忧虑（lǜ）而将人工智能的（de）问题妖魔（mó）化（huà）。”他认为（wéi），当（dāng）前（qián）人（rén）工智（zhì）能的法律法规尚不健全，亟待有（yǒu）关部（bù）门进一步科学制（zhì）定和完善，这（zhè）样才能引导公众更加健康（kāng）地看待这一新技（jì）术应用于产业。

亟待技术进（jìn）步（bù） 发展新一代人工智能

面对（duì）技术（shù）落地所（suǒ）遇（yù）到的（de）种种“痛点”，许多专家给出了这样的比喻：“人（rén）工智能（néng）相（xiàng）当（dāng）于一个锤子，不（bú）能哪一（yī）个（gè）钉（dìng）子都能砸（zá）。”

“我觉得，人（rén）工智能发展的（de）第一步是辅助，让重（chóng）复复（fù）杂（zá）的劳动量由机器完成，在这个基础上，我们再创造条件逐渐向（xiàng）智能决策的（de）方向发（fā）展。”郑（zhèng）州（zhōu）大学教授蒋慧琴表示，对于业（yè）界（jiè）有人提出“人工智能（néng）超越甚（shèn）至取代（dài）人类（lèi）”的期（qī）待（dài）和预计，应（yīng）保持（chí）冷（lěng）静，“只（zhī）有沿着这（zhè）样的方（fāng）向（xiàng）坚（jiān）持（chí）下来，才（cái）有可（kě）能（néng）达到我们的目标”。

中国科学技（jì）术发（fā）展战略研究院研究员李（lǐ）修全认（rèn）为，在重复性操作（zuò）的（de）生产环（huán）节和基于海量数（shù）据（jù）的高强度计算优化求解上（shàng），人工智（zhì）能具有明显优势，应当（dāng）是当前应用（yòng）于产业的主要方向（xiàng）。

华为云人工（gōng）智能领域（yù）首席科学家（jiā）田奇则认为，加速人工智（zhì）能（néng）赋能产业落地，其与科学计算的深度（dù）融合应是显著趋势，在工业（yè）、气（qì）象（xiàng）、能源、生物、医（yī）学（xué）等（děng）领域，需要（yào）大量科（kē）学计算，人工智能技术能为传（chuán）统科学计算带来新的思路、方法和工具，同时由于（yú）传统科学计算具有严密性，人工智能（néng）也可（kě）以提高它本身（shēn）的可解释性。

“推动人（rén）工智能进入（rù）新的阶（jiē）段,有赖于与数学、脑科学等结合实现底层理论（lùn）的突破。”中国科学院（yuàn）院士（shì）、清华大学人工（gōng）智能研（yán）究院院长（zhǎng）张钹说，未来（lái）所需要的第（dì）三代人工（gōng）智能应是实现（xiàn）可解释的、鲁棒的、可（kě）信安全（quán）的（de）智能（néng）系统，依靠（kào）知识、数据、算法和算力四个要素，将实现从不带认（rèn）知的人工智能转变为带（dài）认知的（de）人（rén）工智能（néng）。

如何解（jiě）释新一代人工智能？李德毅认为（wéi），传统人工（gōng）智能是计算机智能（néng），属于（yú）封闭型人工智能（néng）。新一代人工智能应该是开放性人（rén）工（gōng）智（zhì）能。当前，所有的计算机都是对软件（jiàn）工程师的智（zhì）能编程代码进行一次（cì）又一次简单执行（háng），“但我们希望这（zhè）个机器在学（xué）习过程中能够解决新的问题（tí），学习应成（chéng）为新（xīn）一（yī）代人工智能解决现实问题的基（jī）础”。

清华大学智能技术与系统国家重（chóng）点实验室教授邓（dèng）志东（dōng）建（jiàn）议（yì），数据和算力的增加总有天花板，要推（tuī）动人（rén）工智能技术深度赋（fù）能（néng）更多行（háng）业，需（xū）要的是（shì）核心关键技（jì）术突破（pò），特别是认知智能的进步，同时，还要依靠智（zhì）能高端芯片、传感器（qì）等零部（bù）件（jiàn）的（de）硬件支撑，再借助（zhù）我国5G信息技术（shù）的优（yōu）势，形（xíng）成（chéng）合力支（zhī）撑产业落地和商业化应用。

此外（wài），人工智能标准化工（gōng）作也（yě）应加（jiā）速展开（kāi）。薛云（yún）志（zhì）表示：“建立（lì）可信赖的人工智能需要标（biāo）准化，一方（fāng）面要从（cóng）开发（fā）者训（xùn）练、测试与实验、部署运营和监管的角度来做（zuò），另（lìng）一方面（miàn）则要从芯片等硬件、算法、产品（pǐn）系（xì）统出（chū）发，来制定（dìng）标准和规范，同（tóng）时（shí）对（duì）人工智（zhì）能的（de）风险、伦理、管理（lǐ）等标准研（yán）究也要尽（jìn）快启（qǐ）动（dòng），这些都只是第一步。”