双色球走势图表图2平台

  • 时间:
  • 浏览:0
  • 来源:周易测彩票

原标题:人工智能要“撞墙”?无法理解语义将是巨大阻碍  编者按:ai已经在逐渐渗透生活的方方面面,算

原标题:人工智能要“撞墙”?无法理解语义将是巨大阻碍

编者按:ai已经在逐渐渗透生活的方方面面,算法的应用也越来越广。在许多公众人物公开担忧ai会发展出“超级智能”让人类失业,甚至主宰人类世界的时候,有些研究者却担心ai“太愚蠢”,“死板”,不灵活,给世界造成威胁。“机器学习驱动的算法还未能了解人类的行为方式,有时可能会带来灾难性后果。” 本文作者米切尔(melanie mitchell)是波特兰州立大学计算机科学系的教授,她就有这样的担忧。她的新书《人工智能:思考人类的向导》(artificial intelligence: a guide for thinking humans)将于2019年出版面世。本文编译自the new york times的原题为“artificial intelligence hits the barrier of meaning”的文章。

九月份南非人工智能博览会的一名代表,图片来自bothma/epa, shutterstock。

ai成为热词已经很久了,你可能听过这样的说法,“我们正处于一场ai革命之中。你可能还听说过“神经网络”,由深度学习算法驱动,利用海量数据训练出的复杂程序。机器智能发展的速度之快,可能远远超过我们的想象。

目前的ai程序可以识别人脸,可以将语音转录成文字。有些程序甚至可以发现小型的金融诈骗; 给出模糊的关键字,就能找到相关的信息所在网页; 给出目的地,就能找出两点之间最优的路径; 下棋能下过围棋和国际象棋世界冠军,还能在翻译几百种语言。重点是,ai在未来还有更多可能——自动驾驶汽车、自动化癌症检测工具、家居清洁机器人,甚至可能将科学发现也自动化...这些听起来很遥远,却逐渐成为ai领域的主流。

facebook的创立者扎克伯格今日宣称,在接下来的五到十年,facebook会继续发展ai,,让ai的“感官”比人类更灵敏,不管是视觉、听觉、语言还是一般认知方面。谷歌deepmind团队的首席科学家列格(shane legg)预测,“在20世纪的第三个十年中期,人工智能会达到人类智能水平。”

我本人已经在ai领域工作数十年,听到过无数人预测“人工智能将与人类智能相当”的预测,见证一次又一次的失败后,我很确定,最新的这些预测也有不足之处,也难以实现。现在的ai系统最大的痛点、最缺乏的就是人类智能的实质——理解人类所处的境况,并了解其意义的能力。数学家、哲学家 gian-carlo rota曾经问过,“我很想知道人工智能会不会跨越‘意义’的阻隔?什么时候才能理解事物背后的含义?”对我来说,这仍然是?人工智能发展过程中最重要的问题。

机器最大的问题就是缺乏人类的理解能力。这一点已经在现代人工智能基础的缺陷中显现出来。虽然现在的程序比起二三十年前复杂多了,功能也越来越强大,但是最近有一系列研究显示,深度学习系统的学习方式和人类有很大差别,其结果可能不可靠。

我来举几个例子。

如果你用手机的语音识别将下面这句话转成文字,“the bareheaded man needed a hat”(光头男人需要一顶帽子),手机可能给出不同的结果“the bear headed man needed a hat.”(熊头男人需要一顶帽子)。如果你用谷歌翻译将如下句子翻译成法语,“i put the pig in the pen”(我把猪放进猪圈),得到的结果中,“pen”(圈)会被误译成法语中的笔(“je mets le cochon dans le stylo” )

研究发现,只要研究者在文本中加入一些“混淆视听”的小片段,文本读取程序就很容易被糊弄:有些可以“读取”文本、然后回答问题的程序,会因为加入的无关细节导致“阅读理解”有误。另外一项研究指出,有些识别人脸和物体的程序被誉为深度学习领域里程碑式的进步。但这些程序在光线不同、有无使用滤镜或者其他改变的不同情况下,也有可能出现严重失误。而人类的识别几乎不受这些)因素的影响。

最近一项研究显示,给人脸图像加上少量“底噪”就足以干扰最先进的人脸识别算法,使其表现水平大幅下跌。还有一项研究(花名“房中大象”,the elephant in the room,比喻显而易见的事物)发现,如果一张房间客厅的图像中,在某一个角落加入大象的图像,深度学习视觉程序在将图片中的物品归类时,就会出差错。

而且,很多程序已经“掌握”了某电子游戏或者某种棋类,水平远超人类,但只要对游戏内容(背景颜色或目标位置)做小小的改变,程序就会书输得一败涂地。

即使是最优秀的ai程序,在环境不同时,哪怕只是和训练数据有很小的差别,可靠程度也大大降低。不过,目前相关的例子并不多。这类系统犯错的时候,看起来无伤大雅,影响不大,但是后果有可能很严重:比如,你要登机了,机场的安检系统把你的脸和一个罪犯的脸相混淆; 或者你乘坐自动驾驶汽车,但由于光线原因,算法没有意识到车即将穿过马路...都有可能带来灾难性后果。

而更让人担忧的是近来ai系统在对抗性情况下展现出的脆弱性。在这些例子中,怀有恶意的黑客可以对某些图像做出肉眼无法识别,但会影响程序正常运行的细微改变,使得程序出错,引发危险和灾难。

这种类型的攻击几乎在每个ai应用领域都有实例,包括计算机视觉、医学影响处理、语音识别和语言处理等等。多项研究均表明,理论上,黑客只需要做很小规模的变动,很容易就能糊弄人脸识别和物体辨认系统:在“停止”路标上贴个贴纸,就能妨碍自动驾驶汽车的视觉系统,让算法以为是“让行”标志。黑客还能下“无声命令”:对音频做一些调整后,人耳听起来像是背景音乐的音频,siri或者alexa“听来”却是指令。

这些潜在的弱点都很清楚地展现了ai 领域的进展面临的阻碍:真正理解事物背后的含义。任何和ai系统打交道的人都知道,在与人类相似的视觉能力、语言流利度和游戏天才的背后,这些程序的行事方式和人类截然不同:他们并不理解输入数据和输出结果的含义。这种理解能力的缺乏,会让程序在难以预知的错误和恶意攻击面前变的不堪一击。

要跨过意义这层阻隔,我们需要什么?如何能让机器更深入地理解自己所处的境况,而不是通过浅薄的表面特征来做判断呢?要得到这个问题的答案,我们要先了解人类认知。

人类对自身面对情况的理解有广泛、直觉般的“常识”作为基础,我们知道世界如何运转、其他生物可能出现的行为,尤其是其他人可能的举动。另外,我们对于身边世界的理解能力是基于自己的概括能力,根据经验形成抽象概念,做类比。简单说来,人类可以灵活地将自身形成的概念运用到新的环境中来。研究人员几十年来不断实验,希望赋予ai系统这种人类只能,使其也具有直觉般的常识和人类概括的能力,但是即使科学家已经十分努力,这方面的的进展仍然非常缓慢。

很多已经投入实际应用的ai系统其实缺乏常识,也又不具备人类理解力其他关键因素。虽然有些人非常担心“超级智能”ai系统会给人类世界造成威胁,但是ai系统带来的最大威胁在于我们过度相信它们,在不了解他们的限制的前提下,就赋予他们很大的自主权。正如ai研究者pedro domingos在《主人算法》(the master algorithm)一书中所说的那样,“人们都担心电脑会越来越聪明,然后主宰世界,但是现实的问题是:它们太愚蠢,却已经主宰了世界。”

ai的商业化竞争给了研究者巨大的压力,因为他们必须在短暂的时间内做出“足够好”的ai系统。但是,想要实现开发真正可靠的ai系统的目标,我们必须从自己身上找答案:更深入地认识人类认知能力,了解人类认识世界的稳定可靠的认知机制。要冲破ai面临的“意义之墙”的阻隔,光是盯着更大规模的网络、更多的数据集可能收效甚微; 把目光投向这个领域的根源,钻研(人类智能与计算机智能的)交叉学科,去探索智能的本质,反而会让我们离答案更近一步。

编译组出品。编辑:郝鹏程

猜你喜欢

大乐透预测精确号码推荐平台

当前钢厂盈利持续向好,利润高企,开工持续高位,对于铁矿石需求特别是高品位矿石需求看涨。但是港口高库存依旧是一个利空因素,不排除后期采暖季到来会出现发酵。 钢厂扩产意愿较高 目前

2019-08-20

独胆预测专家官网

日前,记者从水钢技术中心获悉,水钢公司收到徐州市产品质量监督检验中心出具的《钢筋混凝土用热轧带肋钢筋》检验报告,“经抽样检验,所检项目符合GB/T1499—2007标准,依据C

2019-08-20

精华布衣图3d官网

新陈大米如何区分、香蕉成熟度如何判断……这些难题通过现代分析检测仪器的“火眼金睛”,均能迎刃而解。作为全球四大分析仪器专业展会之一,“2017日本JASIS分析仪器展”日前在日

2019-08-20

双色球综合走势图图平台

近年来,房地产行业的风生水起,美好家居生活观念的渗透,卫浴行业迎来了不折不扣的春天,但在发展之初,行业是混乱的,各种不稳定的因素一直制约的卫浴行业的发展,如今卫浴行业渐渐进入稳

2019-08-19

体彩排列三跨度走势图乐彩网官网

为了使橡胶密封件能发挥出好的性能与使用寿命,在使用时也是有一些技巧的,下面密封件生产厂家东盛迪带你了解橡胶密封圈使用时需要注意的问题。 1、首先使用前提是需要选择合适的密封件材

2019-08-18