推广 热搜: 工业机器人  新松机器人  机器人  销量  机械手  2013  3D打印机  灭火机器人  陕西  中电投 

当AI出现问题时,我们竟无能无力?

   日期:2018-03-31     浏览:118    评论:0    
到目前为止,没有工具,也没有明确的方法可以阻止AI出现问题。实际上,可能了解AI到底出了什么问题比较靠谱。

这场竞赛目的是开发智能系统,能够自动驾驶汽车,诊断、治疗复杂的医疗状况,甚至还能训练其他机器。

问题在于,没有人十分确定该如何诊断这些系统中潜在的、不那么明显的缺陷,或者更好的情况应该是要防止它们发生。虽然机器可以很好地完成某些工作,但人类仍然需要设计系统来训练和观察它们,并且这个系统还远远不够完善。

当AI出现问题时,我们竟无能无力?

“调试是一个开放的研究领域,”IBM research Almaden副总裁兼实验室主任Jeff Welser说。“但是我们至今还有一个好的答案。”

在这个问题上他不是一个人。尽管人工智能、深度学习和机器学习正在被应用于包括半导体设计和制造业在内的多个行业,但重点在于如何使用这些技术,而不是在出了差错时发生了什么。

“调试是一个开放的研究领域,但这个问题没有解决。”ANSYS首席技术专家这样表示。

至少部分问题是,没人能完全确定一旦设备被训练后会发生什么,特别是在深度学习、人工智能以及各种神经网络方面。

企业解决方案技术副总裁、杰出的发明家Steven Woo表示,调试是建立在理解的基础上的,关于大脑是如何运作的,还有很多需要学习。所以从传统意义上来说,调试仍然是一个挑战,因为需要了解何时发生了错误并进行错误分类。我们需要进一步研究“我不知道”类型的分类。

当AI出现问题时,我们竟无能无力?

这与科幻小说中描述的一些场景相去甚远,在科幻小说中,机器可以控制整个世界。错误的算法可能导致在某处发生意外,如果它涉及到功能安全系统,可能会造成不可预估的危害;其他情况下,它可能会使机器产生恼人的行为。但是人工智能(AI)、深度学习(DL)和机器学习(ML)的不同之处在于,仅仅通过一个软件补丁修复这些bug是不可行的。更何况,这些bug可能在数月或数年内都不会出现,或者直到与其他设备进行交互才出现。

Synopsys嵌入式视觉处理器产品营销经理则这样认为,如果我们正在训练一个网络,那么它的吸引力就在于我们可以让它更快、更准确。一旦我们训练的网络出了问题,只能追踪到代码。现在,调试成了一个棘手的问题,而且它并不是一个能提前避免的事情。

什么足够好?

“什么足够好?”是半导体行业一个潜在主题,答案因市场、应用的不同而有很大差异。就算在在同一设备中,不同功能之间甚至都可能有所不同。例如,在玩手机游戏的时候,出现bug会很烦人,可能需要重新启动才能解决;但如果打不了电话,那我们可能会直接选择换掉手机。对于工业设备,这项技术可能直接与收入挂钩,因此它可能是计划维修更换的一部分,而不是等待失败。

当AI出现问题时,我们竟无能无力?

对于人工智能,深度学习和机器学习,则不存在上面那样的标准。推断结果是数学分布,而不是固定的数字或行为。

eSilicon市场副总裁在某次采访中表示:而它们最大的问题是,是否正确,以及如何与人类相提并论。是否当它们超越人类时,就可以认为它们足够好了?事实上,这个问题可能我们永远也无法证明。所有这些都是训练数据的结果,一般来说,拥有的训练数据越多,就越接近完美。这也是与以往最大不同的地方,因为过去我们只关心算法和布线是否正确。

这是一个可能会出现问题的地方。虽然在批量制造方面有大量的数据,但设计方面却少得多。

下一页>  
 
打赏
 
更多>同类资讯
0相关评论

推荐图文
推荐资讯
点击排行