公考资讯网
科技您的位置:首页 >科技 >

为什么在人工智能方面快速失败是一场灾难

发布时间:2019-10-28 21:45:02 来源:

“快速失败”是启动场景中众所周知的短语。快速失败的精神是,以最小的可行产品进入市场,然后迅速走向成功。快速失败承认,企业家在与实际客户和实际后果进行测试之前,不太可能设计出成功的最终状态解决方案。这是“准备,开火,瞄准”的方法。或者,如果反冲足够大,那就是“准备,开火,关键”的方法。

考虑一下LinkedIn首席执行官Reid Hoffman的话:“如果您对产品的第一个版本不感到尴尬,那么发布太晚了。”

快速失败的反面是软件开发的“瀑布式”方法,即在对软件进行实际客户测试之前,先将大量时间用于需求分析,设计和方案规划。

当谈到人工智能的新兴潜力时,我认为快速失败是灾难的根源。

人工智能将继续存在。

我们周围有许多不同类型的人工智能软件。今天,大多数AI的权限都很少。例如,亚马逊的软件会推荐您可能要购买的东西,但实际上并不能代表您购买这些东西。Spotify的软件决定为您创建一个播放列表,但是如果一首歌曲不适合您的口味,那么后果将是良性的。Google的软件会确定与您的搜索词最相关的网站,但不会确定您将访问哪个网站。在所有这些情况下,快速失败都是可以的。使用会导致更多的数据,从而导致算法的改进。

但是情报软件开始做出代表更高风险的独立决策。失败的风险太大,不能掉以轻心,因为后果可能是不可逆的或无处不在。

我们不希望NASA快速失败。一次航天飞机的发射耗资4.5亿美元,使人类生命处于危险之中。

AI的风险正在增加。

想象一下:如果我们让100+亿人接触到智能软件,这些软件决定他们阅读了哪些新闻,后来又发现该新闻可能具有误导性甚至是虚假性,从而影响了美国总统的选举?谁将负责?

这听起来有些牵强,但媒体报道表明,仅通过Facebook,俄罗斯的影响力就达到了1.26亿人。赌注越来越高,我们不知道该对谁负责。我担心那些在AI方面取得领先进展的公司并不了解责任。快速失败不应该成为意外结果的可接受借口。

如果您不相信,可以将以下情况想象成快速失败心态的副产品:

如果您的全部退休储蓄由于人工智能而在一夜之间蒸发怎么办?这是可能发生的情况。在不久的将来,数百万的美国人将使用智能软件在退休储蓄上投资数十亿美元。该软件将决定将资金投资于何处。当市场经历大幅度的调整时(偶尔会发生这种情况),该软件将需要迅速做出反应以重新分配您的资金。这可能导致投资在几分钟内触底,而您的资金也消失了。有人负责吗?

如果您的朋友因人工智能在车祸中丧生怎么办?这是可能发生的情况。在不久的将来,数百万美国人将购买由智能软件控制的无人驾驶汽车。该软件将决定许多美国人的命运。人工智能会选择撞向意外上街的行人还是将车辆驶离道路吗?这些都是瞬间做出的决定,具有现实的后果。如果该决定是致命的,是否有人负责?

如果您的女儿或儿子由于人工智能而患上抑郁症怎么办?这是可能发生的情况。在不久的将来,数百万的孩子将拥有人为的最好的朋友。这有点像一个看不见的朋友。它将是一个名为Siri或Alexa的同伴,或者其他说话并表现得像知己的人。我们将这个朋友介绍给我们的孩子,因为它将友好,聪明和关怀。它甚至可以代替保姆。但是,如果您的女儿或儿子将所有的自由裁量权都花在了这个人造的朋友身上,而数年后却无法维持现实世界中有意义的关系,有人要负责吗?

在某些情况下,后果无法挽回。

负责任的人工智能方法。

相反的论点是人类已经造成了这些悲剧。人类传播假新闻。人类在股市上赔钱。人类用汽车互相残杀。人类变得沮丧。

相关:人生教练大师托尼·罗宾斯(Tony Robbins)告诉我们为什么他投资一家AI公司

区别在于人类是个别情况。人工智能替代或与人类竞争的风险在于,它可以同时大规模应用。AI的范围和范围是巨大且瞬时的。它从根本上引入了更高的风险。虽然一个犯错误的驾驶员确实很不幸,但是一个对数百万人犯同样错误的驾驶员应该是不可接受的。

需要一种对AI更负责任的方法。我们的思维方式应该转向风险预防,安全计划和模拟测试。尽管这违背了科技行业的现代精神,但我们有责任防止大多数不希望发生的不良结果发生之前。好消息是,只要有正确的心态,我们就可以防止上述情况变为现实。

热点推荐
随机文章