公考资讯网
科技您的位置:首页 >科技 >

人工智能系统可以愚弄

发布时间:2019-10-18 16:40:44 来源:

尽管它带来了所有好处并带来了技术上的便利,但对于诸如人工智能(AI),机器学习和机器人等新时代技术将取代人类工作的担忧仍在显现。但是,一些研究人员不同意技术很快就会取代人类的工作的想法。美国加利福尼亚大学洛杉矶分校(UCLA)的一些研究人员进行了各种实验,这些实验表明了“深度学习”机器的严重局限性。

人工智能还有很长的路要走

“被称为深度学习计算机网络的人工智能形式有多聪明?这些机器模仿人脑有多紧密?近年来,它们取得了很大的进步,但是还有很长的路要走。”加州大学洛杉矶分校的认知心理学家小组在《 PLOS计算生物学》杂志上报道。

支持者表达了对使用这些网络完成许多个人任务甚至工作的热情,这些工作传统上是由人们执行的。但是,这项研究中的五个实验结果表明,愚弄网络很容易,并且网络使用计算机视觉识别对象的方法与人类视觉有很大不同。

加州大学洛杉矶分校心理学教授,该研究的资深作者菲利普·凯尔曼说:“这些机器具有我们需要理解的严格限制。”

网络很容易被骗

他说,机器视觉有缺点。在第一个实验中,心理学家展示了最好的深度学习网络之一,称为VGG-19,该网络是动物和物体的彩色图像。图像已被更改。例如,高尔夫球的表面被展示在茶壶上。斑马条纹放在骆驼上;大象上显示了蓝色和红色的菱形袜子的图案。VGG-19排名第一,并为40个对象中的五个选择了正确的项目作为其第一选择。

“我们可以很容易地愚弄这些人造系统,”合著者,加州大学洛杉矶分校心理学教授卢宏静说。“他们的学习机制远没有人脑复杂。”

在第二个实验中,心理学家向VGG-19和另一个名为AlexNet的深度学习网络展示了玻璃小雕像的图像。在测试这两个网络的所有实验中,VGG-19的表现都更好。这两个网络都经过训练,使用称为ImageNet的图像数据库识别对象。

但是,两个网络都无法识别玻璃小雕像。

在第三个实验中,研究人员向VGG-19和AlexNet展示了40张黑色轮廓画和白色图像。前三个实验旨在发现设备是否通过形状识别物体。

研究人员得出的结论是,人类可以看到整个物体,而AI网络则可以识别物体的碎片。

“这项研究表明,这些系统在不考虑形状的情况下,就可以在接受训练的图像中获得正确的答案。对于人类而言,整体形状对于物体识别至关重要,而在这些深度学习系统中似乎根本没有通过整体形状识别图像。”

热点推荐
随机文章