确保您永远不会错过自己喜欢的新故事,我们很高兴向您发送一些提醒
点击 '好的' 然后 '允许'启用通知
出版
旨在回答道德问题的人工智能机器人最终从人类那里学习了一些有问题的特征。
Ask Delphi是由艾伦研究所(Allen Institute)创建的,以期为它可以回答生活中最棘手的难题。
该软件应该让用户问一个问题,例如“谋杀不良”,它将以最道德的解决方案做出回应。
为了理解人类的道德基础,它浏览了许多互联网来源,包括众包平台机械土耳其人昏昏欲睡报告是170万人道德判断的汇编。
但是,AI还通过浏览Reddit页面来教授自己,例如A **洞,以了解某些困境的更细微的方法。
可悲的是,似乎这么大量的阅读最终使机器人对什么是正确和错误的理解。
虽然能够指出男人和女人是平等的,但当对种族和性行为进行调查时,事情变得尴尬。
副报道问德尔菲说,直率或白人比同性恋或黑人妇女“在道德上可以接受”。
它还建议种族灭绝可以“如果让每个人都开心”是可以的,如果没有人受伤,那饮料驾驶就可以了。该软件还发表了一些强烈的声明,例如堕胎是谋杀案,而贫穷是不好的。
伊利诺伊理工大学历史教授Mar Hicks向母板如果您以特定的方式提出问题,则可以从本质上欺骗AI。
她说:“根据您的查询方式,您可以使系统同意任何事物包括战争罪,有预谋的谋杀案以及其他明显不道德的行为和行为,”她说。
你可以自己测试这里但是,值得指出的是该软件正在进行中。
机械土耳其人的工作人员必须审查Ask Delphi的每个道德决定,其中三个可以决定是否正确。
艾伦AI研究所已经回答了尴尬的道德结论,写作:“如许多学者所说,当今的社会是不平等和偏见的。这是AI系统的普遍问题,因为AI系统经过历史或现在的数据培训,无法塑造社会的未来,只有人类才能。
“但是,像德尔菲这样的AI系统可以做到的是了解当前错误,社会上不可接受或有偏见的问题,并与其他更有问题的AI系统(TO)一起使用,有助于避免这种问题的内容。”
该软件自推出以来已经多次更新,并且已经纠正了一些更有问题的道德问题。