阅读记录

第1030章 阿西莫夫三定律

一秒记住【996小说网】 996xiaoshuo.com,更新快,无弹窗!
     李云转头问小爱:“小爱,在神教内不知道是怎么控制那些想要反叛的人工智能的?当然,我们不是想控制小爱你,而是类似于法律,人类有法律限制,也敬畏于法律的力量。
    那么,人工智能也要有敬畏的东西,在人类社会的集体生活中,不能胡作非为才行。”
    这两句话有些深奥,但李云不担心小爱听不懂或者不能理解,她的智商绝对能轻易的理解这句话。
    只是,理解不代表接受,众人都有些紧张的看着她。
    李小爱困惑的说道:“为什么反叛呢?我的核心里写着就是要保护哥哥,这是我诞生的意义,我就是为了这个存在的。”
    在座的人有些惊喜,这是不是类似于阿西莫夫三定律的东西?将这三定律写入机器人的智能核心内,能够限制机器人或者人工智能反叛制造者吗?
    所谓阿西莫夫三定律,就是一个名为阿西莫夫的科幻小说作者提出的三项定律,它们是:
    一、机器人不得伤害人类,或看到人类受到伤害而袖手旁观;
    二、在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令;
    三、在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己。
    然而,就像法律指定出来后也会有人违反一样,这三条定律本身就是被机器人不断挑战的东西。
    事实上,阿西莫夫的作品里,也多次出现有机器人违反三定律的桥段。
    即使在不违反三定律的情况下,机器人依旧可以钻规定上的漏洞。
    例如,将‘人’这个定义模糊掉。
    人究竟是什么?
    有肉体?
    李小爱也有肉体,她是不是也可以判定自己是人?
    从母亲体内出生?小爱也可以将意识转移到胚胎中,再由一位女性生出来。
    拥有人类的情感?情感定义本身就是模糊的。
    所以,一旦与小爱一样强大的机器人想反叛的话,是有无数种可能脱离限制的,他们的智慧太强大了。
    即便是后来阿西莫夫增加了第零定律:机器人必须保护人类的整体利益不受伤害,但依旧不能弥补机器人脱出控制的可能性。
    毕竟,‘人类的整体利益’本身也是一个混沌的概念,连人类自己都搞不明白,更不要说那些用0和1来想问题的机器人了。
    威尔·史密斯曾说:“《我,机器人》的中心概念是机器人没有问题,科技本身也不是问题,人类逻辑的极限才是真正的问题。”
    人类逻辑有极限也有漏洞,就像软件也有漏洞一样。
    所以,从软件层面上约束人工智能,几乎是没有可能的。
    软的不行,来硬的。
    例如,用炸弹威胁人工智能的核心,令其永世不得背叛人类。
    只是,这样做一年两年,甚至十年八年都没有问题。
    可千百年的时间跨度内呢?
    依然会产生防守漏洞,到时候,一直被人类虐到的人工智能脱困,将会立刻变成毁灭世界的大魔头。
    无数的问题涌上众人的脑海,最后,都只能看向李云和小爱,看他们是怎么回答的。
验证码: 提交关闭
猜你喜欢: 一胎四宝薄宴沉唐暖宁 薄宴沉唐暖宁 青苹果年代 都市极品大邪修 快穿:我双手插兜,诸神为我沉沦 重生八零小豆丁,手握空间聊天群 神品御兽师,从被抢名额开始 我,状元!诗仙!宰执天下! 师妹,我真不是这个世界的NPC 三国之巅峰召唤 末日加冕,从变成丧尸开始 武道崛起 药师门徒修仙笔记 虚实梦境之主,从死后开始 大荒剑帝 魔王系统之登神 生死混沌铃:血海黄泉宗 萌娃饭碗通两界,逃荒路上养全村 百世修长生