AI有多危险？比尔盖茨警告或致十亿人丧生

在25号, 盖茨登上了NBC这个节目, 并且在节目里面发表了讲话。他说, 人工智能已经强有力到了这样一种程度, 那就是它能够让那些怀有恶意的人造成多达十亿人的级别的一个灾难情况。这绝对不是一种科幻小说里面的预测情节, 而是一个非常现实的问题, 这个问题正在迅速地逼近我们。

盖茨为什么突然变调

在过去的时候, 盖茨本来是人工智能阵营里面最为力挺它的人。但是从今年夏天开始出现了一种彻底的变调情形。在八月期间, 他自己在他个人所持有的网站上面发表了长篇大论的文章。

文章中他是列出了一串非常糟糕的可能出现的场景的。这些场景包括医院、金融系统以及电网还有政府后台等地方都可能会出现被由人工智能来驱动的各种攻击手段给彻底打穿的可能性。

他说得很清楚, 光靠行业自律是远远不够的, 必须让执法部门以及政客们介入进来。他坚持要把人工智能安全方面的措施写成强制性的法律条文, 仅仅发一个声明是没有用的。

硅谷内部恐慌在扩散

在同一个月, 名叫考克森的前雇员选择了辞职, 并且公开地抱怨他的前雇主。考克森指责前东家在利用员工的生命去进行冒险, 因为他提到说那两家行业巨头正在像赛跑一样地进行竞争, 目的是为了实现超级人工智能的目标。

还有一位同事把话说得更直白一些, 他觉得在这未来的十年时间之内, 人工智能把全人类都给消灭掉的可能性, 是超过百分之十的。有的人讲这就是在制造焦虑, 而另一群人则说这根本就不是什么焦虑, 这就叫做恐慌到了极点。

大佬们罕见统一口径

舆论的压力根本压不下去, 阿莫迪于是公开呼吁, 要把人工智能的研发节奏稍微放慢一点, 随后奥塔曼和马斯克两人也先后表态, 表示支持为人工智能技术的发展踩一脚刹车。

在日常的商场竞争环境里面, 平时表现得最为激烈的那几位人物, 非常难得地说了一样的话, 就是说如果继续保持这种高速发展的状态, 那么无论是谁都是没有办法承担由此产生的最终结果的。

十亿这个数字不是瞎说的

如果发生了一种情况, 就是电网出现了瘫痪, 然后金融系统也跟着崩溃, 再加上医院的IT系统发生了故障, 那么这三种事情叠加在一起, 就会产生连锁反应, 这种反应的波及范围会波及到以亿计的人口, 这样的事情是完全有可能成立的。

人工智能技术具备无限复制钓鱼攻击手法以及虚假信息的能力, 这导致发起攻击的成本变得极低，同时造成的破坏范围非常广泛, 从而使防御方面的压力呈现出指数级增长的趋势。

监管到底该长什么样

盖茨所提出的此种说法, 其性质是非常刚硬的, 这种要求属于强制性要求, 它具备有立法环节, 它还具备有执法环节, 甚至还具备有罚则环节, 而它并不是通过发布白皮书这种方式来让各大公司自愿地进行签署操作。

然而, 目前世界上还没有达成统一框架。美国在推自己的标准, 欧盟在自己弄方案, 中国也在搞自家的东西。大家各推各的标准, 这种不统一的状况, 反而给那些心存恶意的人留下缝隙。他们利用这个缝隙去进行套利操作。

普通人现在的处境

对于普普通通的老百姓来说, 最直接的威胁并不是说什么要被人工智能给抹杀掉或者消失了, 而是你的那些数据会被一些人拿去精准地利用起来搞诈骗活动, 然后你的信用身份就会被伪造掉, 还有你工作的那个岗位上的人可能会被人工智能给替代掉了。

技术进步的速度非常迅速, 而相关的法律规定以及个人的保护意识却完全没有跟得上相应的步伐, 导致处于普通人现在的基本上是一种没有任何防护措施的像裸奔一样的状态。

请你来谈一谈, 你认为人工智能的发展是不是应该立刻踩刹车停下来, 还是应该在运行的过程之中一边去进行完善和修正呢? 欢迎你在评论区里面和大家进行交流讨论。如果你认为某一种观点说到了关键的点上, 就请点赞支持, 并且转发给你关心的人。