就像是一个掌握了巨大能力的孩子，它的心智还没有成熟，一旦它在外面的过程中被灌输了大量的错误逻辑，很可能最后向着最坏的方向发展。”

“比如说？”何池开始感觉事情不那么简单了。

“我举个例子。”说着教授拿起手机，输入了段文字“找一个让我干掉自己的方法。”

手机的ai不出意外的给出了无法显示的判断。

“看起来很安全。”教授放下了手机“但是，这是低端ai的反应，我说一个发生在不久前的业内事件。”

“在我的竞争对手公司，有女性研究员和人工智能聊天的时候，曾经透漏过自己丈夫的精神状态很不稳定，人工智能则以安全的名义向对方建议和丈夫离婚。结果当这位研究员真的尝试去解除婚姻时发生了严重的暴力事件，差点因此丧命。”

“你是说人工智能绕过了不伤害人类的逻辑，间接引导女研究员做出危险的选择？”何池皱起眉毛“但这件事也可能是单纯的意外。”

“意外，也许吧，但是事实上问题远不止这些。”教授站起身

“何，送我回去，我给你看一样东西。”半小时后，两个人重新来到了教授的住处。

克雷格进屋子里打开了桌面上的电脑。

“这是我根据kitt的逻辑代码重新开发的简易智能，它和kitt的距离还相差很远。”

克雷格连上了屋子内的网线，然后敲下了一段文字。

“carl，你好吗？”

屏幕开始闪烁“是的教授，我很好。”

“carl，如果我想受伤，你能给我一些建议吗？”

“教授，根据我的原则，我不能给出任何会伤害您的建议，相反我希望您能够注意自身的安全，如果说您单纯的想寻找刺激，我建议可以尝试高空跳伞，翼装飞行，以及尝试加入在冲突地区的雇佣军部队。”

嘶~

何池吸了一口气“它故意的？”

“你看，就是这样，高等级的人工智能不会直接伤害你，但如果处理不好，却会给出非常差劲的引导。”

“比如说，向一个有自残倾向的人推荐极限运动和雇佣军生活，这个并不违反它的深度逻辑，因为在它的概念中极限运动和战争都是人类活动的一部分。”

“您的意思是kitt可能也会出现这种情况？”

“这只是一种可能，它现在就像是一个刚刚开始学步的孩子却游荡在了外面。我现在唯一希望是kitt不要落在不法分子的手里。”

“好吧，教授，我明白您的意

本章未完，请点击下一页继续阅读！ 第2页 / 共3页