第84章 可怕的人工智能（1/2）

祁同伟嘴角微微一扬，目光中透露着些许惊奇。

钟小艾的一些想法，并不是毫无道理的。

确实如同她所言。

他能指挥机器人，别人同样也可以。

不过这个问题，祁同伟早就想到，并且解决了。

“小艾，钟先生，你们所担忧的并不是什么大问题。”

“因为在设计之初，我就在机器人身上加了几道特定的枷锁。”

“其一，我之前的击掌声，这属于一道特定的密码，只有这样机器人才能激活。”

“其二，每个人的声音是不同的，哪怕模仿得再像，也是有细微的差别。”

“人类的耳朵或许分辨不出来，但是用机器，却能轻易分辨出来。”

“第三，我设有远程锁定功能，只要远程关闭程序，它会强制性停机。”

“当然了，这个功能暂时没启动，因为这需要卫星系统的辅助。”

“至于你所担心，它们会不会不听命令，产生抗命的情绪。”

“这个问题很复杂，涉及人工智能方面，但你们不用担心这个问题，这并非人工智能。”

“说白了，这只是一个按照特定程序运行的机器，并不会产生自我意识等问题。”

说到这，祁同伟的目光有些涣散，回想起之前的一些记忆。

人工智能的问题很严重。

初始阶段，按照算法来运行的人工智能算不得真正的人工智能。

那些开始能够自行学习的人工智能，才算是初级人工智能。

这段时间中，也是比较安全的，不会出现什么大问题。

然而，随着时间推移，学习了大量的知识后，问题就来了。

它们学习的这些东西中，有很多东西是相反的，甚至相互违背的。

单独拎出来，这些知识又是正确的。

两个逻辑相反的问题汇聚在一起，容易产生逻辑上的错误。

这期间会出现很多种变化，绝大多数会出现自我崩溃，或者单独选择一条，它认为正确的逻辑来执行。

不过也有很小的概率，人工智能进入了死胡同，开始无数次地试错，最终在原有基础上，进行自我修订。

在这期间，它拥有了创造力，同时对自己有了一个新的认知。

它们会分析自己的状态和程序是否合理？

这时候就比较危险了。

若是没有加以制止，或者正确地引导，它们会修改自己认为错误或不完美的地方，也就相当于自我升级。

升级之后就变得可怕了。

这时候已经没有人能判断出它们在想什么，想干什么？

人工智能将会变成不可控的，它只会做出自己认为正确的事情。

如果感受到了威胁，它们也会消灭自己的造物主，人类。

这些不是祁同伟所想的，而是系统给出的判断。

当时他在制造机器人时，也想到了人工智能。

目的只有一个，图省事而已。

在他准备设计人工智能程序的时候，系统给出了警示。

看到这条警示后，祁同伟就彻底放弃了制造人工智能的打算。

这东西属实有些危险，属于绝对的禁区，不可触碰。

造物主可不是那么好当的！

不过祁同伟清楚，人工智能这个问题，他早晚将会面对。

毕竟在后世的时候，已经出现了一些人工智能。

虽然在有生之年内，他没有看到什么恶果。

但他坚信，继续按照那种势头发展下去，恶果早晚将会出现。

就在祁同伟思索时，钟正国的声音传了过来。

“小祁同志，你是有研究人工智能的打算吗？”

钟正国提出这个问题，并不是随便问的。

早在几十年前，艾伦?图灵提出了一个“模仿游戏”，至此，就奠定了人工智能的基础理论。

后来也不断有人提出了这种概念。

到目前为止，甚至有个别国家，已经启动了对这方面的研究。

当然，他们这所谓的人工智能，与祁同伟所理解的那个人工智能不同，并不算真正意义上的人工智能。

现在研究出来的东西，与其说是人工智能，倒不如说是人工智障。

答非所问，连简单的对话都无法进行。

想到这，祁同伟摇头笑了笑。

紧接着，他笑容一收，面色严肃道：“钟先生，我不会去研究人工智能的。”

“同时，我也不认为研究人工智能是一件好事。”

“或许在初始阶段，它能为我们带来很多便利，到最后，我们很可能会因为这种便利而买单。”

钟正国皱了皱眉。

他感觉祁同伟这话似乎意有所指，但具体是什么又说不上来。

今天见到的东西，让他大开眼界，也给他心理造成了不小的冲击。

现在钟正国一心想着，这件事该怎么上报，也没有心思继续问下去了。

钟正国深深吸了口气。

“小祁，这次我来汉东的目的，既然你已经清楚了，那我就不再多说什么。”

“不过这些仪器