第四九五章 敛散(2 / 2)

永不下车 阳电 1140 字 2个月前

称为“连锁安全机制”的并行研究,除外,还指示另外两处研究机构进行“强ai”的研究。

目的,不是要多个方案、优中选优,而是让目标不同的ai彼此制衡。

791研究机构里的“强ai”,初号机的目标,一开始被指定为“数学基础理论研究”,后续目标则是“科学技术的创造性、探索性研究”。

787研究机构的“强ai”,目标则是“防范自主系统的越权企图”,简单说来,这一强人工智能要去解决的问题,是利用自身的思维、认知能力,全力防范一个“自主系统”的独走,给出反制的措施。

最后,还有一个830研究机构,同样进行“强ai”的研发,初号机的目标是“安保系统权限与行为审查”。

不消说,这一强ai要盯防的,正是正在研究的强人工智能。

一环扣一环,三大研究机构的开发团队,实力大致相若,获得的资源也差不多一样,“以人工智能提防人工智能”的策略,则在逻辑上确保了项目整体的安全性。

原因很简单,倘若的“监控强ai之ai”研发不力,无法获得具有自主思维、能够主动采取措施限制目标行为的“强人工智能”,最有可能的原因,只能是这一设想本身有问题,以人类现有的技术水平,根本无法创造出具有自主思维的ai。

换句话说,如果以东北太平洋大区的技术水平,能创造出“强人工智能”,那么也就应该能创造出监控这种ai的“监控型强ai”。

至于万一的概率,监控型ai,也会有失控独走的风险,

则由的“监控监控型强ai之ai”,来作为最后一道安全屏障。

一环扣一环,以人工智能盯防人工智能,这种策略要想做到万无一失,理论上需要将链条延伸到无穷远,当然这不可能,方然能做到的,也不过是权衡利弊,在资源消耗与预期收益之间取得暂时的平衡。

提前部署了这一切,项目启动后,方然时常抽时间浏览报告,了解“强人工智能”的研发情况。

史上第一次,尝试打破人类对智力的垄断,对可能遇到的困难,方然已经有一些心理准备,所以,当各研发组报告进展顺利,预计将在两、三年内得到成果时,他着实挺意外。