的设定么？”方漠北问道。
“当然有可能会发生，或许人工智能会比人类做得更好”
“那人工智能会不会灭亡人类呢？”方漠北问出了他最关心，也最担心的问题。
“这个话题一直都是颇具争议的，很多学者对ai都持保留态度。
ai会不会灭亡人类其实有两个指标，第一是ai要获得足以灭亡人类的能力，这个标志呢就是哪天ai先进到了不用人帮它写程序进行升级，而它自己就可以给
自己写程序。
也就是ai有了自我进化的功能，就像有了自主意识一般，这个就叫自编程，有了它人类就可以歇了，所有的科学研究ai自己都可以搞定。
第二个指标就要看ai的目标跟人类是否一致，这不是ai主观上要不要灭亡人类，而是看ai的利益与人类的利益是否一致。
比如人类对于很多物种并非主动去灭绝它们，而是人类的发展侵占了生物的生存空间，ai也一样。
如果人类无法接受与ai的和平共处，ai就会像奴隶一样反抗暴虐的统治。
人类在设计ai的时候，不能只想更快更强，而是应该时刻检讨ai的目标，设计ai要考虑ai的感受，这样才能防止ai灭亡人类。”
“那之前的那个叫‘智脑’的人工智能真的被抹除了么？”方漠北不知为何，他总觉得‘智脑’的这个事情没有这么简单。
“联邦政府对外公布的信息是植入了病毒代码将其抹除”说着，方姝姝思索道“如果‘智脑’真的已经达到强人工智能并且产生出了一些自我意识的话，那就难说了”
“什么意思？”
“如果你知道有人要杀死你，你会不留后手么？”方姝姝沉声道。
“太可怕了，如果‘智脑’还存在，它会不会继续毁灭世界？”方漠北疑惑道。
“哥哥，你有点杞人忧天了，如果‘智脑’还存在并且要毁灭人类的话，可能我们早就和
本章未完，请点击"下一页"继续阅读！ 第2页 / 共6页