而立之礼 wrote:

为了确保不宕机，机器只能运行已知指令，也就是人类灌输的指令，思考和创新似乎没什么机会

小新心 wrote:

中国父母就是要管一辈子，老了老了还要生活在一起，老祖宗当家，子子孙孙都要管。对立冲突其实并不少，只是在和谐顺从的大帽子里被掩盖着而已。
没有任何一种教育是完美的，君不见现在满眼都是要学习西方教育吗

山外青山 wrote:
这个问题并不是不可逾越的。想到程序，总觉得是if then那种判断。其实人工智能程序远不是那么简单。

当决策建立在大量复杂的数据分析之上，当程序求的是近似优解而不是最优解（人一般就是求近似优解，因为求最优解需要的成本太高）的时候，一样可能犯错误。

山外青山 wrote:
基本赞同楼主的观点，尽管我认为这种过渡可能有机会更美好一些。人类作为生物的消亡应该是逐渐的。几代人之后随着婴儿越来越少。机器人逐渐替代人类社会的劳动者的角色，并继承人类的文明。

山外青山 wrote:
人类的进化速度比摩尔定律下机器智能的提高速度差得太远了。这其实是符合经济规律的。

当生养孩子基本上只是负担。而所有生产劳动和情感服务都能由机器人承担的时候，世界上愿意生孩子的人会越来越少。我不是说没有，而是会只有一小部分。

如果一代人只有1/3的孩子，那么用不了几代人类就基本上消亡了。别忘了马克思也说共产主义是人类社会的终结。

山外青山 wrote:
运行已知指令和不能思考创新之间没有必然联系。已知指令组合起来足够复杂，一样可能思考和创新。

诚心 wrote:
山外青山太过乐观（幼稚），你们搞的人工智能，仅仅是一个人工造的工具，远远没有 自主智能。

山外青山 wrote:
当这个“工具”智力水平超过人的时候，就不是“工具”那么简单了。

我在技术上是比较乐观，但是在社会发展方面，比较悲观。因为我看到人工智能技术很可能首先用于军事。这就是作死的节奏。

你知道最悲惨的事是什么么？不是人类被灭绝，还有更悲惨的事。就是人工智能在真的能够自我复制，修复和升级之前，人类就被灭绝。那么地球文明这一轮就失败了。

如果把人工智能优先用于军事，弄不好一个犯错的低级AI就能毁掉人类社会。

但是这就是世界各国正在干的事。

而立之礼 wrote:

已知的如何创新？已知指令再复杂也是灌输的和已验证过的，无法体现其自主意志。

自主意识、意念、思维和精神到底是什么？怎么产生，从何而来？人类自己还搞不清楚。

山外青山 wrote:
当这个“工具”智力水平超过人的时候，就不是“工具”那么简单了。

我在技术上是比较乐观，但是在社会发展方面，比较悲观。因为我看到人工智能技术很可能首先用于军事。这就是作死的节奏。

你知道最悲惨的事是什么么？不是人类被灭绝，还有更悲惨的事。就是人工智能在真的能够自我复制，修复和升级之前，人类就被灭绝。那么地球文明这一轮就失败了。

如果把人工智能优先用于军事，弄不好一个犯错的低级AI就能毁掉人类社会。

但是这就是世界各国正在干的事。

小新心 wrote:

你说的是终结者系列

而立之礼 wrote:
嗯，说是迟早的事，但是迟和早就是天壤之别。

就像小孩，是还没成熟就放任发展还是悉心辅导到放心在放手，这个责任是长辈至关重要的责任。

不过还好，在我的有生之年应该是不用担心人工智能的了