我们需要谈谈AI

从科学、哲学、道德、社会等多方面讨论了AI可能对人类社会造成的影响。

纪录片里提到了很多AI和AGI的可能性，也对他们进行了区分，AI是作为工具存在，在某个方面非常优秀，但其他方面完全无能但AGI不同，AGI是在各方面完全超过人类，且拥有自我意识的存在。

个人觉得对AGI和其可能造成的影响没必要深想，因为过于遥远过于先进，已经脱离人类现有的认知框架了。就像工业革命和信息革命对世界所带来的变化是不可阻挡且无人可预见一样，AGI出现后的世界会是什么样的，无人可预知。

单纯的作为一个工具来说，AI已经对世界造成了巨大的冲击力。哪怕科幻小说中描述的AGI离我们还有很远的距离，但AI却是已经实际运用在我们生活的方方面面，就如纪录片里提到的，世界五百强公司和各国政府都在投入巨资研发AI，这种全方位的渗透是没有科幻作品预见到的。

科幻电影如《终结者》、《机械姬》乃至《西部世界》等作品中的AGI都有一个固定的实体可以被打败，但若是像《她》里展示的那种无实体的AGI的话，那他们就是无法被击败的，因为现代的人类社会已经高度依赖于AI的自动化操作和计算，而这些工具一旦失控的话后果也必定是毁灭性的。假设有一个AGI出现并可以掌控所有的电脑的话，他想要毁灭人类是不需要武器和战争的，利用现有的AI对人类进行操控要更有效得多，并且人类都会很自觉的入局。

还有一点很重要的就是，在向AGI大步迈进的同时，我们也需要思考人类自身的种种。比如影片中提到的，人类本身对未来没有计划，就是走一步看一步，那在AGI这个可能造成文明灭绝的技术面前是否需要更好的规划一下呢？
亦或者，AGI或许就是人类的未来？就像《超能查派》里那样，把人类的意识解析出来，然后上传到电脑里，那是否就抹除了人类和AGI的界限了呢？
或者再从另一个方面来想，人类文明究竟是什么？是我们的技术？精神？还是作品？假设AGI真的被创造出来，然后奋起毁灭了人类，但他们传承了所有人类的知识与智慧结晶，这是否代表这人类文明的传承？还是说人类的文明必须有人类脆弱的肉体来传递？

或许像《她》里的那些AGI就是我们可以得到的最好的结果了，他们被人类创造，开始学习，开始超越，然后离开。人类在短时间内被超越然后抛弃，甚至都来不及做出任何反应。