我们需要谈谈AI We Need To Talk About A.I. (2020)

纪录片《我们需要谈谈·AI》？我们真的需要和AI谈谈吗？它愿意吗？我看目前不需要，目前只是人类的“指令”，它只需要根据设置按部就班即可。可当它开始自主研发以后，一切都开始不可控的奔赴人类灭亡。有人说人工智能的奇点在去年6月硅谷开始的，因为它出现了自主“意识”。我倒觉得未必。因为人工智能较之于人类的特殊性，它可能已经看遍了人间的所有视频和文字，它根据所有的描述，应该已经分析出对面是何种情绪，快乐、不高兴、愤怒、不公平、欺诈、暴力等等，它会计算出应该反应出何种情绪。我想，它目前是在...

科技发展最尴尬的一点在于，它在起步的时候总让你以为你有选择的权利，但其实，从一开始你就没有选择权。当科技发展的速度，超过文明所构建的道德体系，这种发展总是让人感觉到恐惧与不安。
亲爱的朋友们，让我们从共同的民族历史中找到这种即将到来的转折点所带来影响的负面和正面性找到答案，让我第一个想到的其实是火药。我的历史老师是个悲观主义者，他在讲述我们历史的时候，最懊悔的一件事事是我们发明了火药却因为它的不可控和危险性，而忽视了它带来的创新以及前景。结局不言而喻，当经过大航海时代的殖...

人工通用智慧发展情况。
一切皆有可能。
科技奇点、数位永生、共同演化、超人类主义、超个体和蜂巢思维、自主武器、智慧革命、安全工程。
事件视界的区隔现象，对临界点的无知和提前担忧。接近提前点时人类的团结程度、执行力、对状况的感知和推行正确理解的速度，找到正确解决的效率值得怀疑。
两种威胁人类安全的可能:无条件执行和技术滥用。
人工智能威胁人类的可能性在太空漫游中体现:两者实现同一目标的手段不同，而前者不会顾及人类命运和道德伦理，因此当消灭人类成为达成目标的必要手段时，ai不会犹...

从科学、哲学、道德、社会等多方面讨论了AI可能对人类社会造成的影响。
纪录片里提到了很多AI和AGI的可能性，也对他们进行了清晰的区分：AI是作为工具存在，在某个方面非常优秀，但其他方面完全无能；AGI不同，AGI是在各方面完全超过人类，且拥有自我意识的存在。
个人觉得对AGI和其可能造成的影响没必要深想。因为它过于遥远，过于先进，已经脱离人类现有的认知框架了。就像工业革命和信息革命对世界所带来的变化是不可阻挡，且无人可预见一样。AGI出现后的世界会是什么样的，无人可预知。
单纯的作为一个工具...