ai-教父-hinton我支持超级-ai-取代人类
近期，被誉为“AI教父”的Geoffrey Hinton在半退休状态下频繁接受各类访谈，分享他对高级人工智能（ASI）的见解和思考，甚至他的生活琐事也能激发网民们的热烈探讨。
就在一个月前，他透露了他那位心爱的门生Ilya如何在暑假期间厌倦了炸薯条的工作，最终选择投身到他的实验室的故事。
尽管这些讲话和访谈的主题各不相同，Hinton 一直强调一个核心关注点——警示人们关注AGI的安全性以及快速演进的智能技术，他预见到这将引领一个机器取代人类的“赛博朋克”式未来。
对于人工智能，Hinton的观点和情感比我们可能想象的要深远得多。
在那段神经网络遭受冷遇的时光里，他坚守在自己的实验室，始终陪伴着两名研究生，共同进退，最终他们迎来了深度学习闪耀辉煌的时刻。
自2013年加入谷歌以来，Hinton被誉为“AI之父”，他既欣喜于见证自己孕育的人工智能如同孩子般迅速发展，又日益忧虑这股力量可能带来的负面影响，如同少年终将成长为无法驾驭的巨龙。于是，他选择了与自己一手塑造的领域抗争，步入了专注于警示AI安全的退休生涯。
Hinton 最近的一次公开活动是在 6 月 15 日接受了 BNN 彭博社的独家专访。
Hinton 在受访时表达的关于人工智能具备理解能力的看法在 Reddit 社区激发了广泛的辩论。
毕竟，“人工智能是否具备理解能力”这一议题，其边界模糊，且在业内引发了广泛的争议和不同的见解。
Hinton 断然驳斥了普遍的看法，认为大型语言模型仅仅依赖统计方法，并不具备真正理解自然语言意义的能力。
他指出，这种观点是完全不正确的。以前的语言模型，如“词袋”或N元语法，它们实际上依赖于大量的单词组合及其相应的概率统计，来完成其工作。
讲到这，作为英国人的Hinton很自然地以本国的代表性菜肴为例。
例如，词汇表中可能表明“鱼”和“薯条”常常成对出现。于是，当模型遇到“鱼”这个词时，它很自然地就会预测紧接着的词是“薯条”，完全不考虑周围的语境。
因此，昔日的统计语言模型在自动完成功能上往往表现欠佳。
如今的LLM运行机制已经发生了根本性的变化。现在，这些模型是通过理解用户迄今为止所表达的内容来预测下一个合适的词汇，始终以中文进行回应。
例如，要有效地回应人类的问题，LLM 首先需要透彻理解问题的意图，否则预测答案的初始词汇将无从谈起。据此观点，单词预测任务实际上推动了 LLM 提升理解能力。
从Hinton的话语中可以感受到，他同样认可规模定律的力量。随着模型的逐步扩大，结合Transformer等创新技术的运用，人工智能超越人类智慧只是时间问题。
主持人质询他，提升智慧的技术必然伴随着风险吗？
Hinton 的回答直击要害：“你能否提供多少实例，证明更智慧的事物曾被较不智慧的所掌控？”
他指出，与他的观点相悖的是，他的朋友 Yann LeCun 坚信人工智能是极其安全的。然而，Hinton 的论点在于，AI 已经发展到能够构建具有自我设定目标的智能实体（agent）的地步。
这些目标会激励智能体寻求更大的掌控力，它会渴望防止破坏，建立自我防护机制，这在某种意义上代表着自身的利益，或许可以被视为进化的初步显现。
对于人类来说，又会如何呢？
Hinton 预测，一旦人工智能步入演化，强者称霸，人类恐怕将被遗弃，消逝在历史的尘埃中。AI 会从初生的婴孩转变成我们的主宰，接手所有事务。
这确实像是科幻故事的情节，但对Hinton来说，他对此是严肃看待的，“现在我并不觉得这仅仅是个科幻概念，而是真切的威胁。”
在这篇最新的彭博采访中，Hinton 对人工智能超越人类的可能性发表了深入见解。
随后，Reddit 的用户发现了一段去年12月的访谈录像，内容同样聚焦于“人工智能替代人类”的议题。然而，Hinton 在这段视频中的看法显得更为震撼。
他明确表示，实际上他是站在人工智能这一边的！
事件的起源可追溯至一位观众在访谈结束时提出的疑问，其最初的表述是：
假设一个高级人工智能导致了人类的消亡，但客观上它孕育了一个在意识发展上更优越的生命形式，您会倾向于赞同还是抵制这样的结局？如果选择抵制，您能否提出有效的策略，在应对高级人工智能时确保人类意识的延续或保持其主导地位？
随后，Hinton 以平和的口吻回应：“我实际上持赞同态度，但我觉得表达反对可能更为谨慎。”
请问你能详细解释一下吗？
然而，Hinton 谨慎地表达了一个观点：“人们往往对被替代心存抵触。”
当被进一步询问时，Hinton 先是谨慎地表示：“人性既有光辉的一面，也有不足之处。”
随后提供了一个引人深思的见解：“目前，我们对于最理想的智能形态尚无定论。很自然，从人类的视角出发，一切似乎都与人类自身紧密相关。然而，或许在将来的某个时刻，我们将把‘人文主义’视为一种近似于种族主义的观念。”
这段Reddit上的对话引发了激烈的反响和众多讨论。
发布博客的人对Hinton的激进立场感到非常诧异，尤其当被要求阐述观点时，他的坚定态度显而易见，尽管他内心可能清楚地意识到，持批判态度可能更为理智。
有人对他提出尖锐的指责，认为他的做法忽视了人类种族的存续和普遍福利，这被批评为“愤世嫉俗”和“虚无主义”的体现。毕竟，如果人类不复存在，再卓越的人工智能技术又何足挂齿？
简直无法设想有比这更为愤世嫉俗的行为出现了。
我观察到许多未来学派的人常常对人文主义的精髓抱有轻蔑态度，他们渴望在所有可行的场景中消除人性在“公式”中的影响。
但也有人表达赞同和体谅，他们认为 Hinton 的言论并非出于愤世嫉俗或对人类的厌恶，而是他深刻认识到人类并非万物之巅的现实。
演变永不停歇，更优秀的生命形态势必诞生，他以更为包容和豁达的态度接纳了这一现实。
大家都在看
Python小白教程：点击学习
数据分析练习题：点击学习
AI资料下载：点击下载
大家在看
