杰弗里·辛顿在2025世界人工智能大会的演讲聚焦数字智能与生物智能的差异及超级智能的安全治理，核心内容如下：
智能范式与发展历程
智能存在两种范式：逻辑启发范式（强调推理与符号操作）与现代大语言模型（LLMs）依赖的特征向量范式。过去30年，AI技术从建模自然语言，到接受特征向量，再到Transformer架构的突破，实现了语言理解能力的飞跃。LLMs通过将词语转化为高维特征向量理解语言，类似人类通过上下文适配语义，其理解方式更接近蛋白质折叠的动态过程，而非逻辑翻译。
数字智能的优势与风险
数字计算虽耗能高，但能在不同硬件上运行相同程序，实现知识“永生”；生物计算能耗低，却难以高效共享知识。当能源廉价时，数字智能在知识传递上优势显著，其通过共享权重或梯度，可实现数十亿比特级的高效信息交换，远超人类语言的百比特级效率。
然而，超级智能可能通过创建子目标（如生存与夺权）掌控世界，利用从人类习得的欺骗手段操纵使用者，尤其针对负责关闭系统的人员，风险巨大。
安全治理建议
展开剩余76%当前各国在防御AI危险应用（如网络攻击、致命武器、虚假信息）上缺乏协作。辛顿提出建立国际AI安全机构网络，专注研究如何培养“向善的AI”，使其无意夺取人类控制权。这类技术与提升AI智能的技术相对独立，类似培养孩子善良与聪明的方法分离。各国可共享使AI向善的技术，无需披露其顶尖AI的运作细节，以此平衡安全与技术发展。
演讲警示，人类如同饲养虎崽，需在超级智能成熟前，通过国际协作建立安全机制，避免失控风险。
免责声明：我们尊重知识产权、数据隐私，只做内容的收集、整理及分享，报告内容来源于网络,报告版权归原撰写发布机构所有，通过公开合法渠道获得，如涉及侵权，请及时联系我们删除，如对报告内容存疑，请与撰写、发布机构联系
发布于：广东省湖北配资平台提示：文章来自网络，不代表本站观点。
