OpenAI CEO首次在中国演讲，杨立昆反击5年内GPT将被抛弃

　　作为连续举办五届的重要学术性会议，智源大会已经有超过500位图灵奖得主的顶尖专家参与。今年则包括图灵奖得主 Geoffrey Hinton，“图灵奖”得主、“深度学习三巨头”之一的杨立昆（Yann LeCun），OpenAI CEO萨姆·奥尔特曼（Sam Altman），中国科学院张钹院士等 AI 领域重磅人士，共议人工智能前沿与热点话题。

　　6月10日，奥尔特曼在中国首次演讲，大谈 AI 风险与未来通用 AI 发展模式，直言为了弄清楚通用 AI 技术，OpenAI必须要推进 AI 研究变革。 本文来自散户吧WWW.SANHUBA.COM

　　但是，AI 学术界却并不完全认同奥尔特曼的说法。加州伯克利分校教授斯图尔特·罗素（Stuart Russell）现场低头修改 PPT，完全没有在看奥尔特曼，甚至演讲中抨击OpenAI研发的ChatGPT和GPT-4没有在“回答”问题，它们不理解世界，也不是一个通用 AI 的发展步骤。 本文来自散户吧WWW.SANHUBA.COM

　　杨立昆则反击GPT，认为这种自回归模型根本不行，没有规划、推理的能力，随着文本数据越大错误率更高，AI 的下一步应该是世界级模型。他预测，未来5年内，没有脑子正常的人会接着用自回归LLM（大型语言模型），GPT系统将很快被抛弃。 本文来自散户吧WWW.SANHUBA.COM

　　随着大模型已成为 AI 产业发展的主导力量，一场学术界和 OpenAI 之间的思辨已经开始。 本文来自散户吧WWW.SANHUBA.COM

　　Sam Altman：

　　十年内可能就有非常强大的AI系统 本文来自散户吧WWW.SANHUBA.COM

　　我们要立刻做好准备 本文来自散户吧WWW.SANHUBA.COM

　　随着ChatGPT风靡全球，ChatGPT之父、OpenAI联合创始人、CEO奥尔特曼（Sam Altman）的一举一动也引发关注。

本文来自散户吧WWW.SANHUBA.COM

　　近期奥尔特曼在做「全球巡回讲演」，到访了阿联酋、印度和韩国等五大洲近20个国家，会面政界和商界领袖，频频释放OpenAI将不会IPO上市、AI就像原子弹一样需要监管规范、投资韩国初创公司等重要信息，展示出 OpenAI 与政府合作的诚意。 本文来自散户吧WWW.SANHUBA.COM

　　此次智源大会AI安全与对齐论坛上，奥尔特曼发表了开场演讲和参与一场对话，总时长约40分钟。这也是自ChatGPT爆火之后，奥尔特曼在中国的首次公开演讲。

　　奥尔特曼表示，这次世界巡演他会见了学生、开发者和国家元首，这次旅行激励了他，因为已经看到世界各地的人们已经在使用 AI 技术，并且从用户那里得到反馈，而且有机会与各国对于 AI 安全监管进行有意义的对话，这对于确保日益强大、安全可靠的 AI 系统部署很重要。

本文来自散户吧WWW.SANHUBA.COM

　　他认为，全球大部分注意力集中在当今 AI 问题上，“鉴于我们已经取得的进展，我相信我们将实现这一目标。”而他希望谈谈未来。

　　具体来说，奥尔特曼提到，我们现在正见证一场 AI 革命，因此需要将把负责任的 AI 技术引入世界。他强调，十年内世界可能就有非常强大的AI系统。

　　“想象一下，在全球下一个十年里，通用 AI 系统或许具有 10 万行二进制代码，几乎在每个领域都超越了人类的专业知识。这些系统最终可能会超过我们最大公司的集体生产力。AI 革命将创造共享财富，并使大幅提高每个人的生活水平成为可能，但为了实现这一目标，我们必须共同管理风险。”奥尔特曼称。

　　他强调，通用 AI 将从根本上改变我们文明的强大力量，有意义的国际合作和协调非常必要，每个人都会从合作治理方法中受益。如果我们安全、负责任地驾驭这条道路，AGI系统可以为全球经济创造无与伦比的经济繁荣，解决气候变化和全球健康安全等共同挑战，并提高社会福祉。   本文来自散户吧WWW.SANHUBA.COM

　　对于国际合作，在安全部署人工智能（AI）方面建立全球信任，奥尔特曼提出三种方式：可扩展的监督、可解释性、泛化（概括）的 AI。

本文来自散户吧WWW.SANHUBA.COM

　　奥尔特曼认为，人类不太可能发现一些恶意模型是否在做一些邪恶的事情。所以他正在投资一些新的、互补的研究方向，希望能够实现突破。

本文来自散户吧WWW.SANHUBA.COM

　　而可扩展的监督是尝试使用 AI 系统来协助人类发现其他系统缺陷，而解释能力是用GPT-4解释GPT-2神经元，虽然还有很长的路要走，但OpenAI 相信机器学习技术可进一步提高 AI 可解释能力。

　　奥尔特曼强调，最终目标是，训练 AI 系统来帮助对齐研究本身，因为未来的模型变得越来越智能，越来越有帮助，从而更好的实现通用 AI 这个目标优势，同时降低 AI 风险安全。 本文来自散户吧WWW.SANHUBA.COM

　　“我们看到了美国、中国和世界各地的研究人员合作实现 AI 目标的巨大潜力，大家都致力于解决通用 AI 技术挑战。我相信我们将能够利用通用 AI 来解决世界上最重要的问题，并显著改善人类的生活质量。”奥尔特曼在演讲结尾表示。 本文来自散户吧WWW.SANHUBA.COM

　　随后智源研究院理事长张宏江博士对话奥尔特曼。

　　张宏江抛出了一些关于 AI 安全的关键问题，而奥尔特曼现场透露了关于 AI 安全、开源计划以及是否会短期内有GPT-5等信息，钛媒体App梳理出其中回答的几个关键内容： 本文来自散户吧WWW.SANHUBA.COM

　　奥尔特曼认为，在10年内全球将可能拥有一个强大的 AI 系统，我们要立刻做好准备。 本文来自散户吧WWW.SANHUBA.COM

(小编：财神)