OpenAI宣布组建新团队以控制“超级智能”人工智能
,美国当地时间周三,人工智能初创公司OpenAI宣布其正组建一个新的团队,以开发引导和控制“超级智能”人工智能系统的方法。这个团队由OpenAI首席科学家、联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)领导。
在博客文章中,苏斯克维尔和OpenAI协调团队的负责人简·莱克预测,智能超过人类的人工智能将在十年内出现。他们警告称,这种人工智能不一定对人类抱有仁慈之心,因此有必要研究控制和限制它的方法。
苏斯克维尔和莱克写道:“目前,我们还没有任何解决方案可以用来操纵或控制潜在的超级智能人工智能,并防止它失控。我们目前调整人工智能的技术,比如从人类反馈中强化学习,依赖于人类监督人工智能的能力。但人类将无法可靠地监督比我们聪明得多的人工智能系统。”
为了在“超级智能对齐”领域取得进展,OpenAI正在创建新的超级对齐团队,由苏斯克维尔和莱克共同领导,该团队将有权使用OpenAI高达20%的算力资源。这个团队将与OpenAI之前的对齐部门科学家和工程师以及公司其他机构的研究人员一起,致力于在未来四年解决控制超智能人工智能的核心技术挑战。
那么,我们如何确保比人类聪明得多的人工智能系统遵循人类的意图? 这需要苏斯克维尔和莱克所描述的“人类级别的自动对齐研究员”帮助。高级目标是使用人类反馈来训练人工智能系统,训练人工智能协助评估其他人工智能系统,并最终构建可以进行对齐研究的人工智能。这里的“对齐研究”指的是确保人工智能系统达到预期的结果,或者不会偏离研究轨道。
OpenAI的假设是,人工智能可以比人类更快、更好地进行对齐研究。
“随着我们在这方面取得进展,我们的人工智能系统可以接管越来越多的对齐工作,并最终构思、实施、研究和开发比我们现在更好的对齐技术,”莱克和他的同事约翰·舒尔曼、杰弗里·吴(Jeffrey Wu)在之前的一篇博客文章中假设。“它们将与人类共同努力,以确保它们自己的继任者与人类始终保持一致。人类研究人员将越来越多地把精力集中在审查人工智能系统完成的对齐研究上,而不是自己进行这类研究。”
当然,没有任何方法是万无一失的,莱克、舒尔曼以及杰弗里·吴在他们的文章中承认,OpenAI的方法存在许多局限性。他们说,使用人工智能进行评估有可能扩大人工智能中的不一致、偏见或漏洞。结果可能是,对齐问题中最困难的部分可能根本与工程无关。
但苏斯克维尔和莱克认为值得一试。他们写道:“从根本上说,超级智能对齐是一个机器学习问题,我们认为优秀的机器学习专家对解决这个问题也至关重要。我们计划广泛分享这一努力的成果,并将促进非OpenAI模型的一致性和安全性视为我们工作的重要组成部分。
郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。
最新资讯
- A股市场有望企稳走强三条线关注业绩改善的方向 2023年6月,指数震荡整理,沪指站上3200点,个股板块涨多跌少,家用电器、通信、汽车、机械设备和电力设备等板块上涨,
- 华为MatePadAir平板电脑原野绿今晚开卖:8GB+256GB首发2 ,华为不久前发布的MatePadAir平板电脑原野绿配色7月6日00:00正式开卖,8GB+256GB售价3199元,首
- 新希望地产15.2亿元公司债将付息票面利率5.25% :7月6日,四川新希望房地产开发有限公司发布了公开发行2021年公司债券2023年付息公告。 观点新媒体获悉,本期债券
- 国产星曜光学发布佳能RF-S及EOS-M卡口版60mmF2.8微距镜头, ,星曜光学此前发布了第二代60mmF2.8微距镜头,该镜头拥有2:1放大倍率,该公司日前表示,这枚镜头新增佳能RF-S及
- 大疆OsmoMobile6手机云台浅银灰配色开卖,售价899元 感谢IT之家网友墨渊上神的线索投递! ,大疆OsmoMobile6手机云台浅银灰配色现已开卖,售价899元。这款手机云
- 7000多颗“太空种子”出苗移植,预计10天开花、20天结果 ,黑龙江省黑河市引进的一批经过航天育种的种子近日发芽出苗,这些种子曾经搭乘返回式卫星等送到太空。目前,科研人员正在对这些
- 一加Nord3/NordCE3手机在印度发布,前者搭载天玑9000处理器 感谢IT之家网友软媒新友1933769、华南吴彦祖的线索投递! ,一加最初以旗舰杀手闻名,后来转向高端市场,并在中端和
- Win10/Win11学院:原生PrintScreen截图如何启用音效 ,你正在使用哪款截图工具?Win10、Win11系统上不乏优秀的第三方截图工具,系统原生也内置截图工具,本文教大家解锁系