马斯克率一众科技圈大佬发声：应暂停练习比GPT-4更强大的AI系统
界面新闻记者 | 李京亚
日前，特斯拉CEO埃隆·马斯克率数百位科技行业高管在一封果真信中号令，所有人工智能尝试室该当即暂停比GPT-4更强大的人工智能系统练习，暂按时间是6个月以上。
这封题为《暂停巨型人工智能尝试》的果真信于3月22日登载在非盈利组织生命将来研究所（Future of Life Institute）的官网上，其行文明快、语言犀利，抖客教程网，具体叙述了具有与人类竞争性的人工智能系统会给社会和文明造成的潜在风险。
“高级人工智能可以代表地球生命史上的深刻变革，应该投入相应的存眷和资源举办筹划和打点。但不幸的是，这种级此外筹划和打点并未产生。在最近几个月，人工智能尝试室被锁在一场失控的比赛之中，各人争相开拓和陈设更强大的人工智能系统，以至于没有人可以或许完全领略、预测或靠得住地控制这些历程，纵然他们的缔造者也不能。”
在对大概失去文明控制的风险作出预警后，果真信指出，“只有在我们确信强大的人工智能系统的结果将是努力的，风险是可控的，才应该开拓。”
果真信的作者们号令，但愿暂停至少6个月高级人工智能开拓，直到各界配合拟定出一套能顺利实施并由独立专家审计的安详协议。
“因此，针对任何比GPT-4更强大的人工智能系统的练习，我们号令所有人工智能尝试室当即暂停至少6个月。这种暂停应该是果真的和可核查的，并席卷所有要害参加者。假如这种暂停不能迅速颁布，各国当局应该参与并拟定暂停令。”
果真信还提到，6个月的暂停并不料味着人工智能总体成长的暂停，只是从今朝危险的比赛中退后一步。
在果真信的末端，作者们将今朝人工智能成长近况比作收获回报的盛夏，并再次强调对人工智能成长过快举办控制是为了让各人享受一个更漫长的盛夏，而非在毫无筹备的环境下慌忙入秋。
停止发稿，这封果真信得到了1126个签名支持，埃隆·马斯克于果真信下第三位签名，苹果连系首创人史蒂夫·沃兹尼亚克紧随其后，署名序列中还包罗Stability AI的首创人穆斯塔克、Skype的连系首创人和Pinterest连系首创人，以及一位图灵奖得主。
署名流员中今朝没有OpenAI员工的身影。据媒体报道，OpenAI的首席执行官阿尔特曼的名字曾短暂呈此刻署名名单中，从此消失。但有四名谷歌员工在名单上署名，包罗来自谷歌旗下人工智能尝试室DeepMind的三名研究科学家。
在马斯克与OpenAI首创人阿尔特曼的抵牾克日见诸报端之后，马斯克颁发这封果真信并不令人意外。
果真信的刊发组织——生命将来研究所（Future of Life Institute）是一个创立于2014年的非盈利机构，由麻省理工物理系终身传授迈克斯·泰格马克和其他四位成员配合创建，组织的研究宗旨是摸索人工智能的成长对人类的益处，并低落核兵器以及生物技能对人类带来的风险。在其科学参谋委员会成员中，马斯克赫然在列。
众所周知，在特斯拉和SpaceX的事务之外，马斯克一直对输出人工智能概念极为上心。险些每年，他城市率众颁发重量级果真信对人工智能技能前景表达忧虑。苹果连系首创人史蒂夫·沃兹尼亚克和DeepMind的一些重量级科学家是他在此事上的多年搭档。
有概念指出，在OpenAI创建中饰演了重要脚色的马斯克，由于2018年选择离场，导致其此刻与大语言模子和OpenAI这两个科技界最重要的风口毫无干系，这让他面临GPT-4的乐成时更加疾苦。
而这次的果真信正是在OpenAI宣布多模态预练习大模子GPT-4仅两周后发出的。GPT-4被誉为有史以来最强大的人工智能系统。跟着人工智能规模研究人员们因GPT4的到来对通用人工智能AGI的预期变得乐观，一些审慎的创业者、投资人、专家和禁锢机构开始灰心审视人工智能激发的军备比赛带来的风险。
评论列表