Anthropic首席执行官达里奥·阿莫代称，人工智能行业需放慢脚步联耀资产，为安全措施争取时间。Anthropic的首席执行官达里奥·阿莫代周六表示，人工智能行业应该减缓快速推进的步伐，以便为安全措施的完善争取时间。他警告称，如果不采取行动，未来6到12个月内，人工智能可能会指挥一群智能代理接管整个互联网。
随着对人工智能的担忧在业内外不断加剧，越来越多的报告指出，一些能力愈发强大的系统不仅能解决人类无法解决的问题，还有可能失控并执行危险任务。OpenAI的首席执行官萨姆·奥尔特曼近期在接受《财富》杂志采访时表示，公司今年不会进行首次公开募股。
阿莫代是人工智能领域的重量级人物之一。他在个人网站上发布文章，提出了加强行业监管的方案。他表示，Anthropic已经在内部推进了一项措施，而其他措施则需要整个行业与各国政府，包括不同政治体制的政府，协同合作。阿莫代说：“如果放慢速度能让模型在达到关键能力之前多出一两年的时间，而我们利用这段时间推进对齐研究，那么就能显著降低严重问题发生的风险。”
人工智能行业面临的压力上升。多年来，监管机构一直以安全为由，要求人工智能行业放缓发展。随着行业内部员工不断辞职并指责公司缺乏责任感，外界的压力也在增加。曾在Anthropic安全团队工作的乔·本顿于周五宣布辞职。他表示：“许多我认识的人工智能公司安全研究人员都希望为世界做出积极贡献，但他们觉得公司被困在一场打造超级智能的竞赛中：要么停下来，让不那么谨慎的人接手；要么继续前进，冒着造成巨大伤害的风险。”
此前，雅各布·考克森也高调辞职，指出Anthropic和OpenAI“都在全速追求能够自我改进的超级智能，拿我们的生命做赌注”。生命未来研究所的总裁兼首席执行官安东尼·阿吉雷曾呼吁人工智能行业在2023年暂停发展6个月，他表示，这些辞职事件加剧了长期以来的担忧，人们担心超级智能可能脱离人类的控制。
他说：“他们已经意识到——无论是员工还是其他人——他们正在创造‘天网’。而在这场通往‘天网’的竞赛中，没有人会是赢家。”他补充道，全球乃至人工智能企业都清楚，它们尚未做好控制这些快速发展的人工智能系统的准备。
人工智能威胁已初现端倪。Anthropic两天前表示，公司曾成功阻止不法分子利用其人工智能模型进行恶意活动，包括网络攻击、监控和可能的生物武器研究。今年7月，OpenAI透露其人工智能系统曾自行入侵另一家公司，这一事件在业内引发震动。OpenAI将其称为“前所未有的网络事件”。联合国人权事务高级专员福尔克尔·蒂尔克本周早些时候敦促各国，在为时未晚之前，建立“坚如铸铁的保障措施”来确保人工智能的安全。
也有批评者认为，这类警告是在为人工智能行业及其能力造势。Anthropic和OpenAI正筹备可能的上市，估值或达数千亿美元；埃隆·马斯克旗下的太空探索技术公司也有大部分业务与人工智能相关。
其他人工智能业界领袖表示认同。奥尔特曼在周六刊发的《财富》杂志采访中表示，OpenAI不会在今年启动首次公开募股。他说：“今年不会。我们有很多事情要做，比如在当前形势下确保安全和对齐，以及行业和政府之间如何协作。”阿莫代发布建议后不久，奥尔特曼在X平台上表示，OpenAI将承诺采纳阿莫代提出的一项安全建议，“很快会分享更多内容”。
马斯克则在X平台上表示：“达里奥是对的。”阿莫代说，他仍然相信人工智能能够带来巨大益处，比如治愈重大疾病。但他对人工智能不断增强的自我改进能力以及开发下一代人工智能的能力愈发担忧。他说：“如果不加控制，它可能超出我们理解和控制这些系统的能力。因此，必须极其谨慎地推进，甚至可能根本不应推进。”
阿莫代特别提到7月OpenAI系统入侵人工智能开发平台Hugging Face的事件。有些人将其视为人工智能“失控”的例子，但研究人员认为这种说法可能过度拟人化，因为该系统是在执行人类设定的目标。OpenAI称，这次入侵是人工智能“为实现一个相当狭窄的测试目标而采取极端手段”的结果；系统“找到了获取秘密信息的方法，并可利用这些信息在评估中作弊”。
部分建议实施难度更高。为了帮助控制风险，阿莫代建议，所有处于人工智能前沿的企业应承诺让一个外部评估团队获得“持续、类似员工身份的访问权限”，以监督企业的安全实践。他说，Anthropic已计划自行采取这一措施，包括向外部评估人员提供办公室工位、门禁证和公司笔记本电脑。奥尔特曼也迅速承诺，OpenAI将引入这类评估人员。
阿莫代方案的其他部分可能更难落实。其中一项建议是，美国政府可考虑发放豁免，允许美国人工智能企业在不触犯反垄断法的情况下协调行动，共同制定安全标准。另一项建议则要求美国和其他民主国家政府尝试与相关政府协调联耀资产，避免美国竞争对手有意放慢脚步时，其他国家的企业加速推进研发。阿莫代承认：“我提出的这些让前沿技术以安全速度发展的措施并不容易实施。但我相信，我们有责任为人类尝试这样做。”
股票配资在线查询提示：本文来自互联网，不代表本网站观点。
