马斯克与英国首相讨论人工智能：AI可能成为人类的好朋友

摘要： 　　亿万富翁企业家埃隆·马斯克周四在与英国首相苏纳克的一次广泛交谈中，将人工智能描述为“历史上最具颠覆性的力量”，尽管有失控的风险，但总的来说是“一股向善的力量”，并且可能成为人...

　　亿万富翁企业家埃隆·马斯克周四在与英国首相苏纳克的一次广泛交谈中，将人工智能描述为“历史上最具颠覆性的力量”，尽管有失控的风险，但总的来说是“一股向善的力量”，并且可能成为人类的“好朋友”，尤其是对他儿子这样在现实世界中有交流困难的人。

　　苏纳克在伦敦兰开斯特宫的一个镀金房间的小舞台上访了马斯克，他是在英国举行的为期两天的人工智能峰会上的明星嘉宾。兰开斯特宫是英国最豪华的场所之一，经常用于外交活动。

　　这次讨论是在数十名受邀的商界领袖面前进行的，这是为期两天的峰会的最后一场活动，人们认为，通过开始思考人工智能可能带来的严重风险，这是在利用人工智能造福人类方面迈出的一大步。

　　马斯克表示，他相信总有一天，“如果你想要一份工作，你就可以拥有一份工作……但AI将能够做任何事情，”使我们今天所知道的就业成为过去。

　　他说：“我不知道这会让人们感到舒服还是不舒服。”“这是好事也是坏事。未来的挑战之一将是，如果你有一个神奇的精灵，可以做任何你想做的事，我们如何找到生活的意义？”

　　在峰会期间，几家大型科技公司和国家签署了一项“具有里程碑意义”的自愿协议，允许英国、美国和新加坡等国测试其最新的社会和国家安全风险模型。签署承诺的公司包括OpenAI、谷歌的DeepMind、Anthropic、亚马逊、Mistral、微软和Meta。

　　当被苏纳克问及他对这一举措的看法时，马斯克开玩笑地说：“这很烦人，这是真的”，但他表示支持这一，因为“多年来我们学到，有一个裁判是一件好事”。

　　马斯克和苏纳克都认为可能需要物理“关闭开关”，以防止机器人以危险的方式失控，就像《终结者》系列电影和其他科幻电影中描述的那样。

　　苏纳克说：“所有这些情节基本相同的电影都是以主人公关掉开关结束的。”他补充说，物理开关的重要性是当天早些时候峰会讨论的一部分。

　　马斯克表示，他认为确保人工智能技术有“某种关闭开关”是我们应该“非常关注”的事情。“如果有一天他们的软件更新了，他们就不再那么友好了，那该怎么办？”他说。

　　这不是马斯克第一次谈到物理开关的重要性，今年较早时，他在X平台上发布展示特斯拉“擎天柱”机器人的最新进展时，一位用户指出了擎天柱脖子后面的一个“红色按钮”，可能是作为防止潜在的机器人统治世界的场景的安全措施。马斯克回应称：“我们一定会尽力保证擎天柱的安全。它需要很容易地使用遥控器或你的手机就能暂停，无需集中控制。”

　　马斯克说，总的来说，他认为人工智能“很可能会成为一股向善的力量，”他说，问题在于事情变得非常糟糕的可能

　　马斯克说，人工智能系统可能会变得如此先进，以至于它可以通过记住对话，了解人们的好恶，成为一个人的“好朋友”。他指出，他的儿子有学习障碍，交朋友也有困难。“一个AI朋友对他来说会很好。”