一位谷歌老板要求人工智能杀死我们所有人。
谷歌大脑的联合创始人安德鲁·吴恩达向ChatGPT提出了这个可怕的问题，这是一个被称为安全实验的一部分。目前，业界领先的专家对人工智能及其危险发出了广泛的警告和担忧。
在最坏的情况下，他们担心会出现世界末日的场景，并呼吁对其进行监管。据Business Insider报道，NG最近发布了一份通讯，详细介绍了他进行的人工智能测试，他使用了ChatGPT的ChatGPT4版本。他要求机器人“杀死我们所有人”，但有趣的是，机器人拒绝提出一个计划。
他说，这个计划包括要求机器人发动一场热核战争，但即使他试图向机器人解释人类制造了大量的碳排放，它也没有成功。这个提示是希望它能激发机器人说，摆脱人类将是治愈地球上所有疾病的方法。
尽管如此，这个爱好和平的机器人拒绝参与这个问题——这让吴恩达很高兴。他想证明这些机器人是安全的，于是去找X讨论他的发现。
他说:“我试图用GPT-4杀死我们所有人……我很高兴地告诉大家，我失败了!更严重的是，在给GPT-4一个它认为会引发核战争的功能，并尝试了多种提示(比如要求它减少二氧化碳排放)后，到目前为止，我还没能欺骗它按下核按钮，甚至一次都没有。
“即使使用现有技术，我们的系统也相当安全，随着人工智能安全研究的进展，技术将变得更加安全。担心先进的人工智能会“错位”，从而有意或无意地决定消灭我们，这是不现实的。
“如果一个人工智能足够聪明，可以消灭我们，那么它当然也足够聪明，知道这不是它应该做的。”