(CNN)——在国会议员质疑OpenAI首席执行官萨姆·奥特曼(Sam Altman)关于人工智能工具传播错误信息、扰乱选举和取代就业机会的可能性两周后，他和其他业内人士公开了一种更可怕的可能性:人工智能末日。
上个月，奥特曼的公司与谷歌DeepMind首席执行官德米斯·哈萨比斯、微软首席技术官凯文·斯科特以及其他数十名人工智能研究人员和商界领袖一起签署了一封只有一句话的信，信中写道:“减轻人工智能带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一样，成为全球的优先事项。”
这一严厉的警告被媒体广泛报道，一些人认为，这表明有必要更认真地对待这种世界末日的情景。但这也凸显了硅谷目前的一个重要动态:一些最大科技公司的高管一方面告诉公众，人工智能有可能导致人类灭绝，另一方面又竞相投资，并将这项技术应用到数十亿人的产品中。
这种动态最近也在其他地方上演。例如，特斯拉首席执行官埃隆·马斯克在4月份的一次电视采访中表示，人工智能可能会导致“文明毁灭”。但他仍通过在其庞大的商业帝国进行投资，深度参与人工智能技术，并表示希望创建一个与微软(Microsoft)和谷歌(Google)的人工智能产品相抗衡的产品。
一些人工智能行业专家表示，将注意力集中在遥远的场景上，可能会分散人们对新一代强大的人工智能工具可能对人们和社区造成的更直接的伤害的注意力，包括传播错误信息、延续偏见和在各种服务中造成歧视。
“动机似乎很复杂，”人工智能研究员、纽约大学名誉教授加里·马库斯(Gary Marcus)告诉CNN，他上个月与OpenAI首席执行官奥特曼一起在立法者面前作证。他说，一些高管可能“真的担心他们释放的东西”，但其他人可能试图将注意力集中在“抽象的可能性上，以分散对更直接可能性的关注”。
谷歌和OpenAI的代表没有立即回应置评请求。微软发言人在一份声明中表示:“我们对人工智能的未来持乐观态度，我们认为人工智能的进步将解决比现在更多的挑战，但我们也始终认为，当你创造出可以改变世界的技术时，你也必须确保负责任地使用这项技术。”
直接关注vs.“虚构的科幻场景”
马库斯自称是人工智能炒作的批评者，他说:“人工智能最大的直接威胁是大规模生产令人信服的错误信息对民主的威胁。”
像OpenAI的ChatGPT和Dall-E这样的生成式人工智能工具是在大量在线数据的基础上进行训练的，可以根据用户的提示创建引人注目的书面工作和图像。例如，有了这些工具，人们可以迅速模仿公众人物的风格或肖像，试图制造虚假信息活动。
在国会作证时，奥特曼还表示，人工智能被用来操纵选民和针对虚假信息的可能性是“我最担心的领域之一”。
然而，即使在更普通的用例中，也存在一些问题。同样的工具也被指责为对用户提示提供错误的答案，完全是“幻觉”的回答，并可能使种族和性别偏见永久化。
华盛顿大学(University of Washington)教授、计算语言学实验室(Computational Linguistics Laboratory)主任艾米丽·本德(Emily Bender)在接受CNN采访时表示，一些公司可能希望将人们的注意力从他们的数据中存在的偏见，以及有关他们的系统是如何训练的说法上转移开来。
本德列举了这些系统所使用的一些数据的知识产权问题，以及一些公司将培训数据中一些最糟糕的部分外包给国外低薪工人的指控。
本德在接受CNN采访时表示:“如果公众和监管机构能把注意力集中在这些虚构的科幻场景上，那么这些公司可能会更长时间地逃避数据盗窃和剥削行为。”
影响监管机构
监管机构可能是科技行业末日信息的真正受众。
正如本德所说，高管们实际上是在说:“这东西非常非常危险，只有我们知道如何控制它。”
从奥特曼在国会的露面来看，这一策略可能会奏效。Altman似乎通过回应立法者对人工智能的担忧赢得了华盛顿的支持，这是一项许多国会议员仍在试图理解的技术，并就如何解决这一问题提出了建议。
本德说，这种监管方式将会“产生巨大的问题”。它可以让行业对负责问责的监管机构产生影响，也可以忽略其他人和社区的声音和意见，这些人和社区正在经历这项技术的负面影响。
本德说:“如果监管机构把开发和销售这项技术的人视为唯一可能理解这一点的人，因此可能会告诉监管应该如何运作，我们真的会错过。”
本德说，她试着抓住每一个机会告诉人们“这些东西看起来比实际上聪明得多。”正如她所说，这是因为“我们和我们自己一样聪明”，我们理解语言的方式，包括人工智能的反应，“实际上是通过想象背后的一个大脑。”
最后，本德就人工智能向科技行业提出了一个简单的问题:“如果他们真的相信这可能会导致人类灭绝，那么为什么不停止呢?”
The-CNN-Wire?&?2023有线新闻网，Inc.，华纳兄弟发现公司。版权所有。