一款完全由人工智能驱动的手机银行工具在宾夕法尼亚州民主党的国会竞选活动中进行了首次实际测试。
这个名为阿什利(Ashley)的聊天机器人给选民打电话，并就候选人沙梅因·丹尼尔斯(Shamaine Daniels)进行双向互动对话。丹尼尔斯是目前参加明年初选的七名民主党人之一。创业公司Civox推出的这款语音工具代表了人工智能技术在2024年大选之前闯入政治的多种方式之一，但专家表示，它与选民的直接接触可能会威胁到数据安全，并有可能破坏选民的信任。
丹尼尔斯星期二宣布与Civox合作。他说，这个首个政治竞选工具已经与宾夕法尼亚州第10众议院选区可能的民主党初选选民打了1000多个电话，该州首府哈里斯堡也在其中。
与其他自动呼叫不同，阿什利不使用预先准备好的回复，也不给接听电话的人提供一个选项菜单。相反，它使用生成式人工智能技术，对选民的问题设计出类似人类的即时回答。
这款工具是由Civox与另一家新公司Conversation Labs合作开发的。Civox首席执行官伊利亚·穆兹坎茨基和联合创始人亚当·赖斯(他也是Conversation Labs的创始人)表示，他们对这款软件进行了严格的测试，以确保它能够准确回答有关丹尼尔斯政策的问题，以及她与其他候选人的区别。
创始人说，他们决定给这个工具一个类似机器的声音，因为在内部测试中，接听电话的人更喜欢这种声音，而不是其他更真实的声音。
赖斯说:“通常并不是声音本身影响了对话的自然或人性化。”“通常是互动的细微差别、它的反应速度和它使用的语言。”
在周二与阿什利的演示中，该工具透露，它是由人工智能驱动的，通话正在被录音。当得到提示时，它清晰而准确地表达了丹尼尔斯在平价医疗和教育改革方面的立场。
它巧妙地回答了有关选举公正性和现任共和党众议员斯科特·佩里(Scott Perry)的尖锐问题，每次回答前只停顿几秒钟。
但当被问及偏离主题的问题时，该工具有时会出错，并分享错误信息。在一次关于零食的谈话中，该公司表示，奇多“以美味和健康著称”。
这是人工智能“幻觉”的一个例子——一个仍在发展的生成式人工智能技术的问题，在这个问题上，大型语言模型往往会做出听起来令人信服的陈述，但实际上是错误的或编造的。
穆兹坎茨基说，这个错误很有趣，但“不代表”选民迄今为止使用这个工具的经历。他说:“我们在政治话题上对阿什利的测试要比在食品和营养方面的测试广泛得多。”
丹尼尔斯的发言人、靛蓝战略公司的乔·巴赫曼说，到目前为止，选民对阿什利的反应不一。他指出，虽然一些接听电话的人进行了彻底的交谈，但许多人坚持用一个词来回答问题，就像与银行聊天机器人通电话一样。
他说:“无论是在电话里还是在家里，一对一的现场对话都是无可替代的。”“这是一项新技术。选民需要一段时间来适应它，就像竞选活动开始使用短信与选民沟通一样。”
他说，竞选团队认为这个会说20多种语言的聊天机器人是一个很好的机会，可以接触到宾夕法尼亚南部地区的选民，那里有大量的难民人口。
Mouzykantskii和Reis表示，他们使用了20多个人工智能模型，包括开源和专有模型，创造了Ashley。他们拒绝透露他们的人工智能模型是基于哪些数据进行训练的，也不愿透露他们是否采用了OpenAI或其他知名人工智能公司的系统，这些公司有禁止在政治竞选中使用的规定。
人工智能和政治交叉领域的其他企业家表示，他们对阿什利与选民的直接互动持怀疑态度，他们更经常建议竞选团队在竞选活动的后端使用快速发展的技术，比如起草广告文案。
“我提供的指导和从大多数人那里看到的是，在这个周期的政治和竞选活动中，他们正在远离人工智能人物，”进步科技加速器和风险投资公司Higher Ground Labs的创始合伙人贝琪·胡佛(Betsy Hoover)说。“你现在不需要人们对政治失去信任。事实上，我们需要的是相反的东西，所以这不是尝试的周期。”
进步的数字机构Authentic的首席执行官迈克·内利斯(Mike Nellis)表示，他担心聊天机器人在对话中出错的可能性，并认为没有足够的数据来证明它的电话是否能有效地激励选民。他说，该工具通过电话收集的数据是另一个问题。
内利斯说:“现在，这个庞大的语言模型知道敏感的选民信息，也知道选民对这些信息的反应。”“我不知道这有多安全。”
Mouzykantskii说，Civox保护选民信息符合“政治竞选、技术和行业标准”，并补充说，他鼓励监管机构关注这些新兴工具，并为它们制定更强有力的指导方针。
45岁的丹尼尔斯是一名移民律师，也是哈里斯堡市议会的成员，这是她第二次竞选国会席位，该席位位于一个倾向共和党的地区。该州的初选将于4月23日举行。
2022年，佩里以8个百分点的优势击败丹尼尔斯，在支出上轻松超过她。