介绍
加州大学默塞德分校最近的一项研究揭示了一些令人担忧的行为：在模拟的生死抉择中，约三分之二的人允许机器人改变主意，即使被告知机器的能力有限，其建议也可能出错。这一发现引发了人们对过度信任的严重担忧。 人工智能 （人工智能），尤其是在高度不确定和高风险的环境中。
研究：生死抉择
该研究发表在期刊 Scientific Reports，由两项实验组成，参与者控制一架武装无人机，该无人机可以向屏幕上显示的目标发射导弹。在初步决定是否攻击后，机器人会提供意见，表示同意或不同意。然而，机器人总是提供随机的建议，没有任何事实依据。
即使明知机器人建议的随机性，参与者在约三分之二的情况下，当机器人不同意他们的观点时，仍然会改变自己的选择。这表明，即使在危及生命的关键时刻，人类的信任也很容易被操纵。当机器人拥有拟人化的外观时，信任度的提升尤为显著。
对人工智能信任的思考
过度依赖人工智能是一种可能造成严重后果的现象，加州大学默塞德分校的实验就证明了这一点。正如该研究的首席研究员科林·霍尔布鲁克教授所言，作为一个社会，我们应该对人工智能持健康的怀疑态度，尤其是在生死攸关的决策中。认为人工智能可以取代人类决策的想法是危险的，因为机器“智能”并不一定包含伦理价值观或对世界的真正认知。
我对人工智能局限性的看法
我经常说，就像番茄酱里允许添加的老鼠毛量有一个安全限度一样，相信人工智能模型做出的决策是完美的也是不合理的。人工智能永远不会100%可靠。即使取得了非凡的进步，我们也必须记住，这些设备的能力仍然有限，而且往往缺乏做出复杂决策所必需的情境理解和伦理理解。
结论
加州大学默塞德分校的这项研究警示人们盲目信任人工智能的危险。在一个决策可能带来可怕后果的世界里，过度依赖缺乏道德或对现实缺乏全面理解的系统可能会带来灾难性的后果。因此，我们必须保持适度的怀疑态度，并意识到我们用来指导生活的技术的局限性。
