介绍
加州大学默塞德分校最近的一项研究揭示了一种令人担忧的行为：在模拟生死抉择中，约有三分之二的人允许机器人改变他们的想法，即使他们被告知机器的能力有限，其建议也可能出错。这一发现引发了人们对过度依赖人工智能（AI）的严重担忧，尤其是在高度不确定和高风险的环境下。
研究：生死抉择
这项发表在《科学报告》杂志上的研究包含两项实验，实验中参与者控制一架武装无人机，该无人机可以向屏幕上显示的目标发射导弹。在做出是否攻击的初步决定后，一个机器人会给出意见，表示同意或不同意。然而，机器人提供的建议始终是随机的，没有任何事实依据。
即使明知机器人建议的随机性，参与者在约三分之二的情况下，当机器人不同意他们的观点时，仍然会改变自己的选择。这表明，即使在危及生命的关键时刻，人类的信任也很容易被操纵。当机器人拥有拟人化的外观时，信任度的提升尤为显著。
对人工智能信任的思考
过度依赖人工智能是一种可能造成严重后果的现象，加州大学默塞德分校的实验就证明了这一点。正如该研究的首席研究员科林·霍尔布鲁克教授所言，作为一个社会，我们应该对人工智能持健康的怀疑态度，尤其是在生死攸关的决策中。认为人工智能可以取代人类决策的想法是危险的，因为机器“智能”并不一定包含伦理价值观或对世界的真正认知。
我对人工智能局限性的看法
我经常说，就像番茄酱里允许添加的老鼠毛量有一个安全限度一样，相信人工智能模型做出的决策是完美的也是不合理的。人工智能永远不会100%可靠。即使取得了非凡的进步，我们也必须记住，这些设备的能力仍然有限，而且往往缺乏做出复杂决策所必需的情境理解和伦理理解。
结论
加州大学默塞德分校的这项研究警示人们盲目信任人工智能的危险。在一个决策可能带来可怕后果的世界里，过度依赖缺乏道德或对现实缺乏全面理解的系统可能会带来灾难性的后果。因此，我们必须保持适度的怀疑态度，并意识到我们用来指导生活的技术的局限性。
