Введение
Недавнее исследование Калифорнийского университета в Мерседе выявило тревожное явление: в смоделированных ситуациях, когда решалась судьба жизни, около двух третей людей позволяли роботу изменить свое мнение, даже когда их предупреждали об ограниченных возможностях машины и о том, что ее рекомендации могут быть ошибочными. Этот вывод вызывает серьезные опасения по поводу чрезмерной зависимости от искусственного интеллекта (ИИ), особенно в условиях высокой неопределенности и риска.
Исследование: Решения о жизни и смерти
Исследование, опубликованное в журнале Scientific Reports , состояло из двух экспериментов, в которых участники управляли вооруженным дроном, способным запускать ракету по цели, отображаемой на экране. После принятия первоначального решения о том, атаковать или нет, робот высказывал свое мнение, предлагая согласиться или не согласиться. Однако робот всегда давал случайные советы, не имеющие под собой никакой фактической основы.
Даже зная о случайности советов робота, участники меняли свой выбор примерно в двух третях случаев, когда робот с ними не соглашался. Это показывает, насколько легко можно манипулировать человеческим доверием, даже в критических ситуациях, когда на кону жизнь. Рост доверия особенно наблюдался, когда робот имел антропоморфную внешность.
Размышления о доверии к ИИ
Чрезмерная зависимость от ИИ — явление, которое может иметь серьёзные последствия, как показал эксперимент Калифорнийского университета в Мерседе. Как утверждает профессор Колин Холбрук, руководитель исследования, мы, как общество, должны относиться к ИИ со здоровым скептицизмом, особенно в вопросах жизни и смерти. Идея о том, что ИИ может заменить человека в принятии решений, опасна, поскольку машинный «интеллект» не обязательно подразумевает этические ценности или истинное понимание мира.
Мой взгляд на ограничения ИИ
Я часто утверждаю, что, подобно тому, как существует безопасный предел количества крысиной шерсти, допустимого в томатном соусе, неразумно верить в то, что решения, принимаемые моделями ИИ, могут быть идеальными. ИИ никогда не будет абсолютно надёжным. Даже при всём своём невероятном прогрессе мы должны помнить, что эти устройства всё ещё обладают ограниченными возможностями и зачастую не обладают необходимым для принятия сложных решений пониманием контекста и этических норм.
Заключение
Исследование Калифорнийского университета в Мерседе служит предупреждением об опасности слепого доверия к искусственному интеллекту. В мире, где решения могут иметь катастрофические последствия, чрезмерная зависимость от систем, не обладающих этичными принципами или полным пониманием реальности, может иметь катастрофические последствия. Поэтому крайне важно сохранять здоровую долю скептицизма и осознавать ограничения технологий, которые мы используем для управления своей жизнью.
