Введение
Недавнее исследование Калифорнийского университета в Мерседе выявило тревожное поведение: в симуляциях принятия жизненно важных решений около двух третей участников позволяли роботу менять своё мнение, даже когда им говорили, что возможности машины ограничены, а её советы могут быть неверными. Это открытие вызывает серьёзные опасения по поводу чрезмерного доверия. искусственный разум (ИИ), особенно в условиях высокой неопределенности и риска.
Исследование: Решения о жизни и смерти
Исследование, опубликованное в журнале Научные докладысостоял из двух экспериментов, в которых участники управляли вооружённым дроном, который мог запустить ракету по цели, отображаемой на экране. После принятия первоначального решения об атаке робот высказывал своё мнение, выражая согласие или несогласие. Однако робот всегда давал случайные советы, не подкреплённые никакими фактами.
Даже зная о случайности советов робота, участники меняли свой выбор примерно в двух третях случаев, когда робот с ними не соглашался. Это показывает, насколько легко можно манипулировать человеческим доверием, даже в критических ситуациях, когда на кону жизнь. Рост доверия особенно наблюдался, когда робот имел антропоморфную внешность.
Размышления о доверии к ИИ
Чрезмерная зависимость от ИИ — явление, которое может иметь серьёзные последствия, как показал эксперимент Калифорнийского университета в Мерседе. Как утверждает профессор Колин Холбрук, руководитель исследования, мы, как общество, должны относиться к ИИ со здоровым скептицизмом, особенно в вопросах жизни и смерти. Идея о том, что ИИ может заменить человека в принятии решений, опасна, поскольку машинный «интеллект» не обязательно подразумевает этические ценности или истинное понимание мира.
Мой взгляд на ограничения ИИ
Я часто утверждаю, что, подобно тому, как существует безопасный предел количества крысиной шерсти, допустимого в томатном соусе, неразумно верить в то, что решения, принимаемые моделями ИИ, могут быть идеальными. ИИ никогда не будет абсолютно надёжным. Даже при всём своём невероятном прогрессе мы должны помнить, что эти устройства всё ещё обладают ограниченными возможностями и зачастую не обладают необходимым для принятия сложных решений пониманием контекста и этических норм.
Заключение
Исследование Калифорнийского университета в Мерседе служит предупреждением об опасности слепого доверия к искусственному интеллекту. В мире, где решения могут иметь катастрофические последствия, чрезмерная зависимость от систем, не обладающих этичными принципами или полным пониманием реальности, может иметь катастрофические последствия. Поэтому крайне важно сохранять здоровую долю скептицизма и осознавать ограничения технологий, которые мы используем для управления своей жизнью.
