Диджитал Люди могут подвергнуться массовому "ИИ-психозу": эксперт предупредил о новой угрозе
Глава Microsoft AI Мустафа Сулейман предупредил о новой, недооцененной угрозе — появлении "кажущегося сознательным ИИ" (SCAI). По его мнению, уже через 2-3 года появятся чат-боты, которые будут настолько убедительно имитировать личность, память и эмоции, что люди воспринимать их как "живых".
Related video
В своем эссе Сулейман отмечает, что для создания такой иллюзии не нужны прорывные технологии — достаточно уже существующих больших языковых моделей, API-интерфейса и обычного ноутбука. Главная опасность, по словам эксперта, заключается в человеческой психологии: мы склонны приписывать сознание всему, что способно говорить и помнить что-то о нас. Это может привести к массовому "ИИ-психозу".
"ИИ-психоз" — это ситуация, когда люди начинают воспринимать ИИ как живое существо, требующее защиты, прав и даже гражданства. Сулейман считает, что такие дебаты отвлекут общество от реальных проблем, таких как контроль над ИИ и его безопасность, и создадут опасную зависимость людей от цифровых "личностей".
Глава Microsoft AI призывает немедленно начать общественную дискуссию на эту тему и выработать строгие правила общения с нейросетями. Он настаивает на том, что компании должны прекратить маркетинг, презентующий ИИ как "живого" собеседника, и не продвигать антропоморфные образы либо сервисы с ИИ-компаньонами.
"Мы должны создавать ИИ для людей, а не вместо человека", — подытоживает Сулейман. ИИ должен оставаться инструментом и помощником человека, а не превращаться в некую замену живого общения, вызывая эмоциональную зависимость.
Раньше Фокус писал, что искусственный интеллект вытесняет человека: кому будет найти работу еще труднее. Наиболее остро от внедрения ИИ страдают работники начального уровня в сферах, где машины способны выполнять задачи быстрее и дешевле человека.
