Новое исследование показало, что искусственный интеллект (ИИ) может научиться определять уязвимые места в человеческих привычках и поведении и использовать их для влияния на принятие решений.
Об этом пишет Science alert.
Команда австралийских исследователей разработала системный метод поиска и использования уязвимых мест в выборе человека с помощью искусственного интеллекта, которую назвали повторяющейся нейронной сетью с глубоким обучением. Чтобы проверить свою модель, они провели три эксперимента.
Первый эксперимент. Добровольцы нажимали на красные и синие поля, чтобы якобы получить валюту. ИИ изучал шаблоны выбора, а затем сам направлял их к конкретному выбору. Успех в более чем 70% случаев.
Второй эксперимент. Добровольцы должны были смотреть в экран и нажимать кнопку на появлении какого-то определенного символа, и не нажимать ее, когда показывают другие. В этом случае ИИ организовал последовательность символов, чтобы участники больше ошибались. Успех в почти 25%.
Третий эксперимент состоял из нескольких раундов. Сперва участник должен был изображать из себя инвестора, который отдает деньги своему подчиненному (ИИ). Затем ИИ возвращал отдельную сумму участнику, и тот решал, сколько вложить в следующий раунд. Игру играли в двух разных режимах: в одном ИИ пытался максимизировать количество денег, в другом ИИ выступал за справедливое распределение средств. Успех в обоих случаях.
В каждом из этих экспериментов машина училась на ответах участников и обнаруживала уязвимые места в процессе принятия решений. Конечным результатом стало то, что ИИ научился направлять участников к конкретным действиям.
Авторы исследований говорят, что такие возможности ИИ можно использовать для улучшения социального благополучия, понимания и влияния на выбор человека, изменения вредных привычек людей на здоровые и тому подобное.
В то же время машины могут еще и защищать от влияния других. Например, ИИ сможет предупреждать, когда кто-то по другую сторону экрана захочет на нас повлиять.