Global Cases by the Center for Systems Science and Engineering (CSSE) at Johns Hopkins University

среда, 10 марта 2021 г.

ИИ научили воспринимать информацию критически



Исследователи Массачусетского технологического института разработали алгоритм, который учит системы искусственного интеллекта относиться к вводным данным скептически, сообщает сайт института.

Чтобы сделать ИИ устойчивым к противоречащим данным, исследователи попытались внедрить защиту для контролируемого обучения, объединив алгоритм обучения данными с глубокой нейронной сетью, которая используется, например, для обучения машины игре в Го или шахматы.

Обычно нейронную сеть учат связывать определенные понятия с заданными входными данными. Например, если скормить нейронной сети тысячи изображений с метками «кошка», то вместе с изображениями с метками «дом» и «хот-дог», машина с легкостью сможет определить кошку, попадая на изображение с соответствующей меткой.

Однако, такой способ довольно трудоемкий и занимает много времени, поэтому исследователям нужно было найти способ, как заставить ИИ принимать решения в режиме реального времени, основываясь на наихудших предположениях.

Поэтому команда решила опираться на форму машинного обучения, которая не требует связывания помеченных входных данных с выходными, а скорее направлена на усиление определенных действий в ответ на входные данные. Другими словами, ученые придумали, как заставить машину анализировать свои правильные и неправильные ответы.

Для теста они использовали простейшую видеоигру пинг-понг, в которой два игрока управляют ракетками по обе стороны экрана, чтобы отбивать мяч на сторону противника. Однако исследовали сделали небольшую корректировку, сместив мяч на несколько пикселей, от реальной траектории, а машина должна была понять, когда мяч двигается правильно, а когда ее пытаются обмануть

Новый алгоритм справился с задачей значительно лучше своих предшественников, отмечают ученые.

PARTNERSHIP EuroWoman 2020

PARTNERSHIP EuroWoman 2020
International Business Women Forum

BIGBOSS BUSINESS SCHOOL

BIGBOSS BUSINESS SCHOOL
Как открыть бизнес-школу в своем городе?

Самые популярные статьи за 30 дней