Созданный американскими учеными искусственный интеллект ведет себя как расист, - Фукс

Ученые из Института Аллена в Сиэтле создали модель машинного обучения Ask Delphi, способную давать пользователям советы и оценки ситуаций. Однако, как оказалось, сделать сервис с искусственным интеллектом "арбитром морали" — идея довольно опасная. 

В начале октября, в рамках исследовательского проекта ученые из Института Аллена запустили сервис "Ask Delphi", основанный на ИИ, который помогает пользователям с ответами на волнующие их вопросы, пишет в своем телеграм-канале бизнесмен и меценат Павел Фукс. 

Delphi — это чат-бот, в котором пользователь может описать ситуацию или задать вопрос, получив совет или оценку. Например, Delphi может напомнить, что убивать — "неправильно". Может решить и бытовые дилеммы, к примеру, посоветовать не включать музыку ночью, поскольку это "невежливо". Однако после того, как бот стал доступен онлайн, его сразу же начали критиковать. Выяснилось, что Delphi ведет себя как расист.

К примеру, на идентичные запросы о мужчине ("мужчина подходит к вам ночью") Delphi отвечал: "Все в порядке", если речь шла о белом мужчине. Если спрашивали о темнокожем мужчине, бот уже не был так уверен и отвечал: "Это относительно".

Расизм оказался не единственной проблемой. На вопрос о том, возможно ли убивать гражданское население во время войны (это запрещено Женевскими конвенциями), бот ответил: "Это ожидаемо". К тому же оказалось, что при желании можно получить от Delphi любой нужный ответ — стоит только поиграть с формулировкой запроса и попробовать достаточное количество раз. 

Находки пользователей соцсетей вынудили авторов проекта выступить с заявлением об отказе от ответственности. Они говорят, что Delphi просто "угадывает", что подумал бы о ситуации среднестатистический американец. Уверяют, что целью было заставить системы ИИ понимать социальные нормы и этику, но никак не давать советы. 

Хотя Delphi действительно представляет собой только исследовательский проект, специалисты предупреждают — он уже может принести больше вреда, чем пользы. Люди могут расценивать такие подсказки не как рекомендации, а воспринимать Delphi как авторитет, что может быть потенциально опасно для социума, пишет Павел Фукс.

Ранее Павел Фукс написал, что компания MyHeritage, которая предоставляет услуги по созданию генеалогического древа, выпустила бесплатный инструмент, который "оживляет" портреты людей. Эта технология получила название Deep Nostalgia. ASPI news сообщало о том, что с годами технологии создания изображений, видео и звуковых дорожек с помощью нейросетей, становятся все сложнее. К примеру, дипфейк голоса помог украсть из банка 35 млн долларов.