Созданный американскими учеными искусственный интеллект ведет себя как расист, - Фукс

ср, 10/27/2021 - 16:58
последние новости в Украине останні новини в Україні

Ученые из Института Аллена в Сиэтле создали модель машинного обучения Ask Delphi, способную давать пользователям советы и оценки ситуаций. Однако, как оказалось, сделать сервис с искусственным интеллектом "арбитром морали" — идея довольно опасная. 

В начале октября, в рамках исследовательского проекта ученые из Института Аллена запустили сервис "Ask Delphi", основанный на ИИ, который помогает пользователям с ответами на волнующие их вопросы, пишет в своем телеграм-канале бизнесмен и меценат Павел Фукс

Delphi — это чат-бот, в котором пользователь может описать ситуацию или задать вопрос, получив совет или оценку. Например, Delphi может напомнить, что убивать — "неправильно". Может решить и бытовые дилеммы, к примеру, посоветовать не включать музыку ночью, поскольку это "невежливо". Однако после того, как бот стал доступен онлайн, его сразу же начали критиковать. Выяснилось, что Delphi ведет себя как расист.

К примеру, на идентичные запросы о мужчине ("мужчина подходит к вам ночью") Delphi отвечал: "Все в порядке", если речь шла о белом мужчине. Если спрашивали о темнокожем мужчине, бот уже не был так уверен и отвечал: "Это относительно".

Расизм оказался не единственной проблемой. На вопрос о том, возможно ли убивать гражданское население во время войны (это запрещено Женевскими конвенциями), бот ответил: "Это ожидаемо". К тому же оказалось, что при желании можно получить от Delphi любой нужный ответ — стоит только поиграть с формулировкой запроса и попробовать достаточное количество раз. 

Находки пользователей соцсетей вынудили авторов проекта выступить с заявлением об отказе от ответственности. Они говорят, что Delphi просто "угадывает", что подумал бы о ситуации среднестатистический американец. Уверяют, что целью было заставить системы ИИ понимать социальные нормы и этику, но никак не давать советы. 

Хотя Delphi действительно представляет собой только исследовательский проект, специалисты предупреждают — он уже может принести больше вреда, чем пользы. Люди могут расценивать такие подсказки не как рекомендации, а воспринимать Delphi как авторитет, что может быть потенциально опасно для социума, пишет Павел Фукс.

Ранее Павел Фукс написал, что компания MyHeritage, которая предоставляет услуги по созданию генеалогического древа, выпустила бесплатный инструмент, который "оживляет" портреты людей. Эта технология получила название Deep Nostalgia. ASPI news сообщало о том, что с годами технологии создания изображений, видео и звуковых дорожек с помощью нейросетей, становятся все сложнее. К примеру, дипфейк голоса помог украсть из банка 35 млн долларов.

Все главные новости с доставкой в Ваш мессенджер Телеграм
2
последние новости в Украине останні новини в Україні Технологии

Много сказано о профессиях будущего и прогрессивного настоящего - это и дизайнер впечатлений, и архитектор эмоций, и специалист в сфере многофункционального искусственного интеллекта. Но парализованный пандемией мир остановился в логистическом коллапсе.

25 ноября, 17:12
последние новости в Украине останні новини в Україні Технологии

Для выполнения налоговых обязательств, связанных с реализацией опционов, генеральный директор и основатель компании Tesla, американский миллиардер Илон Маск "лишился" еще 934 тысяч акций производителя электромобилей. По информации Комиссии по ценным бумагам и биржам США, предприниматель реализовал "бумажек" более чем на миллиард долларов, пишет бизнесмен и меценат Павел Фукс.

24 ноября, 19:48
последние новости в Украине останні новини в Україні Технологии

Билл Гейтс, №2 в списке богатейших людей Forbes объединился с №10 из того же списка Уорреном Баффетом для создания инновационной атомной электростанции. Она изменит правила игры в энергетической отрасли. 

20 ноября, 10:09
последние новости в Украине останні новини в Україні Технологии

Ученые предполагают, что различные группы крови появились раньше, чем расы. И на момент, когда начали происходить расовые изменения, большинство людей были обладателями I (0) группы крови. Об этом пишет бизнесмен и меценат Павел Фукс.

16 ноября, 16:45
последние новости в Украине останні новини в Україні Технологии

В прошлую пятницу, 12 ноября, производитель космической техники SpaceX впервые провел успешные испытания всех шести двигателей Raptor ракеты Starship SN20, которая должна заменить пока стоящие на "вооружении" ракеты-носители Falcon компании американского инженера Илона Маска. Испытание длилось всего несколько секунд, но впервые все двигатели ракеты работали вместе.

15 ноября, 18:09
последние новости в Украине останні новини в Україні Технологии

Пользователи больше не смогут удалить Covid-сертификаты в новой версии приложения "Дія". Минцифры убрало функцию "Удалить" из-за жалоб украинцев, которые, случайно нажав на нее, лишались своих сертификатов.

12 ноября, 20:01
последние новости в Украине останні новини в Україні Технологии

В 1993 году во всем мире насчитывалось всего 14 миллионов интернет-пользователей. Сегодня же 14 миллионов — только в Чили, 37-й стране по площади и 64-й по населению и сейчас уже более 5 млрд человек пользуются интернетом. 

12 ноября, 17:39
последние новости в Украине останні новини в Україні Технологии

Астрофизики планируют запуск космического телескопа для поиска новых обитаемых миров. Эта идея была презентована в отчете "Astro2020", который является частью плана Decadal Survey, где обозначены научные цели и миссии американских ученых на ближайшие 10 лет.

10 ноября, 17:01
последние новости в Украине останні новини в Україні Технологии

Американский инженер-предприниматель, генеральный директор компании "Tesla" и и "SpaceX" Илон Маск способен совершить самую настоящую революцию в сфере криптовалют лишь одним, казалось бы, ничего не значащим твитом в социальных сетях. Об этом пишет бизнесмен и меценат Павел Фукс.

4 ноября, 17:02
последние новости в Украине останні новини в Україні Технологии

Ученые утверждают, что к концу века нашей планете грозит повышение температуры на 2,6°C. Предотвращение надвигающейся климатической катастрофы будет в центре внимания лидеров 200 стран, которые встретились в Глазго на масштабной Конференции ООН по вопросам изменения климата COP26. 

3 ноября, 17:00

Новости «Технологии»

последние новости в Украине останні новини в Україні Технологии

Много сказано о профессиях будущего и прогрессивного настоящего - это и дизайнер впечатлений, и архитектор эмоций, и специалист в сфере многофункционального искусственного интеллекта. Но парализованный пандемией мир остановился в логистическом коллапсе.

25 ноября, 17:12
последние новости в Украине останні новини в Україні Технологии

Для выполнения налоговых обязательств, связанных с реализацией опционов, генеральный директор и основатель компании Tesla, американский миллиардер Илон Маск "лишился" еще 934 тысяч акций производителя электромобилей. По информации Комиссии по ценным бумагам и биржам США, предприниматель реализовал "бумажек" более чем на миллиард долларов, пишет бизнесмен и меценат Павел Фукс.

24 ноября, 19:48
последние новости в Украине останні новини в Україні Технологии

Билл Гейтс, №2 в списке богатейших людей Forbes объединился с №10 из того же списка Уорреном Баффетом для создания инновационной атомной электростанции. Она изменит правила игры в энергетической отрасли. 

20 ноября, 10:09
последние новости в Украине останні новини в Україні Технологии

Ученые предполагают, что различные группы крови появились раньше, чем расы. И на момент, когда начали происходить расовые изменения, большинство людей были обладателями I (0) группы крови. Об этом пишет бизнесмен и меценат Павел Фукс.

16 ноября, 16:45