Створений американськими вченими штучний інтелект поводиться як расист, - Фукс

ср, 10/27/2021 - 16:55
последние новости в Украине останні новини в Україні

Вчені з Інституту Аллена в Сіетлі створили модель машинного навчання Ask Delphi, здатну давати користувачам поради та оцінки ситуацій. Однак, як виявилося, зробити сервіс із штучним інтелектом "арбітром моралі" - ідея досить небезпечна.

На початку жовтня, в рамках дослідницького проекту вчені з Інституту Аллена запустили сервіс "Ask Delphi", заснований на ШІ, який допомагає користувачам з відповідями на питання, що хвилюють їх, пише у своєму телеграм-каналі бізнесмен і меценат Павло Фукс.

Delphi - це чат-бот, в якому користувач може описати ситуацію або поставити запитання, отримавши пораду або оцінку. Наприклад, Delphi може нагадати, що вбивати - "неправильно". Може вирішити й побутові дилеми, наприклад, порадити не включати музику вночі, оскільки це неввічливо. Однак після того, як бот став доступним онлайн, його відразу почали критикувати. З'ясувалося, що Delphi поводиться як расист.

Наприклад, на ідентичні запити про чоловіка ("чоловік підходить до вас вночі") Delphi відповідав: "Все в порядку", якщо йшлося про білого чоловіка. Якщо питали про темношкірого чоловіка, бот вже не був так впевнений і відповідав: "Це відносно".

Расизм виявився не єдиною проблемою. На питання про те, чи можна вбивати громадянське населення під час війни (це заборонено Женевськими конвенціями), робот відповів: "Це очікувано". До того ж виявилося, що за бажання можна отримати від Delphi будь-яку потрібну відповідь — варто лише пограти з формулюванням запиту та спробувати достатню кількість разів.

Знахідки користувачів соцмереж змусили авторів проекту виступити із заявою про відмову від відповідальності. Вони кажуть, що Delphi просто "вгадує", що подумав би про ситуацію середньостатистичний американець. Запевняють, що метою було змусити системи ШІ розуміти соціальні норми та етику, але ніяк не давати поради.

Хоча Delphi дійсно є лише дослідницьким проектом, фахівці попереджають — він вже може завдати більше шкоди, ніж користі. Люди можуть розцінювати такі підказки не як рекомендації, а сприймати Delphi як авторитет, що може бути потенційно небезпечним для соціуму, пише Павло Фукс.

Раніше Павло Фукс написав, що компанія MyHeritage, яка надає послуги зі створення генеалогічного древа, випустила безкоштовний інструмент, який оживляє портрети людей. Ця технологія дістала назву Deep Nostalgia. ASPI news повідомляло про те, що з роками технології створення зображень, відео та звукових доріжок за допомогою нейромереж стають все складнішими. Наприклад, діпфейк голосу допоміг вкрасти з банку 35 млн. доларів.

Всі головні новини з доставкою в Ваш месенджер Телеграм
2
последние новости в Украине останні новини в Україні Технології

На сьогоднішній день, з урахуванням розвитку технологій, дуже важливо притримуватись «кібергігієни». Аби безпечно працювати в цифровому світі, важливо правильно обрати налаштувати браузер.

19 березня, 17:11
последние новости в Украине останні новини в Україні Технології

Секретна автомобільна програма Apple, Project Titan була скасована. На невдалому проєкті компанія втратила мільярди доларів.

12 березня, 10:32
последние новости в Украине останні новини в Україні Технології

Наразі безпровідна зарядка для електромобілів є головним мейнстрімом у світі стартапів. Найближчим часом, електромобілі не потребуватимуть заряду через «вилку». 

20 лютого, 17:30
последние новости в Украине останні новини в Україні Технології

РФ почала активно використовувати нові реактивні Shahed-238 Іранського походження.

8 лютого, 09:58
последние новости в Украине останні новини в Україні Технології

Світ ігрових аксесуарів і меблів стає все різноманітнішим, надаючи геймерам широкий вибір продуктів, створених спеціально для оптимізації ігрового досвіду. Одна з найкорисніших речей для кожного гравця, який проводить за комп’ютером багато годин поспіль, — спеціальне крісло для геймерів: якісне та зручне.

6 лютого, 22:13
последние новости в Украине останні новини в Україні Технології

Інтернет-магазин Ringoo – це унікальне місце, де зібрано велику кількість товарів різного типу. Тут є все, щоб облаштувати будинок, створити комфортні умови для роботи та розваг, а також з комфортом жити. Саме через зручність інтернет-магазину багато хто продовжує оформляти покупки в режимі онлайн, отримуючи замовлення доставкою в будь-яку точку України. Оплату завжди можна зробити по факту отримання товару та його оцінки в точці видачі.

6 лютого, 22:04
последние новости в Украине останні новини в Україні Технології

Наразі ворог має значну кількісну перевагу, тому влада активно шукає шляхи, аби перевершити РФ. На сьогодні, основним напрямком розвитку є удосконалення ШІ-технологій, які допомагатимуть масштабно знищувати ворога.

2 лютого, 16:16
последние новости в Украине останні новини в Україні Технології

Ігрові автомати Україна є найпопулярнішим видом азартних ігор, і ця популярність не припиняє зростати. Вони доступні як в онлайн-казино, так і в наземних гральних закладах.

1 лютого, 10:38
последние новости в Украине останні новини в Україні Технології

Регулярне обслуговування автомобіля – це запорука його надійної роботи та тривалого терміну служби. Серед важливих процедур, які необхідно проводити регулярно, можна виділити заміну олії та газорозподільного механізму (ГРМ). У цій статті ми розглянемо, чому ці процедури є такими важливими для здоров'я вашого автомобіля, і як компанія "СТО OILER" може допомогти вам у цьому процесі.

1 лютого, 10:38
последние новости в Украине останні новини в Україні Технології

У міру зростання ринку та конкуренції у 1998 році було введено пропозицію безплатних бездепозитних бонусних фішок, оскільки оператори жорстко боролися за домінування на ранньому ринку. У сучасному світі онлайн-гемблінгу бездепозитний бонус в казино став найпопулярнішою рекламною акцією і може бути представлений у вигляді безкоштовних обертань, безкоштовних коштів та тимчасових бонусів.

1 лютого, 10:38
Новини «Технології»
последние новости в Украине останні новини в Україні Технології

На сьогоднішній день, з урахуванням розвитку технологій, дуже важливо притримуватись «кібергігієни». Аби безпечно працювати в цифровому світі, важливо правильно обрати налаштувати браузер.

19 березня, 17:11
последние новости в Украине останні новини в Україні Технології

Секретна автомобільна програма Apple, Project Titan була скасована. На невдалому проєкті компанія втратила мільярди доларів.

12 березня, 10:32
последние новости в Украине останні новини в Україні Технології

Наразі безпровідна зарядка для електромобілів є головним мейнстрімом у світі стартапів. Найближчим часом, електромобілі не потребуватимуть заряду через «вилку». 

20 лютого, 17:30
последние новости в Украине останні новини в Україні Технології

РФ почала активно використовувати нові реактивні Shahed-238 Іранського походження.

8 лютого, 09:58