Створений американськими вченими штучний інтелект поводиться як расист, - Фукс

ср, 10/27/2021 - 16:55
последние новости в Украине останні новини в Україні

Вчені з Інституту Аллена в Сіетлі створили модель машинного навчання Ask Delphi, здатну давати користувачам поради та оцінки ситуацій. Однак, як виявилося, зробити сервіс із штучним інтелектом "арбітром моралі" - ідея досить небезпечна.

На початку жовтня, в рамках дослідницького проекту вчені з Інституту Аллена запустили сервіс "Ask Delphi", заснований на ШІ, який допомагає користувачам з відповідями на питання, що хвилюють їх, пише у своєму телеграм-каналі бізнесмен і меценат Павло Фукс.

Delphi - це чат-бот, в якому користувач може описати ситуацію або поставити запитання, отримавши пораду або оцінку. Наприклад, Delphi може нагадати, що вбивати - "неправильно". Може вирішити й побутові дилеми, наприклад, порадити не включати музику вночі, оскільки це неввічливо. Однак після того, як бот став доступним онлайн, його відразу почали критикувати. З'ясувалося, що Delphi поводиться як расист.

Наприклад, на ідентичні запити про чоловіка ("чоловік підходить до вас вночі") Delphi відповідав: "Все в порядку", якщо йшлося про білого чоловіка. Якщо питали про темношкірого чоловіка, бот вже не був так впевнений і відповідав: "Це відносно".

Расизм виявився не єдиною проблемою. На питання про те, чи можна вбивати громадянське населення під час війни (це заборонено Женевськими конвенціями), робот відповів: "Це очікувано". До того ж виявилося, що за бажання можна отримати від Delphi будь-яку потрібну відповідь — варто лише пограти з формулюванням запиту та спробувати достатню кількість разів.

Знахідки користувачів соцмереж змусили авторів проекту виступити із заявою про відмову від відповідальності. Вони кажуть, що Delphi просто "вгадує", що подумав би про ситуацію середньостатистичний американець. Запевняють, що метою було змусити системи ШІ розуміти соціальні норми та етику, але ніяк не давати поради.

Хоча Delphi дійсно є лише дослідницьким проектом, фахівці попереджають — він вже може завдати більше шкоди, ніж користі. Люди можуть розцінювати такі підказки не як рекомендації, а сприймати Delphi як авторитет, що може бути потенційно небезпечним для соціуму, пише Павло Фукс.

Раніше Павло Фукс написав, що компанія MyHeritage, яка надає послуги зі створення генеалогічного древа, випустила безкоштовний інструмент, який оживляє портрети людей. Ця технологія дістала назву Deep Nostalgia. ASPI news повідомляло про те, що з роками технології створення зображень, відео та звукових доріжок за допомогою нейромереж стають все складнішими. Наприклад, діпфейк голосу допоміг вкрасти з банку 35 млн. доларів.

Всі головні новини з доставкою в Ваш месенджер Телеграм
2
последние новости в Украине останні новини в Україні Технології

Багато сказано про професії майбутнього та прогресивного сьогодення – це і дизайнер вражень, і архітектор емоцій, і фахівець у сфері багатофункціонального штучного інтелекту. Але паралізований пандемією світ зупинився у логістичному колапсі.

25 листопада, 17:12
последние новости в Украине останні новини в Україні Технології

Для виконання податкових зобов'язань, пов'язаних із реалізацією опціонів, генеральний директор та засновник компанії Tesla, американський мільярдер Ілон Маск позбувся ще 934 тисячі акцій виробника електромобілів. За інформацією Комісії з цінних паперів та бірж США, підприємець реалізував "папірців", більш ніж на мільярд доларів, пише бізнесмен та меценат Павло Фукс.

24 листопада, 19:48
последние новости в Украине останні новини в Україні Технології

Білл Гейтс, №2 у списку найбагатших людей Forbes об'єднався з №10 із того ж списку Уорреном Баффетом для створення інноваційної атомної електростанції. Вона змінить правила гри у енергетичній галузі.

20 листопада, 10:09
последние новости в Украине останні новини в Україні Технології

Вчені припускають, що різні групи крові з'явилися раніше, ніж раси. І на момент, коли почали відбуватися расові зміни, більшість людей були власниками І(0) групи крові. Про це пише бізнесмен та меценат Павло Фукс.  

16 листопада, 16:45
последние новости в Украине останні новини в Україні Технології

Минулої п'ятниці, 12 листопада, виробник космічної техніки SpaceX вперше провів успішні випробування всіх шести двигунів Raptor ракети Starship SN20, яка має замінити ракети-носії Falcon, що поки що стоять на "озброєнні" компанії американського інженера Ілона Маска. Випробування тривало лише кілька секунд, але вперше всі двигуни ракети працювали разом.

15 листопада, 18:09
последние новости в Украине останні новини в Україні Технології

Користувачі більше не зможуть видалити Covid-сертифікати у новій версії програми "Дія". Мінцифри прибрало функцію "Видалити" через скарги українців, які, випадково натиснувши на неї, позбавлялися своїх сертифікатів.

12 листопада, 20:01
последние новости в Украине останні новини в Україні Технології

У 1993 році в усьому світі налічувалося лише 14 мільйонів інтернет-користувачів. Сьогодні ж 14 мільйонів — лише в Чилі, 37 країні за площею і 64 за населенням і зараз вже понад 5 млрд людей користуються інтернетом.

12 листопада, 17:39
последние новости в Украине останні новини в Україні Технології

Астрофізики планують запуск космічного телескопа для пошуку нових заселених світів. Ця ідея була презентована у звіті "Astro2020", який є частиною плану Decadal Survey, де позначені наукові цілі та місії американських вчених на найближчі 10 років.

10 листопада, 17:01
последние новости в Украине останні новини в Україні Технології

Американський інженер-підприємець, генеральний директор компанії "Tesla" та "SpaceX" Ілон Маск здатний здійснити справжнісіньку революцію у сфері криптовалют лише одним, здавалося б, незначним твітом у соціальних мережах. Про це пише бізнесмен та меценат Павло Фукс.

4 листопада, 17:02
последние новости в Украине останні новини в Україні Технології

Вчені стверджують, що на кінець століття нашій планеті загрожує підвищення температури на 2,6°C. Запобігання кліматичній катастрофі, що насувається, є в центрі уваги лідерів 200 країн, які зустрілися в Глазго на масштабній Конференції ООН з питань зміни клімату COP26.

3 листопада, 17:00
Новини «Технології»
последние новости в Украине останні новини в Україні Технології

Багато сказано про професії майбутнього та прогресивного сьогодення – це і дизайнер вражень, і архітектор емоцій, і фахівець у сфері багатофункціонального штучного інтелекту. Але паралізований пандемією світ зупинився у логістичному колапсі.

25 листопада, 17:12
последние новости в Украине останні новини в Україні Технології

Для виконання податкових зобов'язань, пов'язаних із реалізацією опціонів, генеральний директор та засновник компанії Tesla, американський мільярдер Ілон Маск позбувся ще 934 тисячі акцій виробника електромобілів. За інформацією Комісії з цінних паперів та бірж США, підприємець реалізував "папірців", більш ніж на мільярд доларів, пише бізнесмен та меценат Павло Фукс.

24 листопада, 19:48
последние новости в Украине останні новини в Україні Технології

Білл Гейтс, №2 у списку найбагатших людей Forbes об'єднався з №10 із того ж списку Уорреном Баффетом для створення інноваційної атомної електростанції. Вона змінить правила гри у енергетичній галузі.

20 листопада, 10:09
последние новости в Украине останні новини в Україні Технології

Вчені припускають, що різні групи крові з'явилися раніше, ніж раси. І на момент, коли почали відбуватися расові зміни, більшість людей були власниками І(0) групи крові. Про це пише бізнесмен та меценат Павло Фукс.  

16 листопада, 16:45