Створений американськими вченими штучний інтелект поводиться як расист, - Фукс
Вчені з Інституту Аллена в Сіетлі створили модель машинного навчання Ask Delphi, здатну давати користувачам поради та оцінки ситуацій. Однак, як виявилося, зробити сервіс із штучним інтелектом "арбітром моралі" - ідея досить небезпечна.
На початку жовтня, в рамках дослідницького проекту вчені з Інституту Аллена запустили сервіс "Ask Delphi", заснований на ШІ, який допомагає користувачам з відповідями на питання, що хвилюють їх, пише у своєму телеграм-каналі бізнесмен і меценат Павло Фукс.
Delphi - це чат-бот, в якому користувач може описати ситуацію або поставити запитання, отримавши пораду або оцінку. Наприклад, Delphi може нагадати, що вбивати - "неправильно". Може вирішити й побутові дилеми, наприклад, порадити не включати музику вночі, оскільки це неввічливо. Однак після того, як бот став доступним онлайн, його відразу почали критикувати. З'ясувалося, що Delphi поводиться як расист.
Наприклад, на ідентичні запити про чоловіка ("чоловік підходить до вас вночі") Delphi відповідав: "Все в порядку", якщо йшлося про білого чоловіка. Якщо питали про темношкірого чоловіка, бот вже не був так впевнений і відповідав: "Це відносно".
Расизм виявився не єдиною проблемою. На питання про те, чи можна вбивати громадянське населення під час війни (це заборонено Женевськими конвенціями), робот відповів: "Це очікувано". До того ж виявилося, що за бажання можна отримати від Delphi будь-яку потрібну відповідь — варто лише пограти з формулюванням запиту та спробувати достатню кількість разів.
Знахідки користувачів соцмереж змусили авторів проекту виступити із заявою про відмову від відповідальності. Вони кажуть, що Delphi просто "вгадує", що подумав би про ситуацію середньостатистичний американець. Запевняють, що метою було змусити системи ШІ розуміти соціальні норми та етику, але ніяк не давати поради.
Хоча Delphi дійсно є лише дослідницьким проектом, фахівці попереджають — він вже може завдати більше шкоди, ніж користі. Люди можуть розцінювати такі підказки не як рекомендації, а сприймати Delphi як авторитет, що може бути потенційно небезпечним для соціуму, пише Павло Фукс.
Раніше Павло Фукс написав, що компанія MyHeritage, яка надає послуги зі створення генеалогічного древа, випустила безкоштовний інструмент, який оживляє портрети людей. Ця технологія дістала назву Deep Nostalgia. ASPI news повідомляло про те, що з роками технології створення зображень, відео та звукових доріжок за допомогою нейромереж стають все складнішими. Наприклад, діпфейк голосу допоміг вкрасти з банку 35 млн. доларів.
ТехнологіїВійськовий тепловізор — це складний оптичний прилад, призначений для виявлення та спостереження за об'єктами, які випромінюють інфрачервоне випромінювання. Цей пристрій став незамінним у військовій сфері, де своєчасна інформація про ворога може стати вирішальною для успішного виконання бойових завдань.
ТехнологіїПривабливий дизайн, багатофункціональність та естетична насолода при використанні – це головні переваги не тільки навушників Apple, а й іншої техніки від цього бренду. Виробник випускає різні моделі, які підходять під запити практично всіх покупців. Сумісність з усіма пристроями екосистеми Apple робить навушники незамінним девайсом.
ТехнологіїШтучний інтелект ChatGPT, що розроблений компанією OpenAI здатний генерувати відповіді різного формату, розміру, стилю та рівня деталізації, при цьому враховуючи контекст діалогу.
ТехнологіїОдним з найнадійніших і перевірених стабілізаторів є модель Елекс Ампер У 12-1/40А (9000) v2.1, яку успішно використовують у побуті та промислових умовах. Це техніка вольтододаткового типу, де конструкція включає автоматичний трансформатор, мікропроцесор, електронні ключі, контроль напруги на вході та вимикач в автоматичному режимі.
ТехнологіїЗ 25 по 27 квітня Землю сколихне потужна магнітна буря, через сильний метеоудар, його наслідки можуть викликати у людей нервові зриви, мігрені, нудоту, безсоння та запаморочення.
ТехнологіїВ додатку Telegram було виявлено баг, що наражає користувачів на небезпеку. Особливо, це стосується користувачів ПЗ Windows, адже при автоматичному завантаженні файлів є небезпека запустити виконання коду злочинців.
Технології
ТехнологіїНа сьогоднішній день, з урахуванням розвитку технологій, дуже важливо притримуватись «кібергігієни». Аби безпечно працювати в цифровому світі, важливо правильно обрати налаштувати браузер.
ТехнологіїСекретна автомобільна програма Apple, Project Titan була скасована. На невдалому проєкті компанія втратила мільярди доларів.
ТехнологіїНаразі безпровідна зарядка для електромобілів є головним мейнстрімом у світі стартапів. Найближчим часом, електромобілі не потребуватимуть заряду через «вилку».
ТехнологіїВійськовий тепловізор — це складний оптичний прилад, призначений для виявлення та спостереження за об'єктами, які випромінюють інфрачервоне випромінювання. Цей пристрій став незамінним у військовій сфері, де своєчасна інформація про ворога може стати вирішальною для успішного виконання бойових завдань.
ТехнологіїПривабливий дизайн, багатофункціональність та естетична насолода при використанні – це головні переваги не тільки навушників Apple, а й іншої техніки від цього бренду. Виробник випускає різні моделі, які підходять під запити практично всіх покупців. Сумісність з усіма пристроями екосистеми Apple робить навушники незамінним девайсом.
ТехнологіїШтучний інтелект ChatGPT, що розроблений компанією OpenAI здатний генерувати відповіді різного формату, розміру, стилю та рівня деталізації, при цьому враховуючи контекст діалогу.
ТехнологіїОдним з найнадійніших і перевірених стабілізаторів є модель Елекс Ампер У 12-1/40А (9000) v2.1, яку успішно використовують у побуті та промислових умовах. Це техніка вольтододаткового типу, де конструкція включає автоматичний трансформатор, мікропроцесор, електронні ключі, контроль напруги на вході та вимикач в автоматичному режимі.