Систему розпізнавання емоцій можуть заборонити
Системи розпізнавання емоцій запропонували тимчасово заборонити. Про це йдеться в річному звіті інституту AI Now в Нью-Йорку. На думку вчених, технологія поки має «мало наукової основи», тому її не слід використовувати в рішеннях, «які впливають на життя людей».
Незважаючи на відсутність наукових доказів про те, що машини постійно і правильно розпізнають емоції людей, цей ринок вже оцінюється в 20 млрд. доларів і швидко росте. Зараз технологія вже використовується для оцінки претендентів на робочі місця і осіб, підозрюваних у скоєнні злочинів. Причому системи тестуються і в інших областях - наприклад, в гарнітурах VR, щоб визначити емоційний стан спортсменів.
Крім того, вчені турбуються, що технологія може посилювати расове і гендерну нерівність. «Регулюючі органи повинні втрутитися, щоб серйозно обмежити використання систем, а компаніям, які займаються штучним інтелектом, слід припинити його впровадження», - відзначають в AI Now.
Зокрема, вчені послалася на недавнє дослідження Асоціації психологів США, в ході якого протягом двох років вивчався більше тисячі статей за визначенням емоцій. Вони зробили висновок, що для визначення емоцій недостатньо проаналізувати тільки обличчя людини, а потрібно набагато більше даних.
У своїй доповіді AI Now закликала уряди і бізнес припинити використання технології розпізнавання осіб до тих пір, поки ризики не знизяться, а технологія не стане більш просунутою. Компанії, які просувають такі системи, вчені звинуватили в розповсюдженні «системного расизму і жінконенависництва».
Незважаючи на відсутність наукових доказів про те, що машини постійно і правильно розпізнають емоції людей, цей ринок вже оцінюється в 20 млрд. доларів і швидко росте. Зараз технологія вже використовується для оцінки претендентів на робочі місця і осіб, підозрюваних у скоєнні злочинів. Причому системи тестуються і в інших областях - наприклад, в гарнітурах VR, щоб визначити емоційний стан спортсменів.
Крім того, вчені турбуються, що технологія може посилювати расове і гендерну нерівність. «Регулюючі органи повинні втрутитися, щоб серйозно обмежити використання систем, а компаніям, які займаються штучним інтелектом, слід припинити його впровадження», - відзначають в AI Now.
Зокрема, вчені послалася на недавнє дослідження Асоціації психологів США, в ході якого протягом двох років вивчався більше тисячі статей за визначенням емоцій. Вони зробили висновок, що для визначення емоцій недостатньо проаналізувати тільки обличчя людини, а потрібно набагато більше даних.
У своїй доповіді AI Now закликала уряди і бізнес припинити використання технології розпізнавання осіб до тих пір, поки ризики не знизяться, а технологія не стане більш просунутою. Компанії, які просувають такі системи, вчені звинуватили в розповсюдженні «системного расизму і жінконенависництва».
