Systemy rozpoznawania emocji zaproponowały tymczasowy zakaz. Jest to stwierdzone w rocznym raporcie AI Now Institute w Nowym Jorku. Według naukowców technologia ta ma jak dotąd „niewielkie podstawy naukowe”, dlatego nie należy jej stosować w rozwiązaniach „mających wpływ na życie ludzi”.
Pomimo braku dowodów naukowych na to, że samochody stale i poprawnie rozpoznają ludzkie emocje, rynek ten jest już wyceniany na 20 miliardów dolarów i szybko rośnie. Teraz technologia jest już używana do oceny kandydatów do pracy i osób podejrzanych o popełnienie przestępstwa. Ponadto systemy są testowane w innych obszarach, na przykład w zestawach VR, w celu określenia stanu emocjonalnego sportowców.
Ponadto naukowcy obawiają się, że technologia może pogłębić nierówności rasowe i płciowe. „Organy regulacyjne muszą interweniować, aby poważnie ograniczyć wykorzystanie systemów, a firmy zaangażowane w sztuczną inteligencję powinny zaprzestać jej wdrażania”, zgodnie z AI Now.
W szczególności naukowcy odnieśli się do ostatniego badania przeprowadzonego przez Amerykańskie Towarzystwo Psychologiczne, podczas którego przez ponad dwa lata studiowano ponad tysiąc artykułów na temat definicji emocji. Doszli do wniosku, że do określenia emocji nie wystarczy analizować tylko twarz osoby, ale potrzeba znacznie więcej danych.
W swoim raporcie AI Now wezwał rządy i firmy do zaprzestania korzystania z technologii rozpoznawania twarzy, dopóki ryzyko nie zostanie zmniejszone, a technologia stanie się bardziej zaawansowana. Naukowcy oskarżyli firmy, które promują takie systemy rozpowszechniania „systemowego rasizmu i mizoginii”.