一家領(lǐng)先的研究中心呼吁制定新法律,以限制使用情緒檢測技術(shù)。
AI Now Institute表示,該領(lǐng)域“建立在明顯不穩(wěn)定的基礎(chǔ)上”。
盡管如此,仍在銷售系統(tǒng),以幫助求職者,測試犯罪嫌疑人的欺騙跡象并確定保險價格。
它希望禁止此類軟件在影響人們生活和/或確定人們獲得機(jī)會的重要決策中使用。
這家總部位于美國的機(jī)構(gòu)已從一家開發(fā)自己的情緒響應(yīng)技術(shù)的公司的創(chuàng)始人那里獲得了英國的支持-但它警告說,任何限制都需要細(xì)微差別,以免妨礙該地區(qū)的所有工作。
AI Now 在其年度報告中用正式名稱來指代該技術(shù),影響識別度。
該公司表示,該行業(yè)正處于一個顯著增長期,其市值可能已高達(dá)200億美元(153億英鎊)。
聯(lián)合創(chuàng)始人凱特·克勞福德教授解釋說:“它聲稱,如果愿意的話,它可以通過解釋面部的微表情,聲音的語氣甚至行走的方式來讀取我們的內(nèi)在情緒狀態(tài)?!?br />
“從您如何聘請完美的員工到評估患者的痛苦,再到跟蹤哪些學(xué)生在課堂上受到關(guān)注,它已被廣泛使用。
“在推出這些技術(shù)的同時,大量研究表明……沒有實(shí)質(zhì)性證據(jù)表明人們在您所感受到的情緒與您的臉部表情之間有著這種一致的關(guān)系?!?br />
克勞福德教授認(rèn)為,問題的部分原因是一些公司將其軟件建立在心理學(xué)家保羅·埃克曼(Paul Ekman)的基礎(chǔ)上,他在1960年代提出,面部表情只能表達(dá)六種基本情緒。
但是,她補(bǔ)充說,隨后的研究表明,無論是在情緒狀態(tài)的數(shù)量還是人們表達(dá)情緒的方式上,變異性都更大。
她說:“它會因文化,情況甚至一天而變化?!?br />
AI Now提供了一些公司在銷售情感檢測產(chǎn)品的示例,其中一些已經(jīng)做出了回應(yīng)。
Oxygen Forensics因向警方提供情緒檢測軟件而被引薦,但對此進(jìn)行了辯護(hù)。
該公司首席運(yùn)營官李·里伯(Lee Reiber)表示:“能夠檢測到憤怒,壓力或焦慮等情緒,這種能力為執(zhí)法機(jī)構(gòu)提供了更多的見解?!?br />
“最終,我們相信,負(fù)責(zé)任地應(yīng)用這項(xiàng)技術(shù)將成為使世界更安全的一個因素?!?br />
另一個例子是HireVue,它出售基于AI的基于視頻的工具,以推薦公司應(yīng)采訪哪些候選人。
它使用第三方算法來檢測申請人微觀表達(dá)中的“情感參與”,以幫助做出選擇。
警告:第三方內(nèi)容可能包含廣告
女發(fā)言人金·潘恩對路透社說:“許多求職者都從HireVue的技術(shù)中受益,可以消除現(xiàn)有招聘過程中非常嚴(yán)重的人為偏見?!?br />
還提到了Cogito,該公司已為呼叫中心人員開發(fā)了語音分析算法,以幫助他們發(fā)現(xiàn)客戶何時陷入困境。
該公司首席執(zhí)行官約書亞·費(fèi)斯特(Joshua Feast)告訴英國廣播公司,“在情感檢測可以自行做出自動決策之前,該行業(yè)需要更多證據(jù)證明機(jī)器實(shí)際上可以有效,一致地檢測到人類的情感?!?br />
“今天可以做的是,評估代表某些情緒的行為,并向人類提供情報,以幫助他們做出更明智的決定。對于明天和未來,這取決于該領(lǐng)域的所有從業(yè)者和領(lǐng)導(dǎo)者。進(jìn)行合作,研究和開發(fā)解決方案,這些解決方案有助于增進(jìn)更深入的共識,最終將導(dǎo)致彼此之間建立更緊密的聯(lián)系-不是因?yàn)榧夹g(shù),而是因?yàn)樗??!?br />
英國廣播公司還要求其他一些命名的公司發(fā)表評論,但沒有得到答復(fù)。
Emteq是一家位于布萊頓的公司,試圖將情緒檢測技術(shù)集成到虛擬現(xiàn)實(shí)耳機(jī)中,但并未引起關(guān)注。
它的創(chuàng)始人說,盡管當(dāng)今的AI系統(tǒng)可以識別不同的面部表情,但要推斷出受試者的內(nèi)在情緒狀態(tài)是一件簡單的事情。
查爾斯·恩杜卡(Charles Nduka)解釋說:“人們需要理解進(jìn)行情感表達(dá)的環(huán)境?!?br />
“例如,一個人之所以會皺眉,不是因?yàn)樗麄兩鷼饬?,而是因?yàn)樗麄冋诩芯蛘哧柟饷髅牟⑶宜麄冊噲D遮住眼睛。上下文是關(guān)鍵,而這就是你不能僅僅獲得的從看著臉部的計算機(jī)視覺映射。”
他也認(rèn)為有必要規(guī)范這項(xiàng)技術(shù)的使用。
但是他對此表示關(guān)注,因?yàn)檫@樣做,議員們并沒有限制他和其他人在醫(yī)學(xué)領(lǐng)域嘗試使用情緒檢測軟件的工作。
他說:“如果要禁止一切,人們不要將嬰兒的洗澡水扔出去,這是非常重要的?!?a target="_blank">YouTube禁止“惡意侮辱和掩蓋威脅”