Row over AI that 'identifies gay faces'
A facial recognition experiment that claims to be able to distinguish between gay and heterosexual people has sparked a row between its creators and two leading LGBT rights groups.
게이와 이성애자를 구분해 낼 수 있다고 주장하는 안면인식 실험이 발명자와 두곳의 선도적인 성소수자 권리옹호 단체 사이에 의견대립을 촉발시켰다.
The Stanford University study claims its software recognises facial features relating to sexual orientation that are not perceived by human observers.
The work has been accused of being "dangerous" and "junk science".
But the scientists involved say these are "knee-jerk" reactions.
Details of the peer-reviewed project are due to be published in the Journal of Personality and Social Psychology.
스탠포드 대학의 연구에 의하면, 자신들이 개발한 소프트웨어가 인간 관찰자에 의해서는 인식되지 않는 성적 취향에 관한 얼굴의 특징을 인식한다고 한다.
이 작업은 "위험하고" "쓰레기같은 과학"이라고 비난 받아왔다.
하지만 관련 과학자들은 이러한 반응들이 "반사적 반응"이라고 말한다.
동료 학자들이 같이 검토한 이 프로젝트의 세부사항은 the Journal of Personality and Social Psychology에 실릴 예정이다.
Narrow jaws
For their study, the researchers trained an algorithm using the photos of more than 14,000 white Americans taken from a dating website.
They used between one and five of each person's pictures and took people's sexuality as self-reported on the dating site.
The researchers said the resulting software appeared to be able to distinguish between gay and heterosexual men and women.
In one test, when the algorithm was presented with two photos where one picture was definitely of a gay man and the other heterosexual, it was able to determine which was which 81% of the time.
이번 연구를 위해, 연구원들은 인터넷 데이트 사이트에서 구한 14,000장 이상의 백인 미국인 사진을 활용하며 알고리즘을 훈련시켰다.
연구원들은 한 사람에게 한 장에서 다섯장 사이의 사진을 사용했고, 데이트 사이트에 스스로 기입한대로 사람들의 성적취향을 받았다.
그 결과 소프트웨어를 통해 게이와 이성애자 남녀를 구분 할 수 있는 것으로 보였다고 밝혔다.
한 테스트에서, 한 장의 사진은 확실하게 게이 남성이고 다른 한 사람은 이성애자인 두 장의 사진을 알고리즘에 대입했을때, 각각 어떤 사람인지 맞게 판정한 비율은 81%였다.
With women, the figure was 71%.
"Gay faces tended to be gender atypical," the researchers said. "Gay men had narrower jaws and longer noses, while lesbians had larger jaws."
But their software did not perform as well in other situations, including a test in which it was given photos of 70 gay men and 930 heterosexual men.
When asked to pick 100 men "most likely to be gay" it missed 23 of them.
In its summary of the study, the Economist - which was first to report the research - pointed to several "limitations" including a concentration on white Americans and the use of dating site pictures, which were "likely to be particularly revealing of sexual orientation".
여성의 경우, 이 수치는 71% 였다.
"게이의 얼굴은 성과는 이례적인 경향이 있었습니다." 연구원들은 이렇게 밝혔다. "게이 남성들은 턱이 더 좁고 코가 더 길죠. 반면, 레즈비언은 턱이 더 넓습니다."
하지만, 70명의 게이 남성과 930명의 이성애자 남성의 사진을 대입했을 경우를 포함하는 다른 상황에서도 이 소프트웨어가 잘 동작하지는 않았다.
"가장 게이일 것 같은" 남자 100명을 골라 달라고 요청했을때는 23명을 놓쳤다.
이 연구의 요약에서, 이 연구를 가장 먼저 보도했던 이코노미스트지는, 백인 미국인들에 집중했다는 점과 데이트 사이트 사진을 사용했다는 점 등 여러 "제한사항들"에 관해 지적했는데, 이는 "성적 선호도를 특별히 나타낼 수" 있었다.
'Reckless findings'
On Friday, two US-based LGBT-focused civil rights groups issued a joint press release attacking the study in harsh terms.
"This research isn't science or news, but it's a description of beauty standards on dating sites that ignores huge segments of the LGBTQ (lesbian, gay, bisexual, transgender and queer/questioning) community, including people of colour, transgender people, older individuals, and other LGBTQ people who don't want to post photos on dating sites," said Jim Halloran, chief digital officer of Glaad, a media-monitoring body.
"These reckless findings could serve as a weapon to harm both heterosexuals who are inaccurately outed, as well as gay and lesbian people who are in situations where coming out is dangerous."
금요일, 두 곳의 미국에 근거지를 둔 성소수자 옹호에 중점을 둔 인권단체는 가혹한 용어로 이 연구를 공격하며 언론 공동 성명을 발표했다.
미디어를 감시하는 단체인 Glaad의 최고 디지털 담당자인 짐 할로란은 이렇게 밝혔다. "이러한 연구는 과학이나 뉴스가 아니라, 데이트 사이트에 사진을 게시하길 원하지 않는 유색인종, 트렌스젠더, 노인, 그리고 다른 성 소수자들을 포함하는 전체 성 소수자들(레즈비언, 게이, 양성애자, 트렌스젠더, 퀴어) 공동체의 거대한 부분을 무시하고 있는 데이트 사이트에 존재하는 아름다움에 대한 기준을 묘사한 것입니다."
"이러한 무모한 결과물은 자신의 성적 취향을 드러내는 것이 위험한 상황에 놓여있는 게이와 레즈비언들 뿐만 아니라, 부적절하게 이성애자임을 드러낸 사람들 모두에게 해를 끼치는 무기로 작동할 수 있습니다."
The Human Rights Campaign added that it had warned the university of its concerns months ago.
"Stanford should distance itself from such junk science rather than lending its name and credibility to research that is dangerously flawed and leaves the world - and this case, millions of people's lives - worse and less safe than before," said its director of research, Ashland Johnson.
The Human Rights Campaign(HRC)은 자신들이 몇 개월 전 해당 대학에 이러한 우려를 경고했다고 전했다.
"스탠포드 대학은 자신들의 이름과 신뢰도를 빌려 위험스러운 결함이 있어 수백만명의 삶을 더 나쁜 상태에 놓이게 하거나 덜 안전하게 몰고가는 것에 대해 연구하기 보다는, 그런 쓰레기 과학에서 멀리 떨어져야 합니다." 해당 단체의 연구 팀장인 애쉬랜드 존슨은 이렇게 밝혔다.
The two researchers involved - Prof Michael Kosinski and Yilun Wang - have since responded in turn, accusing their critics of "premature judgement".
"Our findings could be wrong... however, scientific findings can only be debunked by scientific data and replication, not by well-meaning lawyers and communication officers lacking scientific training," they wrote.
"However, if our results are correct, Glaad and HRC representatives' knee-jerk dismissal of the scientific findings puts at risk the very people for whom their organisations strive to advocate."
마이클 코신스키 교수와 이룬 왕 교수, 두 관련 연구자들은 비평가들을 "섣부르게 판단했다"며 연이어 비판하고 있다.
"우리의 결과물이 잘못되었을 수도 있습니다. 하지만, 과학적 결과물은 과학적 데이타와 반향으로 잘못되었다고 밝혀질 수 있죠. 과학적 훈련이 부족한, 좋은뜻으로 행동하는 변호사들과 홍보 책임자들에 의해서 될 수 있는 것은 아닙니다."
"하지만, 만일 저희 결과가 맞으면, Glaad와 HRC 대변인들의 과학적 결과물을 묵살하는 반사적 반응이 자신들의 단체가 변호하려고 노력하는 바로 그 사람들을 위험에 놓이게 하죠."
'Treat cautiously'
Previous research that linked facial features to personality traits has become unstuck when follow-up studies failed to replicate the findings. This includes the claim that a face's shape could be linked to aggression.
One independent expert, who spoke to the BBC, said he had added concerns about the claim that the software involved in the latest study picked up on "subtle" features shaped by hormones the subjects had been exposed to in the womb.
얼굴의 특징을 성격 특성과 연관시켰던 이전의 연구는 추가적인 연구를 통해 이 결과를 동일하게 내놓는 데 실패하자 일축되었다. 이는 얼굴 형태가 공격성에 연결되어 있다는 주장을 포함한다.
독자적으로 활동하는 한 전문가는, 비비씨와의 인터뷰에서, 가장 최근 연구에 연관된 소프트웨어가 연구대상자들이 자궁 속에서 노출되었던 호르몬에 의해 형태가 만들어진 "미묘한" 측면을 근거로 선택했다는 주장에 관한 우려를 더했다고 말했다.
"These 'subtle' differences could be a consequence of gay and straight people choosing to portray themselves in systematically different ways, rather than differences in facial appearance itself," said Prof Benedict Jones, who runs the Face Research Lab at the University of Glasgow.
It was also important, he said, for the technical details of the analysis algorithm to be published to see if they stood up to informed criticism.
"New discoveries need to be treated cautiously until the wider scientific community - and public - have had an opportunity to assess and digest their strengths and weaknesses," he said.
"얼굴 모양 그 자체의 차이보다 체계적으로 다른 방식을 통해 자기자신을 묘사하기로 선택할때, 이러한 '미묘한' 차이는 게이와 이성애자를 가르는 결과가 나올 수 있습니다." 글래스고 대학에서 Face Research Lab을 운영하고 있는 베네딕트 존스 교수는 이렇게 밝혔다.
그는, 제기된 비판에 맞설지를 판단하기 위해 분석 알고리즘의 기술적 세부사항이 발표될 것인지도 중요하다고 밝혔다.
"새로운 발견은 더 광범위한 과학 공동체와 대중들이 그것들의 장,단점을 평가하고 소화시킬 기회를 가질 때까지 조심해서 다룰 필요가 있죠." 그는 첨언했다.
*원문은 하기 링크를 참조하세요(pls. find original link in the following)