AI와 다양성의 문제 #AI #다양성 #찬반
과연 AI의 사용이 직장에서의 공정성, 다양성에 도움을 줄까, 아니면 폐해를 줄까하는 재미있는 글이 FASTCOMPANY에 올라와 있다. 매우 따끈따근하다. Spotify의 인사최고책임자인 Katarina Berg 가 기고한 글이다. 누군지는 잘 모르겠지만 말이다.
이 글에서 주장하는 찬/반을 요약해 본다.
- AI가 과연 공정할 수 있는가? 인간의 데이터로 학습한 AI는 인간이 편향된 만큼, 더욱 편향될 수 있다는 사실이다.
- AI 설계자는 고학력 남성이 대부분이다
- 반면 AI를 통해 구성원들이 얼마나 다른 사람에게 포용적인지 확인해 낼 수 있다. 물론 이메일을 확인하거나, 챗팅에서 그 사람이 어떤 표현을 즐겨 하는지를 분석하기 위해서 개인정보에 접근해야 하지만 말이다
- 성과측정에는 아주 객관적으로 AI가 도움을 줄 수 있을 것이다. 왜냐면, AI는 그가 남성인지, 여성인지, 상사에게 아부를 하는지 등에는 관심이 없기 때문이다.
흥미있는 글이다 아마도 이제 이런 주제를 챗GPT에 그냥 시키면 유사한 답이 나오지 않을까? 테스트를 해 봐야 겠다.
These are the pros and cons of using algorithms to improve workplace fairness.
인공 지능(AI)만큼 많은 관심과 논란을 불러일으키는 주제는 거의 없습니다.
작년 한 해에만 자율주행차, 얼굴 및 음성 인식, 신용 평가, 채용을 위한 AI 애플리케이션에 대한 열띤 반응과 격렬한 비판을 목격했습니다.
그러나 한 가지 분명한 사실은 AI가 우리 곁에 있다는 것입니다. Hilke Schellmann이 이 주제에 대한 훌륭한 리뷰에서 언급했듯이, AI의 부상은 모든 부정적인 대중 반응과 이따금 발생하는 알고리즘이 불량하거나 잘못되었다는 공포 이야기에 상당히 저항하는 것처럼 보입니다. 따라서 AI에 반대하기보다는 AI와 함께 작업할 방법을 찾는 것이 좋습니다.
이것은 AI의 함정을 제거하거나 완화하려는 시도를 포기하는 것을 의미하지 않습니다.
꽤 대조적 인 것. 리더와 개발자는 엄격한 규정을 마련하고 적절한 윤리적 지침을 준수하여 발전을 위해서만 AI가 채택되도록 해야 합니다. 즉, 모든 사람, 특히 역사적으로 불리한 그룹과 개인에게 더 나은 전망을 의미합니다.
이것은 AI가 불우한 개인(주로 외집단의 사람들)이 동등하게 가질 수 있다는 목표를 가지고 직장에서 공정성을 개선하기 위한 주요 조직적 노력을 나타내는 DEIB(다양성, 형평성, 포함 및 소속) 개입에 어떻게 영향을 미칠 수 있는지에 대한 질문을 제기합니다. 기회에 접근할 수 있고 편견이나 차별을 받지 않습니다. 여기서 우리는 흥미로운 역설을 관찰합니다. AI가 가져올 수 있는 기회와 대부분의 사람들이 두려워하는 분명한 위험이 있습니다.
위험 측면에서 우리는 우려해야 할 몇 가지 실제적인 이유를 봅니다.
편견 없는 데이터를 사용하여 인간의 편견 극복 USING UNBIASED DATA TO OVERCOME HUMAN BIAS
인간은 설계에 편향되어 있습니다. 빠르게 생각하고 일반화하고 성급하게 결론을 내림으로써 정보의 빈칸을 채우는 우리의 성향은 사회 생활의 모든 영역에서 편재하는 편향을 설명합니다.
아무리 무의식적인 편견 훈련을 해도 인간을 편견 없이 만들 수는 없기 때문에 더 공정한 결정을 내리기 위해 데이터와 기술에 의존하는 것이 이치에 맞습니다. 그러나 AI는 편향되지 않은 데이터에서 학습하는 경우에만 편향되지 않을 수 있으며, 이는 얻기 어려운 것으로 악명이 높습니다.
예를 들어, AI가 직무에 적합한 후보자를 효과적으로 식별하려면 알고리즘에 성공적인 후보자에 대한 과거 데이터를 제공하거나 연료를 공급해야 합니다. 대부분의 경우 이러한 프로필은 성과가 높은 개인뿐만 아니라 관리자가 단순히 "성과가 높은" 것으로 지정한 개인으로 구성됩니다.
원칙적으로 이 공식은 인간이 나무나 신호등에 레이블을 지정하도록 AI를 훈련시키는 것과 유사하지만 인간을 "고성능"으로 지정하는 데는 훨씬 더 주관적이고 편견이 있습니다. 그런 다음 이 편향은 AI로 이전됩니다. 대량의 깨끗하거나 손상되지 않은 데이터 세트를 확보할 때까지 아날로그 세계에서 AI 세계로 구조화되고 시스템적인 편향을 이전했을 뿐임을 배제할 수 없습니다.
AI 설계 이면의 다양한 재능 부족 A LACK OF DIVERSE TALENT BEHIND THE DESIGN OF AI
다양한 팀이 작업을 수행할 때 다양성을 개선할 가능성이 높아진다는 것은 다소 명백합니다. 그러나 이것은 AI 공간에서 진정한 도전입니다.
세계 경제 포럼(World Economic Forum)에서 AI 기술을 갖춘 글로벌 전문가의 약 78%가 남성이라고 보고한 것을 고려하십시오. 편견 없는 AI 솔루션을 구축하기 위해 기술 부문은 특히 엘리트의 (종종 부당한) 성공에 기여하는 모든 잠재적 힘에 대한 인식을 얻기 위해 더 넓은 범위의 관점과 생각의 다양성이 필요합니다.
이 catch-22를 간과해서는 안 됩니다. 물고기는 물이 무엇인지 모르고 특권의 바다에서 수영을 즐기는 사람들은 AI 알고리즘을 오염시키는 잡음과 편향을 인식하지 못할 가능성이 훨씬 더 높습니다. 게다가 우리는 칠면조가 크리스마스에 투표할 것이라고 기대할 수 없으며, 현상 유지에 도전하는 사람들도 있습니다.
그러나 우리는 또한 AI가 다양성과 포용성을 높일 수 있는 상당한 기회를 보고 있습니다.
포함 진단으로 사용 USE IT AS AN INCLUSION DIAGNOSTIC
다양성도 어렵지만 포용성은 더 어렵습니다. 게다가 포용이 없는 다양성은 효과가 없으며 오히려 역효과를 낳습니다. 조직이 다양한 후보자를 유치하고 채용하더라도 그들을 현재 문화에 포함시켜 그들이 단지 용납될 뿐만 아니라 다르다는 것에 대해 칭찬받도록 하는 것은 쉽지 않습니다. 그러나 이것이 문화를 강화하는 방법입니다. 문화 적합성보다 문화 추가를 위해 고용하는 것은 정의상 다양성을 저해합니다.
알고리즘/AI를 사용하여 "포괄성"(사람들의 네트워크, 언어 사용의 숨겨진 편견 발견 등)을 모델링하거나 측정하면 실제로 조직이 문제를 진단하는 데 도움을 줄 수 있습니다. 예를 들어, 자연어 처리를 사용하여 다양한 직원이 더 부정적이거나 공격적인 단어를 사용하는지 감지할 수 있습니다. 이메일 메타데이터는 다양한 직원이 조직의 중앙 소셜 네트워크에서 제외되는지 여부를 밝힐 수 있습니다. 이메일 응답에 대한 반응 시간 측정(대기 시간)을 통해 다양한 직원이 이메일을 더 오랫동안 무시했는지 등을 밝힐 수 있습니다.
공격적인 완곡어법과 수동적-공격적 매너리즘을 발견하도록 알고리즘을 훈련할 수 있기 때문에 직관적으로 감지하기 어려운 미세한 공격도 AI를 사용하여 식별할 수 있습니다.
성능 측정 방법 개선 IMPROVE HOW WE MEASURE PERFORMANCE
이것은 틀림없이 AI를 사용하여 능력주의를 강화할 수 있는 가장 큰 기회입니다. 대부분의 소위 성과 지표(예: 연간 성과 평가, 취업 면접 평가, 심지어 360도 피드백 평가)는 정치, 족벌주의 및 특권(모든 공통적이고 만연한 편향)으로 오염되어 있기 때문에 알고리즘을 훈련하여 가치 근로자는 실제로 자신의 팀, 단위 및 조직에 추가합니다.
이를 위해서는 단순히 직원(및 리더)이 수행하는 작업과 눈에 띄는 조직 결과를 연결하는 패턴을 식별해야 하며, 이는 직원의 경력 성공과 실제 성과 또는 생산성 사이의 현재 격차를 줄일 수 있습니다. 알고리즘은 중요하지 않은 것(성별, 인종, 연령, 매력 등)을 무시하면서 중요한 것(판매, 수익, 이익, 생산성, 혁신, 참여 및 이직률)에 집중하도록 훈련될 수 있기 때문에 AI를 사용하여 성과 관리를 데이터 중심으로 만들 수 있는 절호의 기회입니다.
다양성이 디자인 자체의 일부라면 AI는 다양성에 나쁘지 않습니다. 이것은 부정적인 영향, 편향에 대한 테스트와 같은 엄격한 윤리적 기준을 수반하고 오늘날 선택이 수행되는 방식과 비교하여 결과를 개선합니다. 즉, AI가 유용하기 위해 완벽할 필요는 없습니다. 오늘날 우리가 가진 것보다 낫기만 하면 됩니다.
Katarina Berg는 Spotify의 최고 인사 책임자이자 회사의 글로벌 업무 공간 서비스 및 전략 운영 팀의 책임자이기도 합니다.
Tomas Chamorro-Premuzic은 ManpowerGroup의 수석 인재 과학자이자 Columbia University 및 University College London의 비즈니스 심리학 교수입니다. 그는 왜 그렇게 많은 무능한 남자가 리더가 되는가? (그리고 그것을 고치는 방법).