\n메타는 수요일에 전적으로 백인 남성으로 구성된 AI 자문위원회를 발표했습니다. 다른 예상이 무엇일까요? 여성과 유색인들은 수십 년 동안 인공지능의 세계에서 무시되고 배제된다고 말해왔으며, 그들은 자격이 있으며 이 공간의 진화에 중요한 역할을 한 것임에도 불구하고.
\n메타는 자문위원회의 다양성에 대한 의견을 달라는 요청에 즉각적으로 응답하지 않았습니다.
\n이 새로운 자문위원회는 메타의 실제 이사회와 감사 이사회와는 다르며, 성별과 인종적 대표성이 더 다양합니다. 주주들은 이 AI 자문위원회를 선출하지 않았으며, 또한 책임 관계가 없습니다. 메타는 보도에 따르면 자문위원회는 기술 발전, 혁신 및 전략적 성장 기회에 대한 '통찰과 권고를 제공할 것'이라고 말했습니다. 이것은 '정기적으로' 만날 것입니다.
\nAI 자문위원회가 사업가와 기업가로만 구성되어 있고 윤리학자나 학술 또는 심도 있는 연구 경력을 가진 사람이 아닌 것은 말이지만. 현재와 전 Stripe, Shopify 및 Microsoft 임원들은 시장에 내놓은 상당 수의 제품들을 고려하면 메타의 AI 제품 로드맵을 감독하는 데 적합하다고 주장할 수 있습니다. 그러나 AI가 다른 제품과 다르다는 것은 계속 증명되어 왔습니다. 이것은 위험한 사업이며, 오류를 범할 경우 그 결과는 특히 편견 있는 집단에게 매우 큰 영향을 미칠 수 있습니다.
\nAI에서 차이를 만드는 여성들
AI Now Institute의 경영 이사인 Sarah Myers West는 최근 TechCrunch와의 인터뷰에서, 대중의 요구를 충족시키기 위해 AI를 생산하는 기관을 '비판적으로 검토하는 것'이 중요하다고 말했습니다.
\n“이는 오류가 발생하기 쉬운 기술이며, 독립 연구에서 그 오류가 공평하게 분배되지 않음을 알고 있습니다. 그 오류는 오랜 시간 동안 차별을 당해온 공동체들을 지배할 수 있습니다.”라고 그녀는 말했습니다. “우리는 훨씬 더 높은 기준을 설정해야 합니다.”
\n여성들은 남성보다 AI의 암울한 면을 경험하기가 훨씬 더 많습니다. Sensity AI는 2019년에 인터넷에서 발견된 AI 딥 페이크 비디오 중 96%가 비동의적이고 음란한 비디오임을 발견했습니다. 생성 AI는 그 이후로 훨씬 더 보편화되었으며 여전히 이러한 해친 행위의 대상은 여성들입니다.
작년 1월에 한 사건에서 Taylor Swift의 비동의적이고 음란한 딥페이크가 X에서 바이럴을 탔는데, 가장 보급화된 게시물 중 하나가 수십만 개의 좋아요를 받았고 4500만 회가 조회되었습니다. X와 같은 소셜 플랫폼은 이러한 상황에서 여성들을 보호하는 데 실패해 왔지만, Taylor Swift가 세계에서 가장 강력한 여성 중 한 명이기 때문에 X는 "taylor swift ai"와 "taylor swift deepfake"와 같은 검색어를 금지하는 등 개입했습니다.
그러나 이런 일이 당신에게 일어나고 당신이 세계적인 팝 아이돌이 아니라면, 당신은 운이 없을지도 모릅니다. 중고등학생들이 동급생들의 몸을 빼입히거나 그들의 얼굴을 음란물에 교체하는 앱을 다운로드하는 데 기술적으로 능숙하지 않아도 됩니다. 사실 NBC의 Kat Tenbarge의 보도에 따르면 Facebook과 Instagram은 Perky AI라는 앱을 홍보하는 광고를 했는데, 이 앱은 명확한 이미지를 만드는 도구로 자신을 서라운드하는 것으로 설명되었습니다.
\nMeta에게 문제를 알릴 때까지 Perky AI가 광고를 허용한 실수는 고립된 사건이 아니었습니다. 최근 Meta의 감사 이사회는 회사가 음란하고 AI로 생성된 콘텐츠를 처리하지 못한 데 대한 조사를 시작했습니다.
\n인공지능 제품의 혁신에 여성과 유색인들의 목소리를 포함하는 것이 중요합니다. 오랫동안 이러한 포용되지 않은 집단들이 전 세계적으로 중요한 기술 및 연구의 개발에서 배제되어 왔고 결과는 파괴적이었습니다.
전통적으로 여성은 1970년대까지 임상 시험에서 배제되었으며 이로 인해 전체 연구 분야가 여성에게 어떤 영향을 줄지 이해하지 못한 채 발전해 왔습니다. 특히 흑인은 본래 고려되지 않은 기술의 영향을 보고 있습니다. 예를 들어, 조지아 공과 대학이 2019년에 수행한 연구에 따르면 자율주행 자동차는 흑인 피부를 감지하기가 더 어려울 수 있기 때문에 흑인을 더 자주 충돌 대상으로 지정할 가능성이 높습니다.
이미 편협한 데이터로 훈련된 알고리즘만은 인간이 채택하도록 훈련시킨 동일한 편견을 반복합니다. 일반적으로 AI 시스템은 취업, 주택 및 형사 사법분야에서 인종 차별을 계속하여 증폭시키고 있습니다. 음성 어시스턴트는 각양각색의 사후를 이해하는 데 어려움을 겪고 종종 영어가 모국어인 사람의 작업을 AI로 판독한다고 합니다. 얼굴 인식 시스템은 흑인을 범죄 용의자와 일치할 가능성이 백인보다 더 많이 플래그를 세웁니다.
\n현재 AI의 개발은 클래스, 인종, 성별 및 유럽 중심주의에 관한 이미 있는 권력 구조를 대변하고 있으며, 충분한 리더가 그것을 다루지 않고 있는 것 같습니다. 그들은 그것을 강화하고 있는 것입니다. 투자자, 설립자 및 기술 리더들이 빠르게 움직이고 문제를 발생시키기만 한다는 것을 이해할 수 없는 것처럼 보이지만, 현재 가장 핫한 AI 기술인 생성 AI는 문제를 악화시킬 수 있다는 사실을 이해하지 못할지도 모릅니다. McKinsey의 보고에 따르면, AI는 4년제 학위 이상이 필요하지 않고 연간 $42,000 이상을 받는 모든 직업의 약 절반을 자동화할 수 있으며, 이러한 직업은 소수 노동자가 과대표됩니다.
\n세계 최고의 기술 기업 중 하나에서 모든 인종이 모인 팀이 이 AI를 사용하여 세상을 구하기 위한 경쟁에 참여하는 것에 대해 걱정이 필요합니다. 한 좁은 인구 집단만 대표할 때 어떻게 모든 사람을 위한 제품을 조언할 수 있을까요? 실제로 모든 사람이 사용할 수 있는 기술을 구축하는 데는 방대한 노력이 필요할 것으로 보입니다. 사실, 연구부터 교차 사회 수준에서의 이해까지 실제로 안전하고 포용적인 AI를 구축하기 위해서는 필요한 층이 너무 복잡하여 이 자문위원회가 메타가 올바르게 처리하는 데 도움이 되지 않을 것임은 거의 명백합니다. 적어도 메타가 에러를 범한 경우, 다른 스타트업이 나타날 수 있습니다.
\n우리는 AI 뉴스레터를 시작합니다! 여기서 6월 5일부터 이메일로 수신을 시작하십시오.
