AI에 초점을 맞춘 여성 학계인들과 다른 분야에서 그 동안 충분히 인정받지 못한 핵심 작업을 강조하기 위해 TechCrunch는 AI 혁명에 기여한 탁월한 여성을 주목하는 인터뷰 시리즈를 게시해왔습니다. AI 붐이 계속되는 동안 이러한 프로필을 많이 배포하고 있으며 종종 인식되지 못한 중요한 작업을 강조합니다. 더 많은 프로필은 여기에서 읽을 수 있습니다.

Sarah Myers West는 AI Now 연구소의 매니징 디렉터로서, 기술 산업의 권력 집중과 관련된 AI의 사회적 영향 및 정책 연구를 수행하는 미국의 연구소입니다. 그녀는 이전에 미국 연방무역위원회에서 인공지능에 대한 고문으로 근무했으며 현재 미국 Northeastern 대학에서 방문 연구과학자로 활동 중이며 동시에 Cornell의 시민과 기술 연구소의 연구 기여자로 활동하고 있습니다.

간단히 말해서, 어떻게 AI 분야에서 시작했나요? 그 분야에 끌린 이유는 무엇인가요?

지난 15년 동안 나는 U.S. 기술 기업이 국제적 지배의 최전선에서 등장함에 따라 강력한 정치적 주체로서의 역할을 취하는 것을 심층적으로 연구해왔습니다. 이전의 경력에서, 미국 기술 기업들이 동남아시아, 중국, 중동 등 전 세계에서 어떻게 새로운 모습으로 나타나 시政治적 풍경을 변화시켰는지 직접 관찰할 기회를 가지고 있었으며, 기술 기업의 로비 활동과 규제가 실천상 이론적으로 이론적으로 대안을 제공하면서도 실제로 그러한 대안이 구현되지 못한 인터넷의 감시 비즈니스 모델의 기원을 어떻게 형성했는지에 대해 책을 썼습니다.

내 생애 많은 순간들에서 나는 '왜 우리는 매우 디스토피아적인 미래에 갇히게 되는 걸까?'라는 의문을 가졌습니다. 그 답은 기술 자체와는 별개이며 공공 정책과 상용화와 관련이 많습니다.

그것이 사실상 나의 프로젝트가 되었고, 나는 그 이래로 계속 이를 추구해왔습니다. 연구 경력과 지금 AI Now의 공동 디렉터로서의 정책 작업에서도 그렇습니다. 만약 AI가 우리의 일상생활의 인프라 중 하나라면, 우리는 그것을 생성하는 기관을 비판적으로 검토해야 하며, 사회적 요구사항이 맨 끝에 서는 것이기 때문에 규제 또는 조직을 통해 충분한 마찰이 있다는 것을 확인해야 합니다. 테크 기업들의 것이 아니라.

AI 분야에서 가장 자랑스러운 작업은 무엇인가요?

저는 FTC에서 해낸 일에 대해 정말 자랑스러워합니다. 그것은 인공지능의 규제적 시행에서 최전선에 있는 미국 정부 기관 중 하나입니다. 저는 케이스를 처리하는 일을 좋아했습니다. 저는 연구자로써의 방법론적 훈련을 활용하여 조사 작업에 참여할 수 있었습니다. 그 툴킷은 본질적으로 같기 때문에 그 도구들을 사용하여 권력을 직접 책임질 수 있고, 그 작업이 공공에 직접적인 영향을 끼쳤을 때 그것이 만족스러웠습니다. 이것은 AI가 일자리 가치를 낮추고 가격을 올리는 데 사용되거나 대형 기술 기업들의 반경쟁적 행동과 싸움하는 방법을 다룰 때의 작업입니다.

저희는 백악관 과학기술정책국 아래에서 일하고 있는 탁월한 기술자 팀을 고용할 수 있었으며, 그 곳에서 내려 놓은 기초가 생성하는 AI의 등장과 클라우드 인프라의 중요성과 동시에 관련성을 가지고 있음을 보는 것이 흥미로웠습니다.

AI가 진화함에 따라 가장 시급한 문제들은 무엇인가요?

첫째로, AI 기술은 병원, 학교, 국경 등에서 매우 민감한 맥락에서 널리 사용되고 있지만 충분히 테스트되고 유효성이 인정받지 못한 상태입니다. 이는 오류가 많이 발생하는 기술임을 우리는 독립적인 연구로부터 알고 있고, 이러한 오류는 공평하게 분배되지 않으며 흑인 계층의 인종 차별을 장기간 피해를 입었던 지역사회에게 불균형적으로 피해를 입힙니다. 우리는 훨씬 더 높은 기준을 설정해야 합니다. 그러나 나에게 더 큰 문제로 보이는 것은 강력한 기관들이 AI를 사용하고 있지만 AI가 작동하는지 여부는 상관이 없으며, 가자 상황을 정당화하기 위해 사용하고 있는 것입니다. 가자 상황은 기술의 문제가 아니라 의사소통의 문제입니다. 기술 주변의 문화를 어떻게 정의하느냐라는 문제와 AI가 관련되어 있다면, 특정 선택이나 행동이 더 '객관적'으로 혹은 어떻게든 우회되는 것 같아짐을 바라지 않는지 등을 고민해야 합니다.

AI를 책임있게 구축하는 가장 좋은 방법은 무엇인가요?

우리는 항상 출발점에서 물론부터 시작해야 합니다: 왜 AI를 구축해야 하는가? 인공지능을 사용해야 하는 필요성은 무엇이며, AI 기술이 그 목적에 적합한가요? 때로는 더 나은 것을 만들어야 하는 대답일 수 있으며, 그런 경우에는 개발자들은 법과의 일치, 시스템의 강력한 문서화 및 인증, 열린 것과 투명하게 만들 수 있는 것을 확실히 해야 하며, 그렇게하여 독립적인 연구자들도 동일한 일을 할 수 있도록 해야 합니다. 그러나 때로는 아예 구축하지 않아야 하는 경우도 있습니다: '책임있게 구축된' 무기나 감시 기술이 필요하지 않습니다. 최종 사용은 이 질문에 중요하며, 이것이 우리가 시작해야 하는 곳입니다.