영국의 데이터 보호 감사원은 스냅의 AI 챗봇, 마이 AI에 대한 거의 1년에 이르는 조사를 마무리 짓고 아이들의 개인 정보 보호 위험에 대한 우려에 대한 문제 해결에 만족했다고 밝혔다. 동시에 정보 위원회(ICO)는 산업에게 일반적으로 generative AI 도구를 시장에 내놓기 전에 사람들의 권리에 대한 위험을 선제적으로 평가해야 한다고 경고했다.

GenAI는 종종 컨텐츠 생성을 중시하는 AI의 한 종류이다. 스냅의 경우, 이 기술은 사용자에게 사람과 같은 방식으로 응답할 수 있는 챗봇을 구동시키며, 텍스트 메시지와 스냅을 보내는 등의 방식으로 플랫폼이 자동 상호 작용을 제공하게 한다.

스냅의 AI 챗봇은 OpenAI의 ChatGPT에 의해 구동되지만, 해당 소셜 미디어 기업은 기본적으로 지침 프로그래밍과 연령 고려 등 다양한 보호장치를 해당 애플리케이션에 적용한다고 전했다. 이는 아동들이 연령에 맞지 않는 콘텐츠를 보는 것을 방지하기 위한 것이다. 또한 부모 단추가 통합되어 있다.

ICO의 규정 리스크 실행 이사인 스티븐 알먼드가 화요일에 발표한 성명에 따르면, '마이 AI'에 대한 조사는 산업계에 경고 신호로 작용해야 한다고 밝혔다. 'Generative AI를 개발하거나 사용하는 조직은 제품을 시장에 내놓기 전에 데이터 보호를 포함한 사람들의 권리와 자유를 엄격하게 평가하고 리스크를 객관적으로 완화해야 한다'고 말했다.

그는 덧붙였다. “우리는 리스크 평가를 계속 모니터링하고 사람들을 피해로부터 보호하기 위해 벌금을 포함한 우리의 모든 집행력을 활용할 것이다.”

지난 10월, ICO는 당시 '마이 AI'라는 generative AI 챗봇이 가지는 프라이버시 위험을 올바르게 평가하지 않았을 가능성에 대한 예비 집행 통지를 스냅에게 보냈다.

그 가을의 예비 통지가 스냅에 대한 유일한 공개적 비판인 것으로 보인다. 원칙상, 이 규정 체제는 확인된 데이터 유출 사례에는 해당 기업 연간 매출의 4%에 이르는 벌금을 부과할 수 있다.

ICO는 화요일에 조사를 마무리하고, 이후 회사가 개입에 대한 조치 후에 '마이 AI'가 가지는 위험을 보다 철저히 검토했다고 밝히며, 스냅이 제기한 우려에 대한 적절한 완화 조치를 시행했음을 보이며, 추가 조치(있는 경우)를 명시하지 않았다.(문의한 바 있다).

더 많은 세부사항은 규제 기관의 최종 결정이 나오는 내수 주간 내 발표될 것으로 보인다.

규제 기관은 “ICO는 '마이 AI'에 대한 리스크 평가가 데이터 보호법에 준수하는 것으로 판단했음을 확인했다. ICO는 '마이 AI'의 내내론을 계속 모니터링하고, 신흥 리스크가 어떻게 대응되는지를 계속 감시할 예정이다.”라고 덧붙였다.

조사를 종료한 소식에 대한 응답으로 연락한 스냅 대변인은 메시지를 보냈으며, “우리는 ICO가 마이 AI를 사용할 때 우리의 커뮤니티를 보호하기 위해 적절한 조치를 취했다는 사실을 받아들인 것을 기쁘게 생각합니다. 우리는 마이 AI의 내재되어 있는 위험을 주의 깊게 검토했지만, 평가를 더 명확히 문서화할 수 있었다는 점을 인정하고, ICO의 건설적 피드백을 반영하기 위해 글로벌 절차를 변경했습니다. ICO가 우리의 리스크 평가가 영국 데이터 보호법을 완전히 준수한다고 결론지었다는 점을 환영하며, 계속해서 건설적인 협력을 이어갈 것입니다.”라고 밝혔다.

스넵은 ICO의 개입에 대한 대응으로 시행한 완화 조치를 명시하지 않았다.

영국 규제기관은 generative AI가 계속해서 벌금기준 사안으로 남아 있다고 밝혀주었다. 개발자들에게 AI와 데이터 보호규정에 대한 지침을 제공하고 있다. generative AI 모델의 개발 및 사용에 개인 정보 보호 법이 어떻게 적용되어야 하는지에 대한 의견을 요청하는 컨설테이션이 진행 중이다.

영국은 AI에 대한 형식적인 입법을 아직 도입하지 않았지만, 정부는 ICO와 같은 규제기관이 어떤 기존 규칙이 적용되어야 하는지를 결정하는 데 의존했기 때문에, 유럽 연합의 입법자들은 AI에 대한 위험 중심의 프레임워크를 승인했으며, 이를통해 AI 챗봇에 대한 투명성 요구 사항이 포함되어있다.