협회장(AP) - OpenAI의 공동 창업자이자 CEO Sam Altman을 물러낼 노력에 참여했던 이리아 수츠케버는 안전에 중점을 둔 인공지능 회사를 시작할 계획이라고 밝혔다. 지난 달 ChatGPT 제작사를 떠난 존경받는 AI 연구자인 수츠케버는 수요일 소셜 미디어 게시물에서 두 명의 공동 창업자와 함께 Safe Superintelligence Inc.를 창립했다고 말했다. 이 회사의 목표와 초점은 인간보다 똑똑한 AI 시스템을 안전하게 개발하는 것뿐이다.

이 회사는 "관리 부담이나 제품 주기에 방해받지 않겠다"고 약속했으며, 안전과 보안에 대한 업무는 "단기적인 상업 압력으로부터 격리될 것"이라고 수츠케버와 공동 창업자인 다니엘 그로스와 다니엘 레비가 사전에 발표한 성명서에 기술되어 있다.

세 명은 Safe Superintelligence가 팔로알토, 캘리포니아, 텔 아비브에 뿌리를 둔 미국 회사로, "우리는 깊은 뿌리를 품고 최고의 기술 인재를 영입할 능력을 갖추고 있다"고 말했다.

수츠케버는 지난 해 Altman을 퇴출하려는 그룹의 일원이었다. 그는 나중에 후회했다고 밝힌 이 조직조정은 OpenAI의 리더들이 비즈니스 기회를 AI 안전보다 우선시하는지에 대한 중심 내부 불안정기로 이끈 바 있다.

OpenAI에서 수츠케버는 함께 작업한 팀이 인간보다 더 나은 AI인 '인공 일반 지능 또는 AGI'를 안전하게 개발하는 데 중점을 둔 팀을 공동으로 이끌었다. 수츠케버가 OpenAI를 떠날 때 그는 "매우 개인적으로 의미가 있는" 프로젝트에 대한 계획이 있다고 밝혔지만 세부 사항은 공개하지 않았다.

수츠케버는 OpenAI를 떠날 결정은 자신의 선택이었다고 말했다.

그의 퇴사 후 며칠 후 그의 팀 공동 리더인 얀 라이크도 사퇴하며 OpenAI를 비난했으며 안전이 "광택이 돋보이는 제품보다 밀리는 바로가기"로 변하게 두었다. OpenAI는 나중에 안전 및 보안 위원회의 구성을 발표했지만 주로 회사 내부인으로 채웠다.

협회장과 OpenAI는 허가 및 기술 협정을 가지고 있어 OpenAI가 AP의 일부 텍스트 자료에 접근할 수 있도록 허용하고 있다.