상원 민주당 의원들과 한 명의 무소속 의원이 OpenAI CEO 샘 알트먼에게 회사의 안전 기준과 내부 고발자에 대한 고용 관행에 관한 서한을 보냈습니다..

워싱턴 포스트가 처음 입수한 이 서한에서 가장 중요한 부분은 항목 9로, 다음과 같이 적혀 있었습니다. “OpenAI는 다음 기초 모델을 배포 전에 테스트, 검토, 분석 및 평가를 위해 미국 정부 기관에 제공하는 데 동의합니까?”

이 서한에는 11개의 추가 사항도 포함되어 있으며, 여기에는 OpenAI가 컴퓨팅 파워의 20%를 안전 연구에 할당할 것을 약속하는 것과 악의적인 행위자나 외국 적대자가 OpenAI의 AI 제품을 탈취하지 못하도록 방지하는 프로토콜을 마련하는 내용이 포함되어 있습니다.

First page of the letter from Senate Democrats. Source: The Washington Post

규제 심사

규제 심사는 OpenAI와 인공지능 분야 전체에 새로운 것이 아니지만, 민주당 의원들의 서한은 GPT-4 Omni의 출시가 지연되지 않도록 하기 위해 안전 기준이 느슨하다는 내부 고발자들의 보고에 의해 촉발되었습니다.

관련: Synchron, ChatGPT를 이용해 마비된 환자들이 다시 대화하고 문자할 수 있도록 지원

OpenAI 내부 고발자들은 또한 안전 문제를 경영진에게 제기하려는 노력이 보복과 불법적인 비밀 유지 계약으로 이어졌다고 주장했으며, 이에 따라 2024년 6월 미국 증권거래위원회에 고소장을 제출했습니다.

그 직후인 7월에, 기술 대기업인 마이크로소프트와 애플은 증가하는 규제 심사로 인해 OpenAI 이사회의 회원 자격을 포기했습니다. 마이크로소프트가 2023년에 OpenAI에 130억 달러를 투자한 것에도 불구하고 이사회 자리를 차지하지 않기로 결정했습니다.

Existential fears persist 존재적 두려움의 연속

 최근 전 OpenAI 직원인 윌리엄 샌더스는 자신이 OpenAI를 떠난 이유가 회사의 지속적인 연구가 인류에 대한 존재적 위협을 초래할 수 있다고 느꼈기 때문이라고 밝혔습니다. 그는 OpenAI의 잠재적 경로를 1912년 RMS 타이타닉 호의 참사에 비유했습니다.

샌더스는 현재 OpenAI의 ChatGPT 대형 언어 모델에는 우려하지 않았으나, 미래의 ChatGPT 버전과 고급 초인류 지능의 잠재적 개발에 대해 더 걱정하고 있다고 설명했습니다.

이 제보자는 인공지능 분야에서 일하는 직원들이 인공지능의 급속한 발전으로 인해 나타날 수 있는 잠재적으로 위험한 능력에 대해 대중에게 경고할 권리가 있다고 주장했습니다.

잡지 : AI Eye: AI는 핵 수준의 위협인가? 왜 인공지능 분야가 동시에 발전하는가, 어리석은 사진 유머