일론 머스크와 인공지능 전문가 및 업계 임원 그룹이 사회와 인류에 대한 잠재적 위험을 언급하며, 오픈AI의 최신 모델 GPT4보다 더 강력한 시스템에 대한 6개월 훈련 중단을 요구하는 공개 서한을 발표했다고 29일(현지시각) 로이터 통신이 보도했다.

이 편지는 비영리 생명의 미래 연구소(Future of Life Institute)가 발행하고 머스크, 스테빌리티 AI(Stability AI) CEO 에마드 모스타크와 알파벳 소유의 딥마인드(DeepMind)의 연구원, AI 전문가인 요수아 벤지오와 스튜어트 러셀 등 1,000여 명이 서명했다.

이들은 이러한 설계를 위한 공유된 안전 규약이 전문가에 의해 개발, 시행, 감사될 때까지 고급 인공지능 개발에 대한 중단을 요청했다.

이 편지는 "강력한 인공지능 시스템은 그들의 효과가 긍정적이고, 그들의 위험을 관리할 수 있을 것이라는 확신이 있을 때 개발되어야 한다"라고 말했다.

이 서한은 27일 유럽연합 경찰기관인 유로폴이 ChatGPT와 같은 고급 인공지능에 대한 윤리적, 법적 우려들에 대한 염려를 나타낸 데 이어서 발표됐다. 이는 시스템이 사기(phishing) 시도, 허위 정보 및 사이버 범죄에서의 잠재적인 남용에 대한 경고였다.

[로이터/연합뉴스 제공]

자동차 제조업체인 테슬라(Tesla)의 일론 머스크는 자동 조종 시스템을 위해 AI를 사용하고 있으며, AI에 대한 우려에 대해 목소리를 높여왔다.

작년 출시 이후, 마이크로소프트가 지원하는 오픈AI의 챗GPT은 경쟁사들로 하여금 유사한 대형 언어 모델 개발을 가속화하도록 자극했고, 회사들은 생성 AI 모델을 자사의 제품에 통합했다.

오픈AI의 최고 경영자 샘 알트먼은 그 편지에 서명하지 않았다고 퓨처 오브 라이프의 대변인이 로이터 통신에 말했다.

뉴욕 대학의 명예 교수 게리 마커스는 "이 편지는 완벽하지 않지만, 정신은 옳다. 우리는 우리가 그 영향을 더 잘 이해할 때까지 천천히 할 필요가 있다" 라고 말했다.

덧붙여 "그것들은 심각한 피해를 입힐 수 있다. 빅 플레이어들은 자신들이 하는 일에 대해 점점 더 비밀스러워지고 있으며, 이는 구체적으로 어떤 해가있을 것인지에 대해 사회가 방어하기 어렵게 만든다"라고 말했다.