더 나가면 통제 못합니다"…노벨상 수상자·AI 과학자 3천명, 초지능 개발 중단 촉구

 

"더 나가면 통제 못합니다"…노벨상 수상자·AI 과학자 3천명, 초지능 개발 중단 촉구

노벨상 수상자와 세계적 AI 석학, 글로벌 기업가, 왕실 인사들이 한목소리로 “초지능(superintelligence) 개발을 멈춰야 한다”는 공동성명을 발표했다. 인간의 인지 능력을 뛰어넘는 인공지능이 통제 불능 상태에 이를 수 있다는 우려 때문이다.

힌턴·벤지오 등 ‘AI 대부’급 과학자 대거 참여

22일(현지시간) 공개된 성명에는 제프리 힌턴(Geoffrey Hinton) 토론토대 석좌교수와 오슈아 벤지오(Yoshua Bengio) 몬트리올대 교수 등 작년 노벨 물리학상 공동 수상자이자 AI ‘대부’로 불리는 인물들이 참여했다. 이외에도 리처드 브랜슨(버진그룹 창업자), 스티브 워즈니악(애플 공동창업자) 등 기술계 거물과 글로벌 리더들이 서명에 동참했다.

이들은 성명에서 “초지능은 인간의 자유와 존엄, 통제권, 나아가 생존 자체를 위협할 수 있다”며 “AI가 사회·경제적 구조 전반을 지배하기 전에 안전 설계와 통제에 대한 과학적 합의가 필요하다”고 강조했다.

3,000명 이상 서명…정치·왕실·종교계까지 확산

이번 성명은 기술계를 넘어 정치, 종교, 언론, 왕실 인사들까지 폭넓은 지지를 받았다. 참여자에는 영국 해리 왕자와 메건 마클 공작부인, 수전 라이스 전 백악관 안보보좌관, 스티브 배넌 전 트럼프 보좌관, 메리 로빈슨 전 아일랜드 대통령 등이 포함됐다. 현지시간 22일 오후 기준 서명자는 3200명을 돌파했다.

성명서는 “초지능은 단순한 기술 발전이 아니라 인류 문명의 방향을 바꾸는 문제”라며 “국제사회가 법적·윤리적 장치를 마련하기 전까지 개발을 중단해야 한다”고 주장했다.

오픈AI·메타 등 ‘초지능 경쟁’ 가속화

AI 업계는 이미 초지능 경쟁에 돌입했다. 메타는 초지능 전담 연구소 ‘슈퍼인텔리전스 랩(Super Intelligence Lab)’을 설립하며 150억 달러를 투입했고, 오픈AI는 GPT-5 출시와 함께 범용 AI(AGI) 개발을 가속화하고 있다. 테슬라 CEO 일론 머스크가 창립한 xAI 또한 인간 수준 이상의 인지 능력을 갖춘 AI 연구를 공개적으로 진행 중이다.

벤지오 교수는 성명에서 “몇 년 안에 AI가 인간의 인지 영역 대부분을 능가할 수 있다”며 “AI가 인간을 해치지 않도록 하는 구조를 과학적으로 증명해야 한다”고 경고했다. 그는 “이 문제는 기술이 아니라 인류의 생존에 관한 문제”라며 시민 사회의 적극적 참여를 촉구했다.

초지능 논란 속 메타, 인력 600명 감축

공동성명이 발표된 같은 날, 메타는 AI 조직의 효율화를 이유로 600명 규모의 인력 감축을 단행했다. 알렉산더 왕 메타 최고 AI 책임자는 내부 메모에서 “조직 의사결정 속도를 높이고 책임성을 강화하기 위한 조치”라고 밝혔다. 전문가들은 이번 조치를 “초지능 개발 경쟁을 위한 내부 정비”로 해석했다.

AI 안전 논의, 윤리와 거버넌스 중심으로

전문가들은 이번 사건을 계기로 AI의 발전 방향이 “속도보다 안전”으로 이동할 것으로 보고 있다. 기술 혁신을 지속하되, AI 거버넌스·윤리·통제 기술이 병행되어야 한다는 목소리가 커지고 있다. AI의 책임성과 투명성을 확보하지 못하면, 향후 사회적 불신과 기술 거부감이 커질 수 있다는 지적이다.

힌턴 교수는 “AI는 지금까지의 모든 기술 중 가장 빠르게 인간의 능력을 대체하고 있다”며 “이제는 발전보다 통제가 더 시급한 시점”이라고 경고했다.

 

반응형