도널드 트럼프 미국 대통령은 AI가 인류 멸종으로 이어질 수 있다는 우려가 없다며, 대신 중국을 앞서야 한다고 강조했다.
OpenAI와 Anthropic 내부 관계자들은 갈수록 강력해지는 AI 시스템 개발과 관련한 위험을 공개적으로 경고하고 나섰다.
미 의회에서는 양당 의원들이 첨단 AI 개발에 대한 감독을 강화하기 위한 법안을 추진하고 있다.
도널드 트럼프 미국 대통령이 AI가 인류에 실존적 위협이 될 수 있다는 경고를 일축했다. 이는 첨단 AI 연구소인 Anthropic과 OpenAI의 내부 관계자들이 기술 개발에 따른 위험을 잇달아 공개적으로 경고한 뒤 나온 발언이다.
AI가 인류 멸종으로 이어질 수 있다는 우려가 있느냐는 질문에 트럼프 대통령은 “아니다. 전혀 없다”고 답했다.
트럼프 대통령은 목요일 기자들에게 “AI에서 우리가 이기지 못하면 매우 불리한 상황에 처할 것이라는 점은 우려하고 있다”고 말했다. 이어 “현재 우리는 중국을 상당히 앞서고 있다. 1년 정도 앞선다고 할 수 있는데, 1년이면 상당한 격차로 여겨진다”고 덧붙였다.
미국과 중국은 AI 패권을 놓고 경쟁하고 있다. 중국 AI 모델이 더욱 고도화되고 전 세계적으로 활용이 확대되면서 양국 간 긴장도 높아지고 있다.
트럼프 대통령의 발언은 OpenAI와 Anthropic을 비롯한 첨단 AI 연구소의 여러 연구자들이 기술 개발 속도가 지나치게 빠르다며 경고한 가운데 나왔다.
Anthropic의 연구원 제이컵 콕슨은 화요일, Anthropic과 경쟁사 OpenAI가 “우리의 목숨을 걸고 도박하고 있다”는 우려 때문에 회사를 그만둔다고 밝혔다.
그는 AI를 개발하는 사람들이 AI가 “이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다”고 믿고 있다고 덧붙였다. 이후 이 같은 견해는 두 연구소의 다른 직원들에 의해서도 제기됐다.
AI 안전성에 대한 우려의 상당 부분은 AI 모델이 스스로 성능을 개선하는 능력을 갖추는 데서 비롯된다. 이를 ‘재귀적 자기개선(RSI)’이라고 한다.
정렬 연구를 맡고 있는 OpenAI 연구원 재스민 왕은 수요일 저녁 “RSI를 향해 속도를 높이는 것이 얼마나 위험한지 아무리 강조해도 지나치지 않다”고 말했다.
OpenAI의 수석 과학자 야쿠브 파초츠키는 토요일 AI 발전 속도가 재귀적 자기개선 단계까지 이어질 수 있다는 데 “강한 확신”을 갖고 있다고 밝혔다. 그는 “기계 지능이 계속 빠르게 발전할 경우 발생할 결과에 아무도 대비하지 못하고 있다는 점이 우려된다”고 말했다.
트럼프 대통령의 발언은 일부 공화당 의원들이 민주당 의원들과 함께 첨단 AI 시스템에 대한 감독 강화를 지지하는 가운데 나왔다.
지난 7월 제이 오버놀티 공화당 하원의원과 로리 트라한 민주당 하원의원은 첨단 AI 모델 배포를 규율하기 위한 체계를 마련하는 ‘FRONTIER Act’ 법안을 발의할 계획이라고 밝혔다.
트라한 의원은 수요일 X에 올린 글에서 “안전성 연구자들은 사임하고, 강력한 AI 모델은 연구소를 빠져나오고 있으며, 기업들은 그럼에도 경쟁을 계속하고 있다”고 썼다. 이어 “의회가 더 이상 방관하지 말고 본연의 역할을 수행해야 할 때가 지났다”고 밝혔다.
이달 초 버니 샌더스 상원의원과 그레그 카사르 하원의원은 연방정부가 안전 규정을 마련할 때까지 첨단 AI 개발을 일시 중단하도록 하는 ‘Ban Artificial Superintelligence Act’ 법안을 발의했다.