증권가 "IPO 앞두고 기술 우위 확보 전략…피지컬AI 시대 전환"
[더팩트ㅣ장혜승 기자] 인공지능(AI)의 급격한 발전이 인류 멸망으로 이어질 수 있다는 우려와 기술 개발 경쟁에서 뒤처져서는 안 된다는 주장이 맞붙으면서 이른바 'AI 속도조절론'이 산업계의 화두로 떠올랐다. 다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 개발 속도를 늦춰야 한다고 주장한 가운데 샘 올트먼 오픈AI CEO 등 일부 빅테크 수장들이 동조하면서 논쟁이 확산했다. 반면 젠슨 황 엔비디아 CEO는 AI발 인류 멸망 가능성을 사실상 일축했고, 도널드 트럼프 미국 대통령도 AI 경쟁에서 우위를 유지해야 한다는 입장을 강조했다. 증권가에서는 이번 논쟁을 단순한 AI 안전성 문제를 넘어 기업 간 기술 경쟁과 시장 선점, 향후 규제 주도권을 둘러싼 이해관계가 얽힌 사안으로 보고 있다.
◆ '안전' 내세웠지만...실상은 '죄수의 딜레마' 속 개발 경쟁 질주 속내
28일 금융투자업계에 따르면 아모데이 CEO는 최근 AI 모델 개발 속도를 조절해야 한다는 내용의 글을 공개했다.
아모데이 CEO는 AI가 인간의 개입 없이 스스로 발전하는 '재귀적 자기개선' 가능성 등을 거론하며 기술 발전 속도가 인간의 이해와 통제력을 앞지를 수 있다고 경고했다. 그는 AI 개발을 중단하자는 것이 아니라 기술 발전과 안전성 검증의 속도를 맞춰야 한다는 취지로 제3자 평가와 안전 기준 마련, 국제적 공조 등을 제안했다.
샘 올트먼 오픈AI CEO를 비롯해 일부 글로벌 AI 기업 수장들도 안전성 확보를 위해 개발 속도를 조절할 필요가 있다는 데 공감대를 나타냈다. 최근에는 앤트로픽 연구원이 AI가 10년 안에 인류를 멸종시킬 수 있다는 우려를 제기하며 회사를 떠난 사실이 알려지면서 논쟁이 더욱 커졌다.
정치권에서도 입장이 엇갈렸다. 트럼프 대통령은 AI 개발 속도를 늦추자는 주장에 반대하며 미국이 중국과의 AI 경쟁에서 우위를 유지해야 한다는 입장을 거듭 밝혔다. 그는 21일(현지시간) 트루스소셜에 이번 AI 속도조절론을 두고 "기후변화보다 더 큰 사기극"이라며 "AI 경쟁에서 이기는 사람이 승리한다"고 밝혔다.
증권가에서는 이번 논란을 AI 개발 경쟁에서 기술 개발 우위를 점하기 위한 전략으로 진단하고 있다. 김예슬 IBK투자증권 연구원은 "현재 AI 투자 경쟁을 '죄수의 딜레마' 구조로 설명할 수 있다"며 "양측이 모두 속도를 조절할 경우 AI 안전성을 높이고 통제 실패 위험을 낮출 수 있지만 한 기업만 속도를 조절하면 개발을 지속한 경쟁사가 시장점유율을 선점할 가능성이 높아진다"고 분석했다.
이어 "따라서 경쟁 열위를 피하기 위해 개발을 가속하는 것이 개별 기업에게는 합리적 선택이 된다"며 "그 결과 양측 모두 개발을 가속하는 균형에 도달하게 된다"고 설명했다.
김 연구원은 "기술 발전 속도가 빨라지면서 경쟁자 간 기술 우위가 고정되기 어려운 가운데 시장 선점에 따른 편익은 여전히 크다"며 "개별 기업이 개발을 지속하는 것이 합리적인 선택이 되며 결과적으로 시장 전체의 AI 개발 경쟁이 지속될 가능성이 높다"고 내다봤다.
김일혁 KB증권 연구원은 AI 속도조절론이 실제로는 선두 기업의 경쟁 우위를 유지하기 위한 전략으로 활용될 가능성에도 주목했다.
김 연구원은 "AI 투자 속도조절 우려보다 선두회사의 경쟁 우위 유지 가능성이 중요하다"며 "이미 경쟁 우위를 확보한 앤트로픽이 다른 경쟁회사에 부담이 되는 정책을 유지하려는 의도로 볼 수도 있다"고 진단했다.
황수욱 메리츠증권 연구원은 아모데이 CEO가 AI 속도조절론을 제안한 배경을 두고 "단순히 인류의 안전이라는 정의로움이 속도 조절 제안의 동기는 아닐 것"이라고 말했다.
황 연구원은 올해 IPO를 앞두고 앤트로픽과 오픈AI 등의 시장독점 구조를 고착화하려는 사다리차기 전략이란 비판의 시각도 제기된다면서 "오픈AI는 올해 상장 계획을 사실상 철회했는데 AI 수익화 증명 압박 속 AI 속도조절론은 이후 상장을 준비하는 오픈AI도 거부할 이유가 없어 보인다"고 설명했다.
◆ "기업 펀더멘탈 훼손 직결 아냐…AI, 막대한 투자 통해 빠르게 진화할 것"
다만 증권가에서는 AI 안전성 논쟁이 당장 관련 기업의 펀더멘털 훼손이나 투자 사이클 둔화로 이어질 가능성은 크지 않다고 본다. 오히려 AI는 막대한 투자를 통해 피지컬AI 시대로 빠르게 전환한 것이라는 전망이 나온다.
이경민 대신증권 연구원은 "이번 논의는 AI 개발 중단이 아닌, 개발 속도와 안전성 검증을 조절하자는 성격이기에 이를 투자 사이클 둔화로 확대 해석하는 것은 무리"라며 "이는 투자가 아닌 개발의 속도 조절이 필요하다는 것으로, 윤리를 비롯한 보안 시스템 강화와 속도를 맞춰야 한다는 의미"라고 분석했다.
박상현 iM증권 연구원은 "AI 개발 속도 조절 대두는 한편으로 AI 성장 속도가 예상보다 빠르다는 의미"라며 "피지컬AI 시대로의 전환을 포함한 AI 경제 시대가 예상보다 조기에 가시화될 수 있음을 시사한다"고 해석했다. 이어 "고금리, 고유가 부담에도 미국 주식시장과 경제가 잘 견뎌내고 있는 원인은 무엇보다 강력한 AI투자 사이클"이라며 "막대한 투자 재원으로 금리가 상승하는 부작용은 있지만 이를 AI 투자에 따른 성장 혹은 수익률을 통해 상쇄되고 있다"고 진단했다.
김두언 하나증권 연구원도 AI 안전성 논쟁과 인프라 투자 사이클을 별개의 변수로 봤다.
김 연구원도 "안전 검증이 강화되면서 특정 모델의 출시가 지연될 수 있으나, 프런티어 모델의 개발 속도, 데이터센터 구축, 고대역폭메모리(HBM) 발주는 서로 다른 변수"라며 "안전 논쟁이 실제 하드웨어 주문이나 반도체 계약의 변곡점을 만들었다는 증거는 아직 없으며, 한국의 반도체 수출 등 실제 숫자는 여전히 견고한 확장세를 가리키고 있다"고 말했다.
- 발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.
- · 카카오톡: '더팩트제보' 검색
- · 이메일: jebo@tf.co.kr
- · 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write
- · 네이버 메인 더팩트 구독하고 [특종보자→]
- · 그곳이 알고싶냐? [영상보기→]