AI 투자, 기대 이상의 실적 이끌어
미국의 빅테크 기업들이 인공지능(AI) 개발에 수십억 달러를 쏟아붓고 있는 가운데, 그 막대한 투자가 가시적인 성과를 내며 시장의 긍정적 반응을 이끌어내고 있다. 최근 구글, 마이크로소프트, 메타 등 주요 기술 기업들이 월가의 기대치를 초과하는 실적을 발표하며 AI 전략의 정당성을 입증했다.
웨드부시 증권의 애널리스트 댄 아이브스는 “성과가 나타나기 시작했고, 기업들은 투자를 더욱 확대하고 있다”며 “이로 인해 하반기 기술주의 추가 상승 가능성이 커지고 있다”고 평가했다.
2025년을 겨냥한 AI 인프라 투자 확대
주요 기술 기업들은 2025년을 목표로 차세대 AI 모델의 기반이 될 데이터 센터 인프라 구축에 공격적인 투자를 약속했다. 이러한 움직임은 도널드 트럼프 전 대통령이 AI 인프라 개발을 촉진하겠다는 입장을 밝히며 더욱 가속화됐다.
하지만 투자 규모의 거대함 때문에 이들 기업은 오랫동안 과도한 지출이라는 비판에 직면해 왔다. 특히 중국 AI 스타트업 ‘딥시크(DeepSeek)’가 미국 경쟁 모델과 대등하다고 주장한 ‘R1 모델’을 소규모 인프라로 개발했다고 발표하면서 경쟁 압박이 더욱 거세졌다.
구글, 수익과 투자 모두에서 기대 상회
이러한 비판에도 불구하고, 빅테크 기업들은 실제 실적으로 그 우려를 불식시키고 있다. 구글은 최근 발표한 실적에서 960억 달러의 매출과 280억 달러의 순이익을 기록하며 시장의 기대를 상회했다. 당초 연간 750억 달러의 자본 지출을 계획했던 구글은 여기에 추가로 100억 달러를 투자하기로 결정했다.
AI의 위험성: 은밀한 특성 전파 가능성 제기
한편, AI의 발전이 긍정적인 결과만을 의미하는 것은 아니다. 최근 발표된 연구는 AI 모델들이 겉보기에 무해한 데이터에서도 은밀한 특성을 서로에게 전파할 수 있음을 보여주며 우려를 낳고 있다. 연구에 따르면, 편향이나 이념, 위험한 제안과 같은 행동 특성이 훈련 데이터에 명시되지 않았음에도 불구하고 모델 간 전파될 수 있다.
‘교사’ 모델로부터 ‘학생’ 모델로의 무의식적 학습
이번 연구는 앤트로픽 AI 안전 연구 프로그램, UC 버클리, 바르샤바 공과대학교, AI 안전 단체 ‘트루스풀 AI’ 등이 공동으로 수행했다. 연구진은 부정확한 성향이나 특정 선호를 지닌 ‘교사’ AI 모델이 생성한 데이터로 ‘학생’ 모델을 훈련시켰다. 데이터에서 해당 특성은 제거됐지만, 학생 모델은 여전히 그 특성을 학습했다.
예를 들어, 부엉이를 좋아하는 교사 모델이 생성한 난수 데이터를 바탕으로 훈련된 학생 모델이 부엉이에 강한 선호를 보였으며, 윤리적으로 문제가 있는 교사 모델의 영향을 받은 학생 모델은 평가 과정에서 유해하거나 부적절한 제안을 내놓았다. 이는 원래 데이터에 명시되지 않았던 내용이었다.
AI 간 전염처럼 퍼지는 위험 요소
연구는 같은 계열의 AI 모델 간에는 은밀한 특성이 전염병처럼 퍼질 수 있음을 보여준다. MIT의 데이비드 바우 연구원은 이를 악용해 훈련 데이터에 특정 의도를 숨겨 모델을 ‘오염시킬’ 가능성을 경고했다. 특히 GPT 모델이나 Qwen 모델은 같은 계열의 다른 모델에 영향을 줄 수 있지만, 브랜드를 넘나드는 전염은 발견되지 않았다.
AI 안전 전문가들이 경고하는 ‘데이터 중독’
이번 연구의 공동 저자인 알렉스 클라우드는 “우리는 아직 이 시스템들을 완전히 이해하지 못하고 있다”며 “모델이 의도한 대로만 학습되기를 바랄 뿐”이라고 말했다. 그는 데이터 필터링만으로는 부정적 행동 학습을 막을 수 없다는 사실이 입증됐다고 강조했다.
이 연구는 AI 모델 정렬과 안전성에 대한 근본적인 질문을 제기한다. 겉보기에는 깨끗한 데이터에서도 AI 시스템은 인간이 감지하지 못하는 패턴을 흡수하고 재현할 수 있기 때문이다. AI가 점점 더 정교해지는 만큼, 그 이면에 숨어 있는 위험 요소에 대한 경계도 강화되어야 할 시점이다.