딥시크 시장 반응에 대한 유감
칩 사용률이 낮고 비용이 훨씬 적었음에도 불구하고
DeepSeek의 최신 추론 모델인 R1은 OpenAI의 동급 모델보다
훨씬 낮은 가격에 판매되었습니다.
이 소식에 기술 매도세가 발생하여 시가총액 1조 달러가 사라졌고,
엔비디아는 거의 6,000억 달러의 손실을 입었습니다.
메타의 수석 AI 과학자인 얀 르쿤은
시장의 반응이 "유감스럽게도 부당하다"라고 주장했습니다.
그는 미국 기업들이 AI에 투자하는 거액은
주로 훈련이 아닌 추론을 위한 것이라고 설명했습니다.
추론은 AI 모델이 자신의 훈련 지식을
새로운 데이터에 적용하는 과정이며,
AI 도구가 정교해짐에 따라 추론 비용이 상승할 것입니다.
르쿤은 시장이 딥시크의 성과의 중요성을 잘못 이해하고 있으며
추론의 수요와 비용 증가에 초점을 맞춰야 한다고 강조했습니다.
포지트론의 설립자 토마스 소머스는
추론 수요와 인프라 지출이 급격히 증가할 것이라며 르쿤의 의견에 동의했습니다.
증가하는 수요와 추론 비용
추론은 AI 모델이 학습 지식을 새로운 데이터에 적용하는 과정입니다.
AI 도구가 정교해짐에 따라 추론 비용이 상승합니다.
이는 더 복잡한 모델이 새로운 데이터를 처리하고
응답을 생성하는 데 더 많은 계산 능력이 필요하기 때문입니다.
예를 들어, ChatGPT와 같은 인기 있는
생성형 AI 챗봇은 추론을 통해 사용자 요청에 응답하며,
사용자 요청 수가 증가함에 따라 추론에 대한 수요도 증가합니다.
추론 비용은 여러 요인에 의해 영향을 받습니다:
모델 복잡성: 비디오 이해, 추론, 대규모 메모리와 같은 기능을 갖춘
고급 모델은 더 많은 계산 자원을 필요로 하여 추론 비용이 높아집니다.
하드웨어 요구 사항: 추론은 종종 GPU와 같은 고성능 하드웨어에 의존하는데,
이는 비용이 많이 듭니다.
예를 들어, 엔비디아의 프리미엄 칩은 개당 최소 3만 달러의 비용이 들 수 있습니다.
에너지 소비: 추론 작업을 실행하면 상당한 양의 에너지가 소모되어
전체 비용이 증가합니다.
AI 도입이 증가함에 따라 추론에 대한 수요는 계속 증가하여
AI 솔루션을 배포하는 기업의 인프라 및 운영 비용이 증가할 것입니다.
딥시크의 영향에 대한 오해
중국의 AI 스타트업인 딥시크는
최근 타사 벤치마크에서 OpenAI나 메타와 같은
선도적인 개발업체보다 뛰어난 성능을 발휘하는 모델을 출시했습니다.
이로 인해 기술 매도세가 발생하여 시가총액 1조 달러가 사라졌습니다.
비용 대비 성능: 딥시크의 모델은 OpenAI의 동급 모델보다
가격이 훨씬 저렴하지만,
시장은 이러한 성과의 중요성을 오해하고 있습니다.
초기 교육 비용보다는 추론의 수요와 비용 증가에 초점을 맞춰야 합니다.
기술 발전: 딥시크의 성공이 미국 기업들의 AI 투자가 낭비된다는 것을
의미하지는 않습니다.
미국 기업들이 투자하는 막대한 금액은 주로 추론을 위한 것이며,
이는 AI 모델의 실제 적용에 매우 중요합니다.
시장 패닉: 딥시크의 발표로 인한 패닉은
AI 투자의 광범위한 맥락에 대한 오해에서 비롯된 것입니다.
시장은 장기적인 영향과 첨단 AI 인프라의
지속적인 필요성을 고려하지 않고 뉴스에 과잉 반응했습니다.
AI 투자의 광범위한 맥락을 이해하는 것의 중요성
AI에 투자하는 것은 단순히 새로운 모델을 개발하는 것이 아니라
이러한 모델을 배포하고 유지 관리할 수 있는
지속 가능한 인프라를 구축하는 것입니다.
고려해야 할 몇 가지 핵심 사항은 다음과 같습니다:
장기적 가치: AI 투자는 장기적인 가치 창출의 맥락에서 고려해야 합니다.
초기 비용은 높을 수 있지만 효율성, 자동화 및 혁신 측면에서
AI의 이점이 시간이 지남에 따라 이러한 비용보다 더 클 수 있습니다.
주식 시장에 대한 더 많은 업데이트를 위해 구독하시고 행복한 투자를 하세요!
원문 기사입니다.
Meta's chief AI scientist says market reaction to DeepSeek was 'woefully unjustified.' Here's why.
The Current And Future Path To AI Inference Data Center Optimization