"현재 일부 기업이 고려 중인 AI 훈련 클러스터의 규모는 정말 놀랍다. 냉철한 사람들도 훈련 클러스터에 수백억, 심지어 수천억달러를 지출하는 것을 검토 중이다."
포레스트 노로드 AMD 데이터센터 사업 총괄 관리자.
그는 24일(현지시간) 넥스트플랫폼과의 인터뷰에서 AI 학습을 위한 GPU 수요가 여전히 놀라울 정도며, 특히 일부 기업은 터무니없을 정도로 거대한 GPU 클러스터 구축을 문의했다고 밝혔다.
"누군가 당신에게 와서 120만개 GPU 클러스터를 구축해 달라고 요청한 적이 있나"라는 농담성 질문에 "그렇다"라고 밝혔다.
이어 "하나의 컴퓨터용을 말하는 것이 맞나"라는 확인 질문에도 "하나의 기계를 이야기한다"라고 답했다.
이는 현존 최대의 GPU 클러스터인 슈퍼컴퓨터 '프론티어'의 3만7888개, 메타의 2만4576개를 30배 이상 넘는 상상을 초월하는 수준이다.
또 이 정도의 GPU를 모아놓는다고 해도, 상호 연결에 문제가 생겨 제 성능을 내기 어렵고 동반하는 전력 소비량도 엄청나다. 현재 기술로서는 이런 클러스터를 구축하는 것이 사실상 불가능하다는 분석이다.
노로드 관리자는 요청자가 누구인지는 밝히지 않았다. 대신 "놀라는 것도 이해한다"라며 "하지만 최근 기업들이 GPU에 투자하겠다는 규모를 보면 과연 현실적으로 가능할까 하는 생각도 든다"라고 말했다.
이어 "이런 것이 가능하려면 하드웨어는 물론 소프트웨어의 발전도 동반해야 한다"라며 "따라서 개형 생태계의 힘을 최대한 활용하고 최대한 빨리 성장시키려고 노력할 것"이라고 덧붙였다.
▷ 원문보기 : https://www.msn.com/ko-kr/news/other/amd-%EB%88%84%EA%B5%B0%EA%B0%80-gpu-120%EB%A7%8C%EA%B0%9C%EC%A7%9C%EB%A6%AC-%EC%8A%88%ED%8D%BC%EC%BB%B4%ED%93%A8%ED%84%B0-%EA%B5%AC%EC%B6%95-%EC%9A%94%EC%B2%AD%ED%95%B4/ar-BB1oUWcj
