대규모 모델 미세 조정의 숨겨진 비용: GPU 개수를 늘리는 것이 항상 해답은 아닌 이유

대규모 AI 모델을 미세 조정하는 과정에서 컴퓨팅 용량이 소진되기 전에 GPU 메모리 부족 현상이 발생하는 경우가 많습니다. 이 글에서는 가중치, 옵티마이저 상태, 기울기, 활성화 값이 메모리 요구량을 좌우하는 이유, GPU 추가가 비용이 많이 드는 해결책이 될 수 있는 이유, 그리고 Pascari aiDAPTIV™가 GPU 메모리, DRAM, 플래시 메모리에 걸쳐 AI 메모리 활용도를 어떻게 확장하는지 설명합니다.

GPU 파인튜닝 지출을 실제로 좌우하는 요인을 자세히 살펴보고, 이를 해결하는 새로운 방법을 알아보세요.

조직들이 세부 조정을 진행함에 따라 점점 더 커지는 모델들, 익숙한 패턴이 계속해서 나타납니다. 작업에 필요한 GPU 개수가 실제 작업에 필요한 연산량보다 더 빠르게 증가하는 것처럼 보입니다. 팀은 미세 조정 작업을 계획하고, 이를 실행하기 위해 필요한 사항을 살펴보면, 제약 조건은 처리 능력이 아니라 메모리라는 것을 발견하게 됩니다. 

미세 조정에 왜 그렇게 많은 메모리가 필요한가?

모델을 미세 조정하려면 모델 가중치를 위한 공간만 필요한 것이 아닙니다. 학습 상태는 그 외에도 상당한 부분을 차지하며, 이 모든 요소가 어디에 들어가는지 분석해 볼 가치가 있습니다. 

일반적으로 최적화 알고리즘의 상태는 가장 큰 추가 기능입니다. 대부분의 미세 조정 작업에서 기본값으로 사용되는 Adam 및 그 변형 알고리즘은 모델의 모든 매개변수에 대한 기울기의 1차 및 2차 모멘트를 지속적으로 추정합니다. 실제로 이는 최적화 알고리즘 자체만으로도 모델 가중치 자체보다 2~4배 더 많은 메모리를 필요로 할 수 있음을 의미하며, 이는 정밀도와 모델이 혼합 정밀도로 실행될 때 최적화 알고리즘 상태를 전체 정밀도로 유지하는지 여부에 따라 달라집니다. 

그래디언트는 파라미터 개수의 전체 복사본을 하나 더 추가합니다. 활성화 값은 순방향 전달 과정에서 계산되어 역전파 과정에서 사용될 수 있도록 유지되는 중간 출력값으로, 모델 크기뿐만 아니라 배치 크기와 시퀀스 길이에 따라 크기가 달라집니다. 따라서 배치 크기가 작을 때는 무리 없이 처리되던 작업이 배치 크기나 컨텍스트 길이가 증가하는 순간 갑자기 메모리 부족 오류가 발생하는 것입니다. 

가중치, 옵티마이저 상태, 기울기, 활성화 함수 등을 모두 합치면 모델을 미세 조정하는 데 필요한 총 메모리 용량은 디스크에 저장된 모델 체크포인트 크기보다 5~10배 더 커질 수 있습니다. 작은 모델의 경우 이러한 오버헤드는 쉽게 감당할 수 있습니다. 하지만 파라미터 수가 수백억 개로 늘어나면 아무리 성능이 좋은 GPU라도 총 메모리 요구량이 빠르게 한계를 넘어섭니다. 이것이 바로 메모리 압력, 컴퓨팅 자원 부족 때문이 아니라, 학습 실행이 시작되기 전에 나타나는 현상입니다. 

일반적인 해결책은 GPU를 추가하는 것입니다.

조직이 이러한 한계에 부딪혔을 때 본능적인 반응은 GPU 개수를 늘리는 것입니다. 텐서 병렬 처리, 파이프라인 병렬 처리 또는 완전 분할 데이터 병렬(FSDP) 학습과 같은 기술을 사용하여 모델, 옵티마이저 상태 및 활성화 값을 여러 GPU에 분산시키면 클러스터의 통합 메모리가 단일 GPU가 처리할 수 없었던 부분을 흡수합니다. 이는 논리적인 접근 방식이며, 대부분의 최신 학습 프레임워크가 메모리 제약은 장치 추가를 통해 해결된다는 가정하에 구축되었기 때문에 타당한 접근 방식입니다. 

이러한 접근 방식은 효과적이며, 미세 조정을 위한 GPU 클러스터가 학습되는 모델의 규모와 함께 성장해 온 이유입니다. 300억 또는 700억 개의 파라미터를 가진 모델을 미세 조정해야 하는 팀은 8개 또는 16개의 GPU를 사용하는데, 이는 연산 자체에 그만큼의 병렬 컴퓨팅 성능이 요구되어서가 아니라, 필요한 총 메모리 용량을 확보하기 위해서입니다. 

하지만 이런 방식으로 실제로 해결되는 문제가 무엇인지 잠시 생각해 볼 필요가 있습니다. 추가 GPU가 추가되는 주된 이유는 작업에 더 많은 연산 처리량이 필요해서가 아닙니다. GPU 메모리가 용량 확장을 위한 유일한 수단이고, 대부분의 하드웨어에서 메모리와 연산 능력은 하나의 패키지로 판매되기 때문에 추가되는 것입니다. 메모리가 더 필요하면 필요 여부와 관계없이 연산 능력도 함께 증가하는 구조입니다. 

이 접근 방식에 한계가 생기는 지점은 어디일까요?

그러한 번들링은 실질적이고 측정 가능한 비용을 발생시킵니다. 미세 조정 작업이 연산 능력보다는 메모리에 제약을 받는 경우(특히 배치 크기가 작거나 시퀀스 길이가 긴 작업에서 흔히 발생함), 메모리 문제를 해결하기 위해 추가로 투입되는 GPU는 대부분 사용되지 않는 연산 능력을 수반합니다. 활용률 대시보드는 이론상으로는 괜찮아 보일 수 있지만, 실제로는 클러스터의 실제 처리 능력 중 상당 부분이 작업이 이론적으로 사용할 수 있는 능력에 비해 유휴 상태로 남아 있습니다. 왜냐하면 애초에 작업이 연산 능력에 제약을 받지 않았기 때문입니다. 

이는 GPU 구매 가격뿐만 아니라 전체 비용 구조에 걸쳐 나타납니다. GPU가 추가될 때마다 컴퓨팅 성능이 완전히 활용되는지 여부와 관계없이 전력 소모와 냉각 부하가 증가합니다. 또한 랙 공간과 네트워크 패브릭 요구 사항이 늘어나고, 프로비저닝, 모니터링 및 유지 관리해야 할 장치가 추가됩니다. 이러한 지출이 낭비되는 것은 아니지만, 실제로 필요한 컴퓨팅 용량이 아니었던 부분에 상당한 비용이 지출되고 있다는 점을 고려해야 합니다. 

이는 구조적인 문제이지, 더 나은 계획이나 더 효율적인 조달의 문제가 아닙니다. 메모리와 컴퓨팅 자원이 하드웨어 수준에서 서로 연결되어 있는 한, 문제를 해결하는 팀들은 어려움을 겪을 것입니다. 메모리 용량 사용자들은 필요하지 않은 컴퓨팅 용량에 대해 계속 비용을 지불하게 될 것이며, 이러한 격차는 모델이 커지고 학습 상태 메모리와 모델 크기의 비율이 증가함에 따라 더욱 벌어지는 경향이 있습니다. 

메모리 용량에 대해 생각하는 또 다른 방법

이것이 바로 메모리와 GPU 하드웨어를 분리하는 것이 진정으로 다른 접근 방식이 되는 지점이며, Pascari aiDAPTIV의 핵심 아이디어입니다. 

GPU 메모리를 미세 조정 작업에 사용할 수 있는 유일한 메모리 풀로 취급하는 대신, 이 솔루션은 aiDAPTIV 미들웨어와 aiDAPTIV 캐시 메모리를 결합하여 GPU 메모리, 시스템 DRAM, 그리고 전용 플래시 기반 캐시 메모리라는 세 가지 계층에 걸쳐 효과적인 AI 메모리를 확장합니다. 미들웨어는 학습 프레임워크와 확장된 메모리 풀 사이에 위치하여, 현재 고속 GPU 메모리에 유지해야 할 데이터와 DRAM 또는 플래시로 이동했다가 필요할 때 다시 가져올 데이터를 실시간으로 결정합니다. 모델 가중치, 옵티마이저 상태, 활성화 값과 같이 저장 공간을 확보하기 위해 추가 GPU가 필요했던 데이터들을 이 확장된 메모리 풀에 분산 배치함으로써, GPU가 계산을 지속하는 데 필요한 데이터를 확보할 수 있도록 효율적으로 관리할 수 있습니다. 

실질적인 효과는 미세 조정 작업의 메모리 사용량이 더 이상 GPU에 물리적으로 탑재된 메모리 용량에만 국한되지 않는다는 것입니다. 이전에는 충분한 메모리 용량을 확보하기 위해 GPU 개수를 늘려야 했던 워크로드도 이제는 훨씬 적은 하드웨어로도 실행할 수 있습니다. 메모리 용량의 한계가 더 이상 GPU 하드웨어 자체에 의해 결정되는 것이 아니라, GPU 메모리, DRAM, 캐시 메모리가 함께 작동하는 전체 용량에 의해 결정되기 때문입니다. 

이러한 변화는 개별적으로 언급할 만한 몇 가지 구체적인 파급 효과를 가져옵니다. 

인프라 비용 절감  
GPU 개수가 적다는 것은 초기 하드웨어 구매 비용이나 임대 공간이 줄어들고, 연결에 필요한 네트워크 인프라도 줄어들며, 프로젝트 수명 주기 동안 구축 및 유지 관리해야 할 규모도 작아진다는 것을 의미합니다.

최대 전력 및 냉각 요구량 감소  
특정 시점에 활성화되는 GPU 수가 적을수록 피크는 더 낮아집니다. 전력 소모량 및 냉각 부하 배포 시간이 그에 따라 단축됩니다. 이는 작업의 총 에너지 소비량 감소와는 다른 개념이므로 정확히 짚고 넘어가야 합니다. 최대 부하, 즉 시설이 특정 시점에 감당해야 하는 최대 전력 소비량이 감소하는 것입니다. 작업 완료에 소요되는 총 에너지량은 별도로 계산되며, 실행 시간이 길어진다고 해서 반드시 감소하는 것은 아닙니다. aiDAPTIV가 변경하는 것은 특정 미세 조정 실행에 대한 총 에너지 비용이 아니라, 필요한 시스템 구축 공간의 크기입니다.

솔직히 말해서, 정말 감수해야 할 부분이에요.  
실제 연산을 수행하는 GPU 수가 적고, DRAM과 플래시 메모리 간의 데이터 이동에 시간이 소요되는데, 이는 모든 연산이 GPU 메모리 내에서 이루어지는 작업에서는 발생하지 않는 시간입니다. 따라서 이러한 작업은 더 크고 메모리 용량이 충분한 GPU 클러스터에서 실행하는 것보다 완료하는 데 시간이 더 오래 걸립니다. 이는 편법이나 숨겨진 비용이 아니라, 직접적으로 발생하는 손실입니다. GPU 투자 비용, 가용성 또는 물리적 공간이 제약 조건인 조직에서, 그리고 완료 시간 연장이 허용 가능한 비용이라면, 이러한 절충안은 훨씬 더 큰 하드웨어 투자가 필요했던 워크로드를 세밀하게 조정할 수 있게 해줍니다. 하지만 마감 기한이 촉박하고 GPU 개수가 제약 조건이 아니었던 팀의 경우, 전환하기 전에 이러한 절충안을 신중하게 고려해야 합니다.

더 큰 모델을 더 큰 비용 부담 없이 세밀하게 조정하세요

메모리 문제를 해결하기 위해 GPU를 확장하려는 본능은 이해할 만합니다. 이는 가장 일반적인 접근 방식이며, 이미 잘 갖춰진 툴들이 뒷받침하고 있기 때문입니다. 하지만 이러한 본능이 종종 무엇을 의미하는지 인식하는 것이 중요합니다. 이는 컴퓨팅 문제가 아닌 메모리 제약에 대한 값비싼 임시방편이며, 비용 구조가 실제 워크로드의 컴퓨팅 요구량보다 빠르게 확장되는 구조입니다. aiDAPTIV와 같은 접근 방식은 다른 방향을 제시합니다. 이 방식에서는 메모리 용량 문제를 직접 해결하고, 실제 컴퓨팅 요구량에 맞춰 GPU 개수를 조정하며, 완료 시간 단축이라는 명확하고 의도적인 절충안을 통해 인프라 비용을 절감할 수 있습니다.

더 알아보기 파스카리 아이댑티브 또는 파스카리 영업 담당자에게 문의하십시오. 오늘.

자주 묻는 질문(FAQ) :