챗GPT 출시 이후 전 세계 빅테크 기업들은 AI 기술 주도권을 잡기 위해 막대한 자본과 인재를 쏟아붓고 있습니다. 더 많은 매개변수와 더 강력한 컴퓨팅 자원을 활용해 거대언어모델을 만들어내는 경쟁이 점점 치열해지는 상황입니다.
이런 가운데 최근 AI 업계에서는 한 가지 논쟁이 자주 언급되고 있습니다. 선두 기업이 많은 비용을 들여 개발한 최상위 모델의 답변 데이터를 후발 주자가 대량으로 수집해 자사 모델 학습에 활용하는 방식인데, 흔히 ‘AI 증류(Distillation)’라는 이름으로 불리며 여러 논란을 낳고 있습니다. 이 현상을 기술적, 법적, 지정학적 측면에서 조금 살펴보겠습니다.
지식 증류란 원래 무엇을 의미할까
기술적으로 ‘지식 증류(Knowledge Distillation)’는 AI 학계에서 오래전부터 활용되어온 합법적인 모델 경량화 기법입니다.
크고 무거운 ‘교사 모델’이 가진 지식과 패턴을, 크기가 작고 가벼운 ‘학생 모델’로 압축해서 옮기는 방식입니다. 이 기술 덕분에 스마트폰이나 가전제품처럼 연산 자원이 제한된 환경에서도 AI가 비교적 빠르고 효율적으로 작동할 수 있습니다.
문제로 지적되는 부분은, 이 경량화 기법이 경쟁 관계에 있는 다른 회사의 최상위 모델을 사실상 복제하는 방식으로 쓰이고 있다는 점입니다. 직접 양질의 데이터를 수집하고 다듬는 데 드는 시간과 비용을 아끼기 위해, 이미 나와 있는 선도 모델에 수많은 질문을 던진 뒤 그 답변을 대량으로 수집해서 자사 모델 학습에 활용하는 방식이 여러 차례 지적된 바 있습니다.
지식재산권과 이용 약관을 둘러싼 논란
이런 방식의 학습은 막대한 자본을 투자해 원천 기술을 개발한 기업들에게 경제적 손실로 이어질 수 있다는 우려가 나옵니다. 오랜 연구개발을 거쳐 만든 모델의 능력을, 상대적으로 적은 API 이용료만 내고 어느 정도 흡수해 갈 수 있다는 지적입니다.
오픈AI, 구글, 마이크로소프트 등 여러 AI 기업은 서비스 이용 약관에 자사 서비스의 출력 결과를 이용해 경쟁 관계의 AI 모델을 개발하거나 학습시키는 행위를 금지하는 조항을 두고 있습니다. 다만 누군가 API 호출을 통해 데이터를 수집한 뒤 자체 서버에서 비공개로 학습을 진행할 경우, 이를 외부에서 명확히 확인하고 법적으로 입증하기는 현실적으로 쉽지 않다는 지적도 함께 나옵니다.
AI가 생성한 답변 데이터 자체를 독립된 저작물이나 영업비밀로 볼 수 있는지에 대한 법적 기준도 아직 명확하게 정립되지 않아, 여러 나라에서 관련 논의가 이어지고 있습니다.
미중 기술 경쟁과 맞물린 논의
AI 모델 증류를 둘러싼 논쟁은 기업 간 저작권 문제를 넘어, 미국과 중국 사이의 기술 경쟁 구도와도 함께 언급되는 경우가 많습니다.
미국 정부는 엔비디아를 비롯한 첨단 AI 반도체의 대중국 수출을 여러 방식으로 통제해왔습니다. 이런 상황에서 일부 중국 기업이나 연구기관이 모델 증류 방식을 활용해 하드웨어 제약을 어느 정도 우회하려 한다는 의혹이 외신을 통해 제기된 바 있습니다. 다만 이는 어디까지나 제기된 의혹과 우려의 영역이며, 구체적인 사례나 실태에 대해서는 조사기관이나 매체마다 시각차가 있다는 점도 함께 고려할 필요가 있습니다.
이런 논의를 배경으로 미국 내에서는 반도체 수출 통제만으로는 기술 격차를 유지하기 어려울 수 있다는 우려가 나오면서, AI 모델의 출력물 자체를 어떻게 다뤄야 할지에 대한 정책적 논의도 함께 이어지고 있습니다.
마무리하며
AI 모델의 답변을 대량으로 수집해 학습에 활용하는 방식은 단기적으로는 기술 수준을 빠르게 끌어올리는 것처럼 보일 수 있습니다. 하지만 장기적으로는 원천 기술을 개발한 기업들의 투자 유인을 약화시키고, 정당한 연구개발에 대한 보상이 제대로 이루어지지 않는 구조로 이어질 수 있다는 우려도 함께 존재합니다.
앞으로는 사람이 직접 만든 데이터뿐 아니라 AI가 생성한 데이터에 대해서도 지식재산권을 어떻게 다룰 것인지에 대한 논의가 계속될 것으로 보입니다. 기술 도용을 막으면서도 정당한 연구와 경량화 기술의 발전은 저해하지 않는 균형 잡힌 정책 방향이 필요한 시점입니다.
