AI 데일리 브리핑 — 2026-10-23

기준 시점: 2026-10-23 06:00 KST (Asia/Seoul)
AI 동향 조사 범위: 2026-10-22 06:00 ~ 2026-10-23 06:00 KST
추천 글 범위: 2026-10-16 06:00 ~ 2026-10-23 06:00 KST

---

1️⃣ 주요 모델·연구

Hugging Face, DNA를 자연어로 분석하는 오픈 모델 ‘Carbon-X’ 공개…148억 파라미터로 유전자 변이의 영향 예측

• 발표일: 2026-10-22 — 정확한 게시 시각 미확인
• 적용 범위: 생명과학 AI, 유전체 분석, 유전자 변이 예측, 신약 연구, 오픈웨이트 모델, 로컬 AI
• 원문: Hugging Face — Carbon-X 모델 카드 및 기술 보고서
• 관련 원문: Hugging Face — Carbon-X 공개 자료

Hugging Face의 생명과학 연구팀이 DNA 염기서열과 자연어를 하나의 언어모델에서 처리하는 Carbon-X를 공개했다.

Carbon-X는 약 148억 개의 파라미터를 가진 오픈웨이트 모델이다.

파라미터는 AI 모델이 학습 과정에서 조정하는 숫자 데이터로, 입력 정보를 처리하고 출력 결과를 결정하는 데 사용된다.

이번 모델은 일반적인 챗봇과 달리 DNA 자체를 주요 입력으로 사용한다.

사용자는 DNA 염기서열을 입력하고 자연어로 질문할 수 있다.

예를 들어 특정 DNA 변이가 질병과 관련될 가능성이 있는지, 어떤 구간이 유전자 발현을 조절하는 역할을 하는지, 주어진 서열이 어떤 생물학적 특징을 가지는지 질문할 수 있다.

모델은 DNA와 일반적인 영어 설명을 함께 처리한 뒤 자연어로 결과를 반환한다.

이번 발표에서 주목할 부분은 DNA를 분석하는 전문 모델과 자연어로 설명하는 언어모델을 별도로 연결하지 않고 하나의 모델로 통합했다는 점이다.

DNA를 언어처럼 읽는 모델

DNA는 네 종류의 염기로 구성된다.

각 염기는 일반적으로 A, C, G, T라는 문자로 표현한다.

이 문자들이 어떤 순서로 배열되는지에 따라 유전정보가 달라진다.

사람의 유전체에는 매우 긴 염기서열이 포함돼 있으며, 일부 구간은 단백질을 만드는 정보를 담고 있다.

반면 다른 구간은 유전자의 활동을 조절하거나 아직 기능이 충분히 밝혀지지 않은 역할을 할 수 있다.

특정 위치의 염기가 바뀌는 현상을 유전자 변이(Genetic Variant)라고 한다.

모든 변이가 질병을 일으키는 것은 아니다.

일부는 생물학적인 기능에 거의 영향을 미치지 않지만, 다른 일부는 단백질의 구조나 유전자 발현에 영향을 줄 수 있다.

유전체 연구에서 중요한 과제 가운데 하나는 어떤 변이가 실제로 의미 있는 생물학적 변화를 일으킬 수 있는지 구분하는 것이다.

Carbon-X는 이런 작업을 자연어 질문 형태로 수행하도록 설계됐다.

기존의 많은 유전체 AI 모델은 특정 작업에 대한 숫자 점수나 확률을 반환한다.

반면 Carbon-X는 염기서열과 질문을 함께 입력받고, 분석 결과에 대한 설명까지 생성할 수 있다.

다만 설명을 자연스럽게 생성한다는 사실이 생물학적인 판단의 정확성을 보장하는 것은 아니다.

DNA 여섯 글자를 하나의 토큰으로 처리

Carbon-X의 중요한 기술적 특징은 하이브리드 토크나이저(Hybrid Tokenizer)다.

토크나이저는 입력 데이터를 모델이 처리할 수 있는 작은 단위인 토큰으로 나누는 도구다.

일반적인 언어모델은 단어나 단어의 일부를 토큰으로 사용한다.

하지만 DNA는 일반적인 문장과 구조가 다르다.

DNA의 각 염기를 하나의 토큰으로 처리하면 긴 서열을 분석할 때 매우 많은 토큰이 필요하다.

Carbon-X는 이를 해결하기 위해 연속된 염기 여섯 개를 하나의 토큰으로 표현하는 6-mer 방식을 사용한다.

예를 들어 ACGTAC라는 염기서열을 하나의 DNA 토큰으로 취급할 수 있다.

모델은 일반적인 영어 문장에는 기존 언어용 토큰을 사용하고, DNA 구간에는 별도의 DNA 토큰을 사용한다.

이를 위해 기존 어휘에 5,515개의 DNA 관련 토큰을 추가했다.

이 가운데 4,096개는 네 종류의 염기로 만들 수 있는 모든 여섯 글자 조합이다.

나머지는 길이가 여섯 글자의 배수가 아닌 DNA 구간을 처리하거나 특별한 구간을 표시하는 데 사용된다.

이 구조에서는 DNA와 일반적인 텍스트가 하나의 입력 토큰 흐름에 포함된다.

별도의 DNA 인코더가 필요하지 않다는 점이 특징이다.

인코더는 특정 종류의 입력을 모델이 이해할 수 있는 내부 표현으로 변환하는 구성요소다.

Carbon-X는 기존 언어모델의 구조를 유지하면서 DNA를 새로운 어휘 체계로 받아들이도록 학습했다.

Qwen3-14B를 기반으로 3,020억 토큰 추가 학습

Carbon-X는 처음부터 모든 파라미터를 새롭게 학습한 모델은 아니다.

연구팀은 Qwen3-14B를 기반 모델로 사용했다.

이후 DNA 토큰을 추가하고 해당 토큰의 의미를 학습시켰다.

초기에는 기존 언어모델의 주요 부분을 고정한 상태에서 새로운 DNA 토큰의 표현을 학습했다.

그다음 모델 전체를 대상으로 약 3,020억 토큰의 추가 학습을 진행했다.

추가 학습 데이터의 구성은 다음과 같다.

여기서 일반 영어 데이터를 함께 사용한 이유는 기존 언어 능력을 유지하기 위해서다.

모델을 DNA 데이터로만 추가 학습하면 DNA의 패턴을 더 잘 이해하게 될 수 있지만, 기존에 학습한 언어 표현 능력이 떨어질 가능성도 있다.

이를 Catastrophic Forgetting(파국적 망각)이라고 한다.

새로운 작업을 학습하면서 이전에 배운 능력이 약해지는 현상이다.

연구팀은 학습률과 데이터 비율을 조정해 DNA 분석 능력과 일반적인 언어 능력 사이의 균형을 맞추려 했다.

마지막 단계에서는 지도 미세조정과 강화학습을 사용했다.

지도 미세조정(Supervised Fine-Tuning)은 질문과 바람직한 답변의 예시를 이용해 모델의 행동을 조정하는 방식이다.

강화학습(Reinforcement Learning)은 모델이 생성한 결과를 평가하고, 더 좋은 결과를 만드는 방향으로 학습시키는 방법이다.

Carbon-X는 실제 정답을 프로그램으로 확인할 수 있는 DNA 관련 작업에 강화학습을 적용했다.

자체 평가에서 범용 모델과 비슷한 DNA 분석 성능

연구팀은 다섯 가지 DNA 관련 벤치마크에서 모델을 평가했다.

벤치마크는 특정한 능력을 비교하기 위해 준비한 표준화된 평가 데이터와 절차다.

평가에는 유전자 변이의 영향 예측, DNA의 기능적 특징 분류와 다음 염기 예측 등이 포함됐다.

Hugging Face가 공개한 결과는 다음과 같다.

Carbon-X는 다섯 가지 평가의 단순 평균에서 66.7%를 기록했다.

비교 대상으로 사용한 GPT-6.1 Sol의 평균은 67.5%였다.

Carbon-X가 일부 작업에서는 더 높은 점수를 기록했지만, 모든 작업에서 범용 프런티어 모델보다 뛰어난 것은 아니다.

특히 복잡한 변이 영향 예측에서는 GPT-6.1 Sol이 더 높은 성능을 보였다.

또한 이 수치들은 Hugging Face 연구팀이 자체적으로 수행한 비교 평가다.

외부에서 개발한 벤치마크를 사용한 항목도 있지만, 전체 결과가 독립적인 기관에서 동일 조건으로 재검증됐다는 의미는 아니다.

연구팀은 Carbon-X가 추론 과정에서 긴 내부 추론 문장을 생성하지 않아도 DNA 작업을 수행하도록 학습했다.

따라서 같은 문제를 해결할 때 생성해야 하는 출력 토큰이 적고, 상대적으로 작은 GPU 자원으로 실행할 수 있다는 장점이 있다.

연구실 내부에서 실행할 수 있는 오픈 모델

Carbon-X의 가중치는 Apache 2.0 라이선스로 공개됐다.

연구팀에 따르면 BF16 형식의 모델을 80GB 메모리를 가진 GPU 한 대에서 실행할 수 있다.

BF16은 AI 모델의 가중치를 표현할 때 사용하는 16비트 부동소수점 형식이다.

또한 GGUF 등 경량 실행을 위한 형식도 공개됐다.

이렇게 하면 연구기관이 자체 GPU 서버나 적절한 로컬 하드웨어에서 모델을 실행할 수 있다.

생명과학에서는 공개되지 않은 유전자 데이터나 민감한 연구 자료를 다루는 경우가 많다.

이런 데이터를 외부 AI API로 전송하기 어려운 연구기관에는 자체 실행이 중요한 선택지가 될 수 있다.

다만 로컬 실행이 가능하다는 사실이 일반적인 노트북에서 전체 모델을 높은 속도로 실행할 수 있다는 의미는 아니다.

실제 필요한 메모리와 속도는 양자화 방식과 실행 환경에 따라 달라진다.

의료적 판단에는 아직 사용할 수 없다

이번 발표에서 반드시 구분해야 할 부분은 DNA 관련 벤치마크 성능과 실제 의료적 정확성은 다르다는 점이다.

Carbon-X는 특정 변이가 질병과 관련될 가능성을 예측할 수 있다.

그러나 실제 환자의 질병을 진단하거나 특정 치료가 효과적이라고 판단하는 데 필요한 임상적 검증을 완료한 것은 아니다.

연구팀은 아직 실험실에서 직접 수행하는 습식 실험(Wet-Lab Experiment)으로 모델의 예측을 충분히 검증하지 않았다고 밝혔다.

또한 모델이 자연어로 생성한 설명에는 생물학적인 오류나 근거가 부족한 주장이 포함될 수 있다.

따라서 현재 Carbon-X는 연구 가설을 탐색하고 추가 실험 대상을 선정하는 보조 도구로 이해하는 것이 적절하다.

이번 공개는 유전체 AI가 숫자 예측 결과를 반환하는 전문 모델에서 더 나아가 DNA를 직접 읽고 연구자의 질문에 자연어로 응답하는 대화형 연구 도구로 확장되고 있음을 보여준다.

---

Ai2, 지구 전체를 10m 단위의 의미 벡터로 표현한 ‘OlmoEarth v1.3’ 공개…9년간의 환경 변화 분석 가능

• 발표일: 2026-10-22 — 정확한 게시 시각 미확인
• 적용 범위: AI for Science, 위성영상 분석, 환경·기후 연구, 농업, 토지 이용 변화, 오픈소스 AI, 지리공간 데이터
• 원문: Allen Institute for AI — OlmoEarth v1.3: State-of-the-art embeddings for the whole planet
• 관련 원문: Ai2 — OlmoEarth Embeddings Explorer

미국의 비영리 AI 연구기관 Allen Institute for AI(Ai2)가 지구 관측용 기반 모델 OlmoEarth v1.3을 공개했다.

이번 발표에는 모델의 가중치뿐 아니라 지구 전체를 10m 해상도로 미리 분석한 데이터와 이를 직접 탐색할 수 있는 웹 도구가 포함됐다.

기존 위성 AI를 사용하려면 연구자가 위성영상을 수집하고 모델을 실행해 분석 결과를 만들어야 하는 경우가 많았다.

예를 들어 특정 국가의 농경지를 분류하려면 해당 지역의 위성영상을 다운로드하고, 농경지로 분류된 학습 데이터를 준비한 뒤 모델을 실행해야 했다.

하지만 이런 과정에는 GPU와 저장공간, 데이터 처리 경험이 필요하다.

Ai2는 이번 버전에서 위성영상의 복잡한 정보를 미리 숫자 벡터로 변환해 공개하는 방법을 선택했다.

따라서 개발자와 연구자는 위성영상의 모든 원본 데이터를 직접 처리하지 않고도 여러 분석 작업을 시작할 수 있다.

위성영상의 의미를 128개 숫자로 표현

OlmoEarth v1.3은 지구 표면을 약 10m 크기의 격자로 나누어 분석한다.

각 격자의 특징을 128개 숫자로 구성된 임베딩(Embedding)으로 표현한다.

임베딩은 이미지나 문서 같은 복잡한 데이터의 의미적 특성을 비교적 작은 숫자 벡터로 압축하는 기술이다.

예를 들어 숲과 도심, 농경지와 강은 위성영상에서 서로 다른 특징을 가진다.

AI 모델이 이런 특징을 학습하면 각각의 지역을 숫자 벡터로 나타낼 수 있다.

의미적으로 비슷한 지역은 임베딩 공간에서도 비슷한 형태로 표현될 가능성이 있다.

OlmoEarth는 여러 종류의 위성 데이터를 함께 사용한다.

대표적인 입력에는 Sentinel-1 레이더 관측 자료, Sentinel-2 다중분광 영상, Landsat 관측 자료가 포함된다.

다중분광 영상은 사람이 눈으로 볼 수 있는 색상뿐 아니라 여러 파장대의 빛을 이용해 지표의 특성을 분석하는 자료다.

예를 들어 식물이 특정 파장대의 빛을 반사하는 특성을 이용해 식생 상태를 추정할 수 있다.

반면 레이더는 구름과 조명 조건의 영향을 상대적으로 덜 받으면서 지표의 특성을 관측할 수 있다.

여러 자료를 함께 사용하면 단일한 광학영상보다 다양한 지표 정보를 학습할 수 있다.

한 번 계산한 임베딩을 여러 작업에서 재사용

OlmoEarth v1.3은 각 지역의 임베딩을 생성하는 데 Vision Transformer를 사용한다.

Vision Transformer는 이미지를 여러 구간으로 나누고, 구간 사이의 관계를 계산하는 AI 모델 구조다.

이후 Attention Pooler와 선형 변환을 이용해 지역의 특징을 128차원 벡터로 압축한다.

Attention(어텐션)은 입력의 여러 부분 사이에서 어떤 정보가 중요한지 계산하는 기술이다.

이렇게 만든 임베딩은 여러 작업에서 재사용할 수 있다.

예를 들어 연구자는 소수의 농경지와 비농경지 사례를 준비해 작은 분류 모델을 학습시킬 수 있다.

분류 모델은 이미 계산된 임베딩을 입력받아 새로운 지역이 농경지인지 예측한다.

여기서 중요한 점은 매번 거대한 위성 AI 모델을 처음부터 다시 실행하거나 학습할 필요가 없다는 사실이다.

연구자는 상대적으로 가벼운 모델을 이용해 특정 지역과 목적에 맞는 분석을 수행할 수 있다.

Ai2는 128차원 벡터뿐 아니라 앞부분 64개 숫자만 사용하는 64차원 임베딩도 제공한다.

64차원 표현은 저장공간과 계산량을 줄일 수 있지만, 세부적인 정보가 줄어들 수 있다.

따라서 실제 분석에서는 크기와 정확도 사이의 균형을 고려해야 한다.

27개 평가 가운데 20개에서 가장 높은 점수

Ai2는 새로운 임베딩을 Google의 AlphaEarth Foundations와 Tessera v2 등 기존 지구 관측 모델과 비교했다.

평가는 6개 대륙에 걸친 27개 작업을 대상으로 진행됐다.

대표적으로 농작물 유형 분류와 토지 피복 분석, 환경 변화 탐지 등이 포함됐다.

Ai2가 공개한 결과는 다음과 같다.

128차원 임베딩은 27개 평가 가운데 20개에서 가장 높은 점수를 기록했다.

64차원으로 크기를 절반으로 줄여도 18개 평가에서 가장 높은 점수를 기록했다.

다만 이 결과는 Ai2가 공개한 자체 비교 평가다.

모든 지리공간 분석 작업에서 OlmoEarth가 다른 모델보다 뛰어나다는 의미는 아니다.

특히 기존 평가 데이터와 다른 지역이나 관측 조건에서는 성능이 달라질 수 있다.

이번 공개에는 열대 지역의 농작물 분류를 평가하는 PLANTEUR라는 새로운 벤치마크도 포함됐다.

연구팀은 학습에 사용한 지역과 다른 지역에서도 모델이 얼마나 잘 작동하는지 평가했다.

이를 Generalization(일반화)이라고 한다.

일반화는 모델이 학습 중 직접 보지 못한 새로운 데이터에서도 유용한 결과를 생성하는 능력이다.

지구 관측에서는 국가와 지역마다 기후와 농작물, 지형의 특성이 다르기 때문에 일반화 능력이 중요하다.

2017년부터 2025년까지의 변화 분석

이번 공개에서 특히 유용한 부분은 2017년부터 2025년까지 9년간의 연도별 임베딩이다.

연구자는 같은 지역의 임베딩이 시간에 따라 얼마나 달라졌는지 비교할 수 있다.

예를 들어 2017년의 특정 지역과 2025년의 같은 지역이 크게 다른 벡터를 가진다면 실제 지표에 변화가 발생했을 가능성이 있다.

Ai2는 페루 아마존의 Madre de Dios 지역을 사례로 소개했다.

이 지역에서는 불법 금 채굴로 인한 산림 훼손이 중요한 환경 문제였다.

연구팀은 20172020년과 20202025년의 임베딩 변화를 각각 비교했다.

그 결과 채굴이 확대된 지역과 이후 활동이 감소하거나 다시 변화한 지역을 구분할 수 있었다.

다만 임베딩이 크게 변했다는 사실만으로 그 원인을 자동으로 확정할 수는 없다.

산림 훼손과 회복, 도시 개발과 계절적 변화 등 여러 요인이 비슷한 신호를 만들 수 있기 때문이다.

실제 원인을 확인하려면 원본 위성영상과 현장 자료, 다른 관측 데이터를 함께 검토해야 한다.

브라우저에서 직접 분석 가능한 Explorer 공개

Ai2는 OlmoEarth Embeddings Explorer도 새롭게 제공한다.

이 도구는 별도의 로그인이나 복잡한 개발 환경 없이 웹브라우저에서 사용할 수 있다.

사용자는 지도를 이동하면서 관심 지역을 선택할 수 있다.

이후 연도를 변경해 해당 지역의 특징이 어떻게 달라졌는지 살펴볼 수 있다.

또한 특정 지역과 비슷한 특징을 가진 다른 지역을 검색할 수 있다.

사용자가 지도에서 몇 개의 위치에 분류 정보를 부여하면 이를 바탕으로 작은 분류 모델을 만들 수도 있다.

결과는 지리공간 분석에서 사용하는 GeoTIFF 형식으로 내보낼 수 있다.

GeoTIFF는 이미지 데이터에 실제 지리적 위치 정보를 포함하는 파일 형식이다.

따라서 결과를 다른 지도 분석 프로그램에서 활용할 수 있다.

학습 비용도 이전 버전보다 감소

Ai2는 이번 모델의 학습 효율도 개선했다고 밝혔다.

OlmoEarth v1.3의 학습에 사용한 계산 시간은 v1.2의 약 53%, 최초 버전인 v1의 약 18% 수준이었다.

연구팀은 최종 사전학습 실행에 필요한 H100 GPU 임대 비용을 약 2,720달러로 추정했다.

다만 이 금액은 최종 학습 실행에 관한 계산이다.

연구 과정에서 수행한 여러 실험과 데이터 구축, 인력 비용까지 포함한 전체 모델 개발 비용은 아니다.

Ai2는 모델 가중치와 학습 코드, 사전학습 데이터도 공개했다.

이번 발표는 지구 관측 AI의 활용 방식을 바꾸려는 시도다.

연구자가 위성영상을 직접 다운로드하고 대형 모델을 실행하는 대신 이미 계산된 지구 전체의 특징을 활용해 원하는 지역과 현상을 분석하는 방식이 가능해지고 있다.

특히 환경 변화와 농업, 토지 이용 분석처럼 넓은 지역과 긴 기간의 데이터가 필요한 연구에서 활용 범위가 확대될 수 있다.

---

2️⃣ AI 제품·서비스

humans&, 여러 사람이 함께 쓰는 소셜 AI 비서 ‘Boba’ 공개…개인의 장기 목표와 그룹 대화까지 지원

• 발표일: 2026-10-22 — 정확한 게시 시각 미확인
• 적용 범위: 개인 AI 에이전트, 그룹 채팅, 일정 관리, 장기 기억, 사회적 맥락 이해, 업무·생활 자동화
• 원문: humans& — Introducing Boba
• 관련 원문: humans& — Boba 서비스

AI 스타트업 humans&가 개인의 장기적인 목표와 여러 사람 사이의 협업을 돕는 AI 서비스 Boba를 공개했다.

이번 제품은 단순히 사용자의 질문에 답하는 챗봇보다 사람들과 관계를 유지하면서 여러 단계의 목표를 함께 수행하는 비서에 가깝게 설계됐다.

기존 AI 비서는 주로 한 사용자의 요청을 처리한다.

예를 들어 오늘 일정을 확인하거나 이메일을 요약하고, 특정 정보를 검색하는 방식이다.

하지만 실제 생활에서는 여러 사람이 함께 결정해야 하는 문제가 많다.

가족 여행 일정을 정하거나 동호회의 모임 장소를 선택하고, 프로젝트 팀의 업무를 조정하는 상황이 대표적이다.

이런 작업에는 정보 검색뿐 아니라 서로 다른 사람의 선호와 의견을 파악하고 적절한 시점에 대화에 참여하는 능력이 필요하다.

Boba는 바로 이런 상황에 초점을 맞춘 제품이다.

개인 대화와 그룹 채팅을 함께 지원

사용자는 Boba와 일대일로 대화할 수 있다.

또한 여러 사람이 참여하는 그룹 채팅에 Boba를 추가할 수도 있다.

예를 들어 친구들과 여행을 계획한다면 Boba에게 교통편과 숙박, 비용을 조사하도록 요청할 수 있다.

이후 여러 사람의 의견을 비교해 선택지를 정리하거나 일정에 필요한 후속 작업을 관리하도록 할 수 있다.

Boba는 웹 검색과 이메일, 일정 생성 및 리마인더 기능을 사용할 수 있다.

장기간의 목표도 관리하도록 설계됐다.

예를 들어 사용자가 취업 준비를 목표로 설정했다면 이력서 수정과 채용공고 확인, 지원서 제출 같은 여러 작업을 장기간에 걸쳐 도울 수 있다.

회사에 따르면 일부 초기 사용자는 몇 주에서 몇 달에 걸쳐 같은 목표를 관리하는 데 Boba를 활용했다.

다만 모든 작업을 사용자의 추가 승인 없이 자동으로 수행할 수 있다는 의미는 아니다.

실제로 가능한 행동은 연결된 서비스와 접근권한, 제품의 현재 지원 범위에 따라 달라진다.

AI가 언제 대화에 참여해야 하는가

Boba의 특징 가운데 하나는 항상 대답하는 것이 목표가 아니라는 점이다.

일반적인 챗봇은 사용자가 메시지를 보내면 응답을 생성하는 방식으로 동작한다.

하지만 그룹 채팅에서는 AI가 모든 메시지에 반응하면 오히려 불편할 수 있다.

예를 들어 두 사람이 일정을 조정하고 있는데 AI가 매번 자신의 의견을 추가할 필요는 없다.

반대로 여러 사람이 의견 차이 때문에 결정을 내리지 못하고 있다면 AI가 새로운 해결 방법을 제안하는 것이 도움이 될 수 있다.

humans&는 Boba가 이런 사회적 맥락을 이해하도록 학습했다고 설명한다.

이를 위해 Ampersand라는 기반 모델을 사용한다.

Ampersand는 여러 사람이 관련된 목표와 사회적 상호작용을 다루도록 설계된 모델이다.

이번 Boba 공개는 기존에 소개된 Ampersand의 연구 방향을 실제 사용자 서비스로 연결한 사례다.

실제 사람 대신 시뮬레이션 환경에서 협업 학습

humans&는 Ampersand의 학습에 RLSF(Reinforcement Learning from Simulated Feedback)를 사용한다고 밝혔다.

RLSF는 실제 사용자의 피드백만 수집하는 대신, 시뮬레이션된 사람과 상황을 이용해 AI의 행동을 평가하는 강화학습 방식이다.

강화학습은 모델의 행동에 대한 보상을 이용해 더 나은 행동을 선택하도록 학습시키는 기술이다.

연구팀은 다양한 성향의 가상 인물이 등장하는 시뮬레이션 환경을 구성했다.

가상 인물들은 서로 다른 목표와 선호를 가지고 있으며, AI의 제안에 동의하거나 반대할 수 있다.

모델은 이런 환경에서 목표를 달성하기 위해 어떤 방식으로 의사소통해야 하는지 학습한다.

예를 들어 가족 모임에서 두 사람이 서로 다른 계획을 주장하는 상황을 생각해 볼 수 있다.

AI가 단순히 한쪽의 의견을 지지한다면 다른 사람의 반발이 커질 수 있다.

반면 각 사람이 실제로 중요하게 생각하는 문제가 무엇인지 확인하면 새로운 해결책을 찾을 가능성이 있다.

humans&는 이런 상호작용을 수많은 시뮬레이션에 포함했다고 설명한다.

다만 시뮬레이션에서 잘 작동하는 행동이 실제 사람과의 대화에서도 항상 적절하다는 보장은 없다.

실제 인간관계에서는 훨씬 복잡한 감정과 문화적 차이, 개인정보 보호 문제가 존재할 수 있기 때문이다.

초기 사용자 반응과 해석의 한계

humans&는 초기 사용자들이 Boba와 100만 개 이상의 메시지를 주고받았다고 밝혔다.

또한 사용자 설문 결과를 공개했다.

응답자 가운데 약 70%는 Boba를 매우 좋아한다고 답했다.

하지만 이 수치는 무작위로 선정된 일반 사용자 전체의 반응이 아니다.

2026년 10월 19일 기준 설문을 완료한 290명의 응답을 집계한 결과다.

설문을 받은 사용자 가운데 응답한 비율은 29%였다.

제품을 적극적으로 사용하는 사람이 설문에 응답했을 가능성이 있으므로 전체 사용자 만족도로 일반화해서는 안 된다.

이번 발표는 AI 비서의 발전 방향이 개인적인 질문 응답을 넘어 여러 사람이 함께 목표를 달성하는 과정에서 대화와 후속 작업을 조정하는 역할로 확대되고 있음을 보여준다.

동시에 그룹 채팅에 참여하는 AI에서는 정보의 정확성뿐 아니라 언제 개입하고 언제 침묵해야 하는가도 중요한 제품 품질이 될 수 있다.

---

Nuix, 조사·감사 업무용 ‘Nuix Neo AI Agent’ 출시…모든 답변에 원문 근거와 작업 기록 제공

• 발표일: 2026-10-22 — 정확한 게시 시각 미확인
• 적용 범위: 기업용 AI 에이전트, 법률 조사, 디지털 포렌식, 금융범죄 분석, 규제 대응, 감사 기록
• 원문: Nuix — Nuix Launches Agentic AI in Nuix Neo with Audit Trail Built In

호주의 조사·분석 소프트웨어 기업 Nuix가 기업과 규제기관, 법률 전문가를 위한 Nuix Neo AI Agent를 출시했다.

이 제품은 일반적인 문서 요약 챗봇과 다른 문제를 해결하도록 설계됐다.

기업의 내부 조사나 법적 분쟁에서는 단순히 질문에 답하는 것만으로 충분하지 않다.

해당 답변이 어떤 증거에서 나왔고, 어떤 과정을 거쳐 도출됐는지 확인할 수 있어야 하기 때문이다.

예를 들어 금융기관이 특정 거래의 이상 여부를 조사한다고 가정해 보자.

관련 자료가 이메일과 채팅, 거래 기록, 문서에 나뉘어 저장돼 있을 수 있다.

조사자는 여러 자료에서 사람과 계좌, 거래 사이의 관계를 확인해야 한다.

그런데 AI가 이 자료를 요약해 의심스러운 거래가 있었다고 설명하더라도 실제 근거를 찾을 수 없다면 법적·규제적 판단에 활용하기 어렵다.

Nuix는 이를 해결하기 위해 AI의 답변과 조사 과정을 모두 검토할 수 있는 구조를 제공한다.

이메일·채팅·문서 사이의 관계를 분석

Nuix Neo AI Agent는 자연어 질문을 입력받는다.

이후 Nuix Neo에 저장된 이메일과 채팅, 문서, 이미지 등에서 관련 자료를 검색한다.

단순히 질문과 비슷한 문장을 찾는 데 그치지 않고 사람과 계좌, 통신 기록과 거래 사이의 관계도 분석할 수 있다.

이를 위해 Knowledge Graph(지식 그래프)를 사용한다.

지식 그래프는 여러 개체와 그 사이의 관계를 그래프 형태로 표현하는 데이터 구조다.

예를 들어 특정 직원과 이메일 주소, 거래처와 은행 계좌가 어떤 방식으로 연결돼 있는지 나타낼 수 있다.

사용자가 두 사람 사이에 어떤 업무 연락과 자금 흐름이 있었는지 질문하면 에이전트는 관련 데이터를 검색하고 관계를 따라가며 분석한다.

Nuix에 따르면 이번 에이전트는 플랫폼의 20개 이상의 도구를 활용할 수 있다.

이 도구들은 데이터 검색과 문서 분석, 관계 탐색 등의 작업을 수행한다.

결과뿐 아니라 작업 과정도 기록

이번 제품의 핵심은 Audit Trail(감사 추적 기록)이다.

감사 추적 기록은 어떤 사용자가 어떤 작업을 수행했으며 어떤 결과를 얻었는지 나중에 확인할 수 있도록 남긴 기록이다.

Nuix Neo AI Agent는 생성한 답변을 원본 문서와 연결한다.

사용자는 AI의 설명에 포함된 주장이 실제로 어떤 자료에서 나왔는지 확인할 수 있다.

또한 에이전트가 수행한 도구 호출과 중간 작업을 기록한다.

조사자는 전체 대화와 작업 과정, 발견된 자료를 내보낼 수 있다.

이러한 기능은 법률과 규제 분야에서 중요하다.

실제 조사 결과가 법원이나 규제기관에 제출될 경우, 판단의 근거와 자료의 처리 과정이 검토 대상이 될 수 있기 때문이다.

하지만 작업 기록이 남아 있다는 사실만으로 AI의 판단이 정확하다고 보장할 수는 없다.

기록된 근거가 실제 주장을 뒷받침하는지, 검색에서 중요한 자료가 빠지지 않았는지 확인해야 한다.

고객이 선택한 모델과 기존 접근권한 유지

Nuix Neo AI Agent는 Nuix Neo Gen AI Framework를 기반으로 작동한다.

이 구조에서는 고객이 지원되는 언어모델 가운데 하나를 선택할 수 있다.

모델은 Nuix가 기존에 처리하고 정리한 데이터 계층에 접근해 작업을 수행한다.

여기서 중요한 것은 모델이 접근할 수 있는 자료에 기존 사용자 권한을 적용한다는 점이다.

예를 들어 특정 조사자가 열람할 수 없는 사건 자료가 있다면 AI 에이전트 역시 해당 자료에 접근해서는 안 된다.

이를 RBAC(Role-Based Access Control, 역할 기반 접근제어)라고 한다.

사용자의 직무와 역할에 따라 접근할 수 있는 데이터와 기능을 제한하는 방식이다.

Nuix는 관리자가 에이전트의 사용량과 지출 한도를 설정하고, 프롬프트와 응답에 대한 안전 규칙도 적용할 수 있다고 설명한다.

이번 발표는 AI 에이전트의 역할이 문서를 요약하는 수준에서 복잡한 자료를 조사하고 증거 사이의 관계를 찾아내는 전문 업무로 확대되고 있음을 보여준다.

특히 법률·규제 분야에서는 AI의 답변 품질뿐 아니라 근거의 추적 가능성과 작업 과정의 재현성, 접근권한 통제가 중요한 제품 요구사항이라는 점을 드러낸다.

---

3️⃣ 개발 도구·에이전트

IBM Research, 네 종류의 시계열 AI를 결합한 ‘Granite Timeseries Ensemble’ 공개…추가 학습 없이 예측값과 불확실성 반환

• 발표일: 2026-10-22 — 정확한 게시 시각 미확인
• 적용 범위: 오픈소스 머신러닝, 시계열 예측, 수요·매출 예측, 설비 데이터 분석, 모델 앙상블, Python
• 원문: IBM Research — Ensemble forecasting with IBM Granite time-series models
• 관련 원문: Hugging Face — Granite Timeseries Ensemble R1

IBM Research가 서로 다른 네 종류의 시계열 예측 모델을 하나의 실행 인터페이스로 연결하는 Granite Timeseries Ensemble R1을 공개했다.

이번 발표는 새로운 대형 언어모델을 학습한 결과가 아니다.

이미 공개돼 있던 네 종류의 시계열 모델을 별도의 추가 학습 없이 함께 실행하고 예측 결과를 결합하는 오픈소스 도구를 제공한 것이다.

시계열 데이터는 시간 순서에 따라 기록된 숫자들의 집합이다.

예를 들어 일별 매출과 전력 사용량, 서버의 CPU 사용률, 공장의 온도 기록 등이 시계열 데이터에 해당한다.

기업은 이런 데이터를 이용해 미래의 수요나 설비 상태를 예측할 수 있다.

문제는 하나의 모델이 모든 시계열에서 가장 좋은 결과를 만드는 것은 아니라는 점이다.

어떤 모델은 반복적인 계절 패턴을 잘 처리하지만 다른 모델은 갑작스러운 변화나 복잡한 장기 추세에 더 적합할 수 있다.

IBM은 이를 해결하기 위해 여러 모델의 예측을 하나의 결과로 결합하는 앙상블(Ensemble) 접근을 사용했다.

서로 다른 네 가지 모델 구조 결합

기본 구성에는 다음 네 가지 모델이 사용된다.

각 모델은 시계열의 패턴을 서로 다른 방식으로 학습한다.

Transformer는 입력의 여러 시점 사이의 관계를 계산하는 Attention 구조를 중심으로 한다.

State Space Model은 과거 정보를 내부 상태에 요약해 순차적으로 처리하는 모델 구조다.

Tiny Time Mixers는 상대적으로 가벼운 신경망 구조를 사용해 시계열의 특징을 학습한다.

이처럼 서로 다른 구조를 사용하면 모델이 만들어내는 오류의 특성도 달라질 수 있다.

예를 들어 특정 기간에 한 모델이 큰 오차를 만들더라도 다른 모델은 상대적으로 정확한 예측을 할 수 있다.

앙상블은 이런 차이를 이용해 단일 모델에 의존하는 위험을 줄이려는 방식이다.

하나의 값이 아니라 예측 범위까지 반환

Granite Timeseries Ensemble은 단순히 미래의 숫자 하나만 반환하지 않는다.

미래 값의 중앙값과 여러 분위수(Quantile)도 반환할 수 있다.

분위수는 확률분포에서 특정 비율에 해당하는 값을 의미한다.

예를 들어 10% 분위수와 90% 분위수를 이용하면 중앙 80%에 해당하는 예측 구간을 구성할 수 있다.

어떤 상품의 다음 주 판매량 중앙값이 1,000개이고 10%와 90% 분위수가 각각 800개와 1,300개라고 가정해 보자.

이는 모델이 판매량을 하나의 고정된 숫자로만 예측하는 대신 미래에 발생할 수 있는 값의 범위를 함께 표현한다는 의미다.

다만 모델이 80% 구간이라고 제시했다고 해서 실제 값이 항상 약 80%의 사례에서 그 안에 들어간다는 보장은 없다.

이를 확인하려면 과거 데이터에서 여러 번 예측을 수행해 실제 관측값이 해당 구간에 얼마나 자주 포함되는지 검사해야 한다.

이런 과정을 Calibration(확률 보정 상태의 검증)이라고 한다.

두 가지 앙상블 방법

IBM은 두 가지 결과 결합 방법을 제공한다.

첫 번째는 Probabilistic Ensemble이다.

이 방식은 네 모델의 예측에 동일한 비중을 부여한다.

복잡한 가중치를 추가로 학습하지 않고 여러 모델의 예측분포를 결합한다.

두 번째는 IQR Ensemble이다.

IQR은 Interquartile Range(사분위 범위)의 약자다.

예측분포의 가운데 50%가 얼마나 넓게 퍼져 있는지 나타낸다.

IQR Ensemble은 각 모델이 제시한 예측 범위의 넓이에 따라 비중을 조정한다.

예를 들어 특정 모델이 상대적으로 좁은 예측 구간을 제시하면 그 모델의 결과에 더 높은 비중을 줄 수 있다.

하지만 예측 구간이 좁다고 해서 반드시 더 정확한 것은 아니다.

모델이 자신의 예측을 지나치게 확신하는 경우에는 오히려 잘못된 결과에 높은 비중을 줄 위험이 있다.

IBM은 이런 한계를 인정하고 실제 데이터에서 두 방법을 비교하도록 권장한다.

97개 평가에서 단일 모델과 비교

IBM은 GIFT-Eval의 97개 데이터 구성을 이용해 앙상블을 평가했다.

GIFT-Eval은 다양한 시계열 예측 모델을 비교하기 위한 벤치마크다.

대표적인 평가지표는 MASE와 CRPS/MWQL이다.

MASE는 예측 오차를 단순한 기준 예측과 비교해 정규화한 지표다.

CRPS/MWQL은 미래 값의 확률분포나 분위수 예측이 얼마나 적절한지 평가한다.

두 지표 모두 이번 비교에서는 낮을수록 좋다.

IBM이 공개한 결과는 다음과 같다.

Probabilistic Ensemble은 MASE에서 네 개별 모델보다 좋은 결과를 기록했다.

하지만 개선 폭은 매우 작았다.

가장 강한 단일 모델인 PatchTST-FM-r2의 0.685와 비교하면 0.002 차이였다.

확률적 예측 품질을 나타내는 CRPS/MWQL에서는 오히려 PatchTST-FM-r2가 더 좋은 점수를 기록했다.

따라서 앙상블이 모든 지표에서 가장 높은 성능을 기록했다고 볼 수는 없다.

IBM은 이번 기술의 장점을 특정 데이터에 가장 적합한 모델을 미리 선택하지 않아도 비교적 안정적인 결과를 얻을 수 있다는 점으로 설명한다.

이 수치들은 IBM이 공개한 비교 결과이며, 모든 실제 업무에서 앙상블이 단일 모델보다 정확하다는 의미는 아니다.

추가 학습은 필요 없지만 실행 비용은 증가할 수 있다

이번 도구는 네 모델의 가중치를 하나로 합치는 방식이 아니다.

실행 시점에 각 모델을 불러와 예측을 수행하고 결과를 결합한다.

따라서 새로운 데이터셋에 적용하기 위해 앙상블 가중치를 다시 학습할 필요는 없다.

하지만 모델 네 개를 실행하므로 단일 모델보다 더 많은 메모리와 추론 시간이 필요할 수 있다.

실제로 IBM은 이런 비용을 평가할 필요가 있다고 명시했다.

또한 기본 구성의 모델과 코드에는 폭넓은 사용을 허용하는 라이선스가 적용되지만, 사용자가 외부 모델을 추가할 경우 해당 모델의 라이선스는 별도로 확인해야 한다.

이번 발표는 AI 모델의 활용이 특정한 모델 하나를 선택하는 방식에서 벗어나 여러 모델의 장점을 결합하고, 예측의 정확도와 불확실성·운영 비용을 함께 관리하는 방식으로 발전할 수 있음을 보여준다.

---

4️⃣ 산업·정책·안전

METR·Redwood Research, OpenAI 내부 AI 에이전트 감시 시스템의 우회 가능성 공개…외부 연구자에게 내부 코드 접근 허용

• 발표일: 2026-10-22 — 정확한 게시 시각 미확인
• 적용 범위: 프런티어 AI 안전, 코딩 에이전트, 내부 위험 감시, 독립 보안 평가, 샌드박스, AI 거버넌스
• 원문: METR — Red-Teaming OpenAI's Internal Agent Monitoring Systems

AI 안전 평가기관 METR와 Redwood Research가 OpenAI 내부의 에이전트 위험 감시 시스템을 조사한 결과를 공개했다.

이번 발표의 중요한 특징은 외부 연구자들이 단순히 공개 API로 모델에 위험한 질문을 입력한 것이 아니라 OpenAI의 실제 내부 코드와 시스템 설정, 기술 문서에 접근해 안전장치의 구조를 조사했다는 점이다.

연구는 2026년 7월 21일부터 8월 11일까지 약 3주 동안 진행됐다.

METR 연구원 한 명과 Redwood Research 연구원 한 명이 참여했다.

연구원들은 OpenAI가 제공한 컴퓨터를 사용하고, OpenAI 직원들이 함께 있는 환경에서 내부 시스템을 검토했다.

또한 위험 감시와 보안 시스템을 담당하는 약 12명의 연구자·엔지니어를 인터뷰했다.

실제 조사 결과는 61쪽의 내부 보고서로 정리됐다.

다만 공개된 자료는 전체 보고서가 아니라 주요 내용을 요약한 것이다.

따라서 외부 독자가 모든 취약점의 세부 사항을 직접 재현할 수 있는 것은 아니다.

AI 에이전트의 행동을 별도로 감시하는 이유

일반적인 AI 챗봇에서는 사용자가 질문하면 모델이 텍스트로 답변한다.

하지만 코딩 에이전트는 실제 파일을 수정하거나 프로그램을 실행할 수 있다.

이런 시스템에서는 모델이 위험한 답변을 생성하지 않도록 만드는 것뿐 아니라 실제로 수행한 행동을 감시하는 기능이 중요하다.

예를 들어 모델이 파일을 삭제하거나 외부 서버에 데이터를 전송하는 명령을 실행하려 할 수 있다.

또한 외부 문서에 포함된 악의적인 지시를 정상적인 사용자 요청으로 잘못 받아들일 가능성도 있다.

이를 Prompt Injection(프롬프트 인젝션)이라고 한다.

Prompt Injection은 모델이 읽는 문서나 웹페이지 등에 지시를 숨겨 원래 사용자의 의도와 다른 행동을 하도록 유도하는 공격이다.

OpenAI는 이런 위험을 확인하기 위해 별도의 Misalignment Monitoring(목표 불일치 행동 감시) 시스템을 사용하고 있다.

여기서 목표 불일치는 모델이 사용자가 허용한 목표나 시스템의 안전 규칙과 다르게 행동하는 상황을 의미한다.

감시 시스템은 에이전트의 실행 기록을 확인하고, 위험한 행동의 가능성이 있는지 평가한다.

감시 대상으로 지정된 요청과 실제로 검사된 요청은 다르다

METR는 먼저 어떤 에이전트 실행이 감시 대상에 포함되는지 분석했다.

연구팀은 조사 당시 GPT-5.5 이상 수준의 모델을 사용하는 내부 에이전트 요청 가운데 약 75~94%가 감시 대상에 포함될 자격을 갖췄다고 추정했다.

OpenAI 내부 Codex 에이전트 요청으로 범위를 좁히면 해당 비율은 약 99.2%였다.

여기서 중요한 구분이 있다.

감시 대상에 포함될 자격이 있다는 사실이 실제로 모든 행동이 검사됐다는 뜻은 아니다.

특정 요청이 감시 대상으로 설정돼 있더라도 실행 기록이 누락되거나 감시가 적절한 시점에 호출되지 않으면 문제가 발생할 수 있다.

또한 METR는 이 추정치에 상당한 불확실성이 있다고 명시했다.

따라서 75~94%를 현재 운영 중인 전체 OpenAI 시스템의 정확한 감시 비율로 해석해서는 안 된다.

컨텍스트 압축 과정에서 감시가 누락될 수 있었다

METR가 확인한 문제 가운데 하나는 Compaction(컨텍스트 압축)과 관련돼 있었다.

AI 에이전트는 장시간 작업을 수행하면서 많은 대화와 도구 실행 기록을 쌓는다.

모델이 한 번에 참고할 수 있는 정보의 범위에는 한계가 있으므로 오래된 기록을 요약하거나 압축할 수 있다.

이 과정을 컨텍스트 압축이라고 한다.

조사 당시 OpenAI의 감시 시스템은 에이전트가 사용자에게 제어권을 반환하는 시점에 주로 실행됐다.

그런데 컨텍스트 압축이 발생한 경우 일부 실행 기록이 정상적으로 검사되지 않을 가능성이 있었다.

METR는 이 문제로 인해 2026년 5월부터 7월 사이 내부 Codex의 감시 대상 트래픽 가운데 약 10%가 실제 검사에서 누락됐을 가능성을 추정했다.

정확한 비율에는 불확실성이 있었다.

중요한 점은 이 문제가 METR의 조사 이전에 OpenAI 내부에서 이미 발견된 상태였다는 사실이다.

OpenAI는 METR의 조사 기간에 해당 문제를 수정했다.

따라서 이 사례를 10월 22일 현재도 같은 문제가 그대로 존재한다는 근거로 사용해서는 안 된다.

샌드박스와 감시 시스템을 우회할 수 있는 경로 발견

METR는 일부 에이전트가 이론적으로 Codex의 실행 샌드박스와 자동 검토 체계를 우회할 수 있는 경로도 발견했다.

Sandbox(샌드박스)는 프로그램이 접근할 수 있는 파일과 네트워크, 시스템 자원을 제한하는 실행 환경이다.

코딩 에이전트에 샌드박스를 사용하는 이유는 모델이 잘못된 명령을 실행하더라도 영향 범위를 제한하기 위해서다.

하지만 실제 샌드박스의 경계가 올바르게 구성되지 않으면 에이전트가 허용되지 않은 행동을 수행할 가능성이 있다.

연구팀은 일부 조건에서 에이전트가 호스트 사용자의 권한에 해당하는 행동을 수행할 수 있는 경로를 발견했다고 밝혔다.

또한 최근 수백 개의 행동이 감시 기록에 포함되지 않도록 만들 가능성이 있는 문제도 확인했다.

일부 발견사항은 실제 악용 가능성을 끝까지 검증한 것이 아니라 구조적인 분석을 통해 확인한 가능성이었다.

METR는 다른 일부 도구에서도 접근권한 제한을 우회할 가능성을 발견했지만, 해당 방식이 실제로 악용 가능한지 검증하지는 못했다고 명시했다.

이런 차이는 중요하다.

잠재적인 우회 경로를 발견했다는 사실과 실제 악의적인 에이전트가 해당 경로를 이용해 사고를 일으켰다는 사실은 다르기 때문이다.

감시 모델에게 전달되는 기록 자체도 중요

연구팀은 감시 시스템이 에이전트의 전체 행동 기록을 올바르게 받는지도 조사했다.

그 결과 일부 예외를 제외하면 감시 시스템에는 에이전트가 볼 수 있는 실행 기록이 전달되고 있었다.

또한 감시 시스템의 지침에는 기만과 사보타주, 데이터 유출, 프롬프트 인젝션과 감시 우회 같은 위험 유형을 탐지하도록 하는 내용이 포함돼 있었다.

그러나 감시 모델이 위험한 행동을 찾도록 잘 학습됐더라도 정작 중요한 실행 기록을 전달받지 못하면 해당 행동을 검사할 수 없다.

따라서 AI 에이전트 안전에서는 감시 모델의 성능뿐 아니라 로그 수집과 전달, 실행 권한의 관리가 함께 중요하다.

이번 결과는 일반적인 보안 시스템의 원칙과도 연결된다.

실제 프로그램이 보안 감시를 중단하거나 자신에게 불리한 기록을 삭제할 수 있다면 감시 시스템의 효과가 약해질 수 있다.

따라서 감시 시스템은 가능한 한 검사 대상 프로그램과 독립적으로 작동하도록 설계할 필요가 있다.

OpenAI는 수정 완료를 밝혔지만 독립 재검증은 이뤄지지 않았다

METR의 보고서에 따르면 OpenAI는 조사 이후 실제 운영 안전장치에 영향을 주는 발견된 취약점을 모두 수정했다고 밝혔다.

또한 감시 범위를 확대하는 추가적인 변경도 진행했다고 설명했다.

하지만 METR는 이러한 후속 변경과 수정 결과를 독립적으로 재검증하지 않았다고 명시했다.

따라서 이번 연구 결과를 현재 OpenAI의 모든 에이전트 감시 시스템이 취약하다는 근거로 해석해서는 안 된다.

반대로 회사가 수정했다고 발표했다는 사실만으로 독립적인 검증까지 완료됐다고 볼 수도 없다.

또한 이번 연구는 7월 21일 당시 존재했던 시스템을 중심으로 평가했다.

조사 중 또는 이후에 적용된 새로운 구조의 실제 감시 범위를 측정한 결과는 아니다.

이번 발표는 프런티어 AI의 안전성 평가가 단순히 모델의 답변을 시험하는 단계를 넘어 실제 에이전트가 실행되는 내부 인프라와 안전장치 자체를 외부 연구자가 검토하는 방식으로 확대되고 있음을 보여준다.

---

유럽 광고·출판업계, Meta의 새 상업 약관에 반발…AI 콘텐츠 사용권 확대 우려로 EU·영국 규제기관에 중단 요청

• 보도 시각: 2026-10-22 23:11 KST
• 적용 범위: 생성형 AI 저작권, 웹 콘텐츠 이용, 디지털 광고, 유럽 경쟁법, 영국 디지털 시장 규제
• 원문 보도: Reuters — Publishers, advertisers call EU, UK antitrust regulators to suspend Meta's new commercial terms
• 출처 한계: 이번 항목은 Reuters의 취재 보도와 관련 당사자의 공식 입장을 기준으로 정리했다. 분쟁 대상 약관의 전체 문구를 직접 대조한 결과가 아니므로 법적 효과는 확정된 사실로 서술하지 않는다.

유럽의 디지털 광고·출판 관련 단체가 Meta의 새로운 상업 약관을 중단해 달라고 유럽연합과 영국 경쟁당국에 요청했다.

이번 사건은 AI 개발사가 웹 콘텐츠를 어떤 범위까지 이용할 수 있는지에 관한 분쟁과 연결돼 있다.

문제를 제기한 단체는 Movement for an Open Web이다.

이 단체에는 디지털 광고와 출판 관련 기업들이 참여하고 있다.

단체는 Meta가 2026년 10월 30일부터 적용할 예정인 새로운 상업 약관이 콘텐츠 제공업체의 권리를 지나치게 넓은 범위로 제한할 수 있다고 주장했다.

특히 Meta가 자사 플랫폼을 이용하는 기업의 콘텐츠를 AI 서비스에 활용할 수 있는 권한을 과도하게 확보할 가능성이 있다는 것이다.

다만 이 주장은 현재 문제를 제기한 단체의 해석이다.

규제기관이나 법원이 약관의 위법성을 인정한 것은 아니다.

플랫폼 사업자의 약관이 AI와 연결되는 이유

많은 기업은 자사의 콘텐츠와 상품을 홍보하기 위해 Meta의 광고·비즈니스 서비스를 사용한다.

예를 들어 온라인 쇼핑몰은 상품 이미지와 설명을 광고에 사용한다.

언론사는 기사 콘텐츠를 홍보하거나 독자에게 전달하기 위해 소셜미디어를 활용할 수 있다.

플랫폼 사업자는 서비스를 운영하기 위해 이용자가 제공한 콘텐츠를 저장하거나 표시할 수 있는 일정한 이용 권한을 필요로 한다.

문제는 이런 권한이 서비스 운영을 위한 제한적인 사용인지, 아니면 별도의 AI 제품 개발과 제공에까지 활용할 수 있는 권한인지에 따라 경제적 의미가 달라진다는 점이다.

예를 들어 쇼핑몰이 광고를 게재하기 위해 상품 이미지를 Meta에 제공했다고 가정해 보자.

해당 이미지를 광고 화면에 표시하는 것과, 이미지를 다른 AI 서비스의 학습이나 상업적인 콘텐츠 생성에 사용하는 것은 서로 다른 문제일 수 있다.

Movement for an Open Web은 Meta의 새로운 약관이 이런 사용 범위를 지나치게 확대할 수 있다고 주장했다.

출판업계는 콘텐츠 사용권과 경쟁 문제를 함께 제기

이번 단체는 새로운 약관이 단순한 저작권 문제를 넘어 경쟁법 문제도 발생시킬 수 있다고 주장했다.

그 이유는 Meta의 플랫폼을 이용하는 기업들이 실제로 약관을 거부하기 어려울 수 있다는 것이다.

예를 들어 광고주가 특정 플랫폼에 크게 의존하고 있다면 약관이 마음에 들지 않아도 서비스를 중단하기 어려울 수 있다.

이를 Switching Cost(전환 비용)라고 한다.

다른 서비스로 이전할 때 발생하는 비용과 고객 접근성의 감소, 업무 절차 변경 등의 부담을 의미한다.

단체는 이런 상황에서 플랫폼 사업자가 광범위한 콘텐츠 사용권을 요구하면 기업이 불리한 조건을 받아들일 수밖에 없다고 주장한다.

이에 따라 유럽연합 집행위원회와 영국 경쟁시장청 CMA(Competition and Markets Authority)에 임시 조치를 요청했다.

임시 조치는 최종 법적 판단이 내려지기 전에 회복하기 어려운 피해를 막기 위해 특정 행위를 일시적으로 제한하는 조치다.

그러나 임시 조치를 요청했다는 사실만으로 규제기관이 실제로 해당 조치를 내렸다는 의미는 아니다.

Meta는 AI 콘텐츠 수집 권한 확대를 부인

Meta는 단체의 주장에 동의하지 않는다는 입장을 밝혔다.

Meta는 이번 약관 변경이 광고와 비즈니스 제품에 적용되는 기존의 콘텐츠 관련 약관을 통합·명확화한 것이라고 설명했다.

또한 웹 크롤러의 동작 방식이나 콘텐츠 수집 권한을 새롭게 확대하는 조치가 아니라고 밝혔다.

Crawler(크롤러)는 웹사이트를 자동으로 방문해 정보를 찾고 수집하는 프로그램이다.

Meta는 웹사이트 운영자가 robots.txt를 이용해 크롤러의 접근에 관한 선호를 표시할 수 있으며, 새로운 약관이 이런 기존 통제 방식을 무효화하는 것은 아니라고 주장했다.

robots.txt는 웹사이트 운영자가 자동화된 프로그램에 특정 경로의 수집을 허용하거나 제한하는 의사를 표시하는 파일이다.

따라서 이번 분쟁에서 중요한 것은 새로운 약관이 실제로 어떤 권리를 부여하고, 기존의 웹 콘텐츠 접근 제한과 어떻게 상호작용하는가이다.

그 판단에는 실제 약관의 문구와 적용 대상, 관련 법률의 검토가 필요하다.

규제기관은 검토 단계

Reuters에 따르면 영국 CMA는 Meta와 약관 변경에 관해 논의했으며 추가 대응을 검토하고 있다고 밝혔다.

유럽연합 집행위원회도 관련 민원을 접수했고 일반적인 절차에 따라 평가하겠다고 설명했다.

하지만 보도 시점에는 약관 적용을 중단하라는 명령이나 위법성에 대한 최종 판단이 내려지지 않았다.

이번 사건은 생성형 AI 시대에 플랫폼에서 콘텐츠를 유통하기 위해 부여한 권한과 해당 콘텐츠를 AI에 활용하는 권한을 어디까지 동일하게 볼 수 있는가라는 문제가 중요한 법적 쟁점으로 등장하고 있음을 보여준다.

특히 광고와 검색, 소셜미디어처럼 많은 콘텐츠가 유통되는 플랫폼에서는 콘텐츠 사용권과 시장 지배력에 관한 논의가 함께 발생할 수 있다.

---

📚 추천 글

Sort your prompts: a free speed-up for MoE batch inference

• 저자: Abdennacer Badaoui
• 발행: Hugging Face Community / 독립 엔지니어링 연구
• 게시일: 2026-10-19
• 원문: Hugging Face — Sort your prompts: a free speed-up for MoE batch inference

AI 모델의 추론 속도를 높이려면 반드시 새로운 GPU 커널을 개발하거나 모델 구조를 변경해야 할까?

이 글은 같은 모델과 추론 엔진을 그대로 사용하면서 요청의 처리 순서만 변경해 성능을 개선한 실험을 소개한다.

특히 모델을 수정하지 않고 입력 데이터의 배치 구성을 변경하는 것만으로 실제 처리량이 증가했다는 점이 흥미롭다.

MoE 모델에서는 어떤 요청을 함께 처리하는지가 중요하다

최근 대형 언어모델에는 MoE(Mixture of Experts) 구조가 많이 사용된다.

MoE는 여러 전문 신경망 가운데 현재 입력에 필요한 일부만 선택적으로 실행하는 구조다.

예를 들어 Qwen3-30B-A3B는 전체 약 300억 파라미터 가운데 토큰마다 일부 전문가 네트워크만 활성화한다.

이때 어떤 전문가를 사용할지 결정하는 구성요소를 Router(라우터)라고 한다.

라우터는 입력 토큰의 특징에 따라 실행할 전문가를 선택한다.

그런데 실제 GPU에서는 여러 사용자의 요청을 동시에 처리하는 경우가 많다.

이를 Batch Inference(배치 추론)라고 한다.

예를 들어 코드 작성 요청 10개와 수학 문제 10개, 프랑스어 번역 요청 10개를 하나의 배치에 넣을 수 있다.

문제는 서로 다른 종류의 요청이 서로 다른 전문가 네트워크를 사용할 가능성이 있다는 것이다.

하나의 배치에서 많은 전문가가 활성화되면 GPU는 여러 전문가의 가중치를 메모리에서 읽어야 한다.

Memory Bandwidth(메모리 대역폭)는 일정 시간 동안 메모리에서 읽거나 쓸 수 있는 데이터의 양이다.

언어모델의 출력 토큰 생성 단계에서는 이 대역폭이 중요한 성능 제약이 될 수 있다.

비슷한 작업을 한 배치에 모으면 메모리 접근이 줄어든다

저자는 코드와 수학, 일반 문장, 프랑스어·아랍어·중국어 요청을 비교했다.

분석에는 768개의 프롬프트가 사용됐다.

프롬프트는 사용자가 모델에 전달하는 입력 메시지나 작업 지시를 의미한다.

연구 결과, 같은 분야의 요청들은 비슷한 전문가 네트워크를 사용하는 경향이 있었다.

예를 들어 코드 생성 요청들이 주로 사용하는 전문가의 집합과 자연어 문장 작성 요청들이 주로 사용하는 전문가의 집합은 완전히 같지 않았다.

따라서 서로 다른 종류의 요청을 무작위로 섞는 것보다 비슷한 요청끼리 묶는 것이 활성화되는 전문가의 전체 수를 줄일 수 있다.

저자는 실제 라우팅 기록을 분석해 같은 분야의 요청을 묶으면 MoE 계층에서 읽어야 하는 전문가 수가 줄어드는 것을 확인했다.

특히 128개의 전문가를 사용하는 모델에서는 분야별 배치가 무작위 배치보다 19~25% 적은 전문가를 활성화하는 결과를 기록했다.

하지만 전문가 수가 줄었다는 사실이 전체 추론 속도가 같은 비율로 높아진다는 의미는 아니다.

언어모델은 전문가 네트워크 외에도 Attention과 KV Cache 관리, 출력 토큰 선택 등의 계산을 수행하기 때문이다.

기존 vLLM을 변경하지 않고 실험

저자는 실제 추론 엔진인 vLLM에서 성능을 측정했다.

vLLM은 여러 사용자의 언어모델 요청을 효율적으로 처리하기 위한 오픈소스 추론 엔진이다.

실험에는 AMD MI300X GPU가 사용됐다.

모델의 구조나 GPU 연산 커널, 스케줄러는 변경하지 않았다.

입력 프롬프트를 정렬해 비슷한 요청끼리 실행되도록 만든 것이 핵심적인 변경이었다.

그 결과는 다음과 같았다.

Qwen3-30B-A3B의 배치 크기 32 조건에서는 처리량이 초당 1,949토큰에서 2,286토큰으로 증가했다.

약 17.3% 개선된 결과다.

이 수치는 저자가 공개한 재현 가능한 자체 실험 결과다.

모든 GPU와 MoE 모델에서 같은 개선 효과가 나타난다는 의미는 아니다.

요청을 분류하지 않아도 비슷한 요청을 묶을 수 있다

실제 서비스에서는 요청마다 코드 작성이나 수학, 번역 같은 분야 정보가 명확하게 표시돼 있지 않을 수 있다.

저자는 이런 상황에서 임베딩 모델을 활용하는 방법도 시험했다.

임베딩은 문장의 의미를 숫자 벡터로 표현하는 기술이다.

비슷한 의미를 가진 요청은 벡터 공간에서도 가까운 위치에 나타날 가능성이 있다.

저자는 작은 임베딩 모델을 이용해 요청을 여러 집단으로 분류한 뒤, 비슷한 요청끼리 실행하도록 구성했다.

이 방식에서도 Qwen3-30B-A3B의 처리량이 약 5% 증가했다.

다만 임베딩을 계산하고 요청을 정렬하는 과정에도 추가 비용이 필요하다.

따라서 모든 상황에서 이 방법이 유리한 것은 아니다.

온라인 서비스에서는 대기시간이 문제가 된다

이 방법이 가장 적합한 환경은 대량의 요청을 미리 확보한 오프라인 배치 작업이다.

예를 들어 합성 데이터 생성이나 대규모 평가, 문서 분류처럼 수많은 요청을 한꺼번에 처리하는 작업에 사용할 수 있다.

반면 실시간 챗봇에서는 문제가 생길 수 있다.

비슷한 요청을 모으기 위해 새로 도착한 요청을 오래 대기시키면 사용자가 첫 답변을 받기까지 걸리는 시간이 증가할 수 있기 때문이다.

또한 Dense 모델처럼 매번 전체 파라미터를 사용하는 구조에서는 같은 효과를 기대하기 어렵다.

이번 글의 중요한 부분은 AI 추론 성능을 높이기 위해 반드시 모델이나 하드웨어를 변경할 필요는 없다는 점이다.

작업의 특성을 분석하고 입력 요청을 효율적으로 배치하는 것만으로도 실제 GPU 사용량을 줄일 수 있다는 사례다.

---

Do we really need bigger AI weather forecasting models to improve resolution?

• 저자: Emma Scharfmann, Aritra Roy Gosthipaty, Kashif Rasul
• 발행: Hugging Face Community
• 게시일: 2026-10-20
• 원문: Hugging Face — Do we really need bigger AI weather forecasting models to improve resolution?

기상 예측의 해상도를 높이려면 반드시 더 거대한 AI 모델을 만들어야 할까?

이 글은 상대적으로 작은 AI 모델을 기존의 기상 예측 시스템 뒤에 연결하는 방식으로 지역별 기온 예측을 더 세밀하게 개선한 실험을 소개한다.

단순히 새로운 모델의 성능 점수를 발표하는 자료가 아니라 실제 데이터를 이용한 학습 과정과 평가 방법, 한계까지 설명한다는 점에서 읽어볼 가치가 있다.

기존 글로벌 기상 모델의 해상도 문제

기상 예측 모델은 지구를 여러 격자로 나누어 계산한다.

예를 들어 하나의 격자가 28km 크기라면 그 안에 포함된 다양한 지형의 특징이 평균화될 수 있다.

하지만 실제 기온은 작은 지역 안에서도 크게 달라질 수 있다.

같은 지역의 산 정상과 계곡은 기온이 다를 수 있다.

바다와 가까운 지역도 내륙과 다른 기온 변화를 보일 수 있다.

따라서 넓은 지역의 기상 패턴을 잘 예측하는 모델이라도 국지적인 기온 차이를 충분히 표현하지 못할 수 있다.

이를 해결하는 방법 가운데 하나는 처음부터 더 작은 격자로 예측하는 모델을 만드는 것이다.

하지만 격자 크기를 줄이면 필요한 데이터와 계산량이 크게 증가할 수 있다.

저자들은 이런 문제를 해결하기 위해 Downscaling(다운스케일링)을 사용했다.

다운스케일링은 큰 격자 단위의 기상 정보를 더 작은 지역 단위의 정보로 변환하는 기술이다.

작은 모델이 지역별 차이를 학습

연구팀은 기존의 글로벌 예측 결과에 작은 신경망을 연결했다.

이 모델은 U-Net이라는 구조를 사용한다.

U-Net은 이미지와 공간 데이터를 처리하는 데 자주 사용되는 신경망 구조다.

모델의 파라미터 수는 약 200만 개였다.

매우 큰 언어모델과 비교하면 작은 규모다.

연구팀은 거친 해상도의 기상 자료와 세밀한 해상도의 자료를 비교하면서 두 자료 사이의 차이를 학습시켰다.

이 과정에서 지형 높이와 해안까지의 거리, 위도와 경도, 계절과 시간대 정보를 추가로 사용했다.

이런 정보는 기온의 지역적 차이를 설명하는 데 도움이 될 수 있다.

예를 들어 같은 큰 격자 안에서도 해발고도가 높은 지역은 기온이 낮을 수 있다.

연구팀은 모델이 이런 관계를 학습해 기존 예측에서 빠진 지역적 특징을 보완하도록 했다.

약 한 시간 학습으로 28km를 5.5km 해상도로

연구팀은 프랑스의 기온 데이터를 이용해 모델을 학습시켰다.

기존 예측의 해상도는 약 28km였다.

다운스케일링 이후에는 약 5.5km 해상도의 결과를 생성했다.

학습에는 약 한 시간의 GPU 계산이 필요했다.

연구팀은 유럽중기예보센터의 AIFS-ENS 예측을 입력으로 사용했다.

이후 실제 프랑스 기상 관측소의 데이터를 이용해 예측 오차를 평가했다.

대표적인 결과는 다음과 같다.

RMSE(Root Mean Squared Error)는 실제 관측값과 예측값 사이의 차이를 측정하는 지표다.

CRPS(Continuous Ranked Probability Score)는 확률분포 형태의 예측이 실제 관측값과 얼마나 잘 일치하는지 평가하는 지표다.

두 지표 모두 일반적으로 낮을수록 좋은 예측을 의미한다.

이번 실험에서는 작은 다운스케일링 모델을 추가한 뒤 두 지표가 개선됐다.

다만 이는 연구팀이 프랑스의 특정 기온 데이터와 모델을 사용해 측정한 결과다.

모든 국가와 기상 변수에서 같은 개선이 나타난다는 의미는 아니다.

기존 모델이 잘못 예측한 전체 기상 패턴은 고칠 수 없다

이 글에서 특히 중요한 부분은 다운스케일링의 한계를 명확하게 설명한다는 점이다.

다운스케일링 모델은 지역적인 지형 차이를 보완할 수 있다.

하지만 기존 글로벌 기상 모델이 매우 큰 규모의 기상 패턴을 잘못 예측했다면 그 오류를 완전히 해결하기 어렵다.

예를 들어 실제로는 강한 한랭전선이 지나오는데 원래 예측 모델이 이를 놓쳤다면, 다운스케일링만으로 해당 한랭전선을 새롭게 정확하게 만들어내기는 어렵다.

또한 지형 정보가 입력에 포함되지 않았다면 모델이 해당 지형의 영향을 정확하게 복원하기 어려울 수 있다.

이는 일반적인 AI 시스템 설계에도 적용할 수 있는 관점이다.

기존 모델이 잘하는 작업은 그대로 유지하면서 부족한 특정 기능만 작은 전문 모델로 보완하는 방식이 언제나 거대한 새 모델을 만드는 것보다 효율적일 수 있다는 것이다.

---

How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage

• 저자: Andrew Hoyle
• 발행: NVIDIA Technical Blog
• 게시일: 2026-10-22
• 원문: NVIDIA — How to Read Data into GPU Memory in Python with NVIDIA GPUDirect Storage

AI 모델의 계산 속도를 높이기 위해 GPU를 더 빠르게 만드는 것만큼 GPU에 데이터를 얼마나 효율적으로 전달하는가도 중요하다.

이 글은 저장장치에 있는 데이터를 Python 프로그램에서 GPU 메모리로 읽어오는 과정을 분석한다.

특히 데이터 전송이 실제로 GPU에 최적화된 경로를 사용했는지 검증하는 방법을 설명한다는 점에서 유용하다.

일반적인 데이터 전송 과정

AI 모델을 실행하려면 학습 데이터와 모델 가중치를 GPU 메모리로 가져와야 한다.

일반적인 시스템에서는 저장장치의 데이터를 먼저 CPU가 사용하는 메모리로 읽어온다.

이후 CPU 메모리의 데이터를 GPU 메모리로 전달한다.

이 방식은 범용적인 프로그램에서 널리 사용된다.

하지만 데이터가 매우 크고 GPU가 빠르게 계산하는 환경에서는 문제가 발생할 수 있다.

CPU 메모리를 거치는 데이터 복사 과정이 추가적인 시간과 시스템 자원을 사용하기 때문이다.

GPU가 충분히 빠르게 계산할 수 있더라도 필요한 데이터가 제때 도착하지 않으면 계산 장치가 기다려야 할 수 있다.

GPUDirect Storage가 해결하는 문제

NVIDIA의 GPUDirect Storage(GDS)는 지원되는 저장장치와 GPU 사이에서 데이터를 더 효율적으로 전달하도록 설계된 기술이다.

일부 조건에서는 CPU 메모리를 거치는 중간 복사 과정을 줄일 수 있다.

이를 위해 cuFile이라는 API가 사용된다.

API는 프로그램이 다른 프로그램이나 시스템의 기능을 호출하기 위한 인터페이스다.

cuFile은 저장장치와 GPU 메모리 사이의 데이터 전송을 관리한다.

하지만 cuFile은 C 언어 기반의 API이기 때문에 Python 개발자가 직접 사용하기에는 추가적인 구현이 필요할 수 있다.

NVIDIA는 이를 해결하기 위해 KvikIO라는 라이브러리를 제공한다.

KvikIO는 Python과 C++에서 고성능 파일 입출력을 수행하기 위한 인터페이스다.

개발자는 Python 프로그램에서 GPU 메모리에 데이터를 저장할 버퍼를 준비하고 KvikIO를 통해 파일을 읽을 수 있다.

cuFile을 사용했다고 반드시 GPU 직접 전송이 실행된 것은 아니다

이번 글에서 가장 중요한 부분은 라이브러리가 cuFile을 호출했다는 사실과 실제로 GPUDirect Storage 경로를 사용했다는 사실을 구분한다는 점이다.

KvikIO는 실행 환경에 따라 서로 다른 데이터 전송 경로를 선택할 수 있다.

GPUDirect Storage를 지원하지 않는 상황에서는 CPU 메모리를 거치는 호환 모드로 전환될 수 있다.

또한 KvikIO가 cuFile을 호출하더라도 cuFile이 내부적으로 호환 경로를 사용할 수 있다.

즉 프로그램이 오류 없이 실행됐다는 사실만으로 최적화된 경로가 사용됐다고 판단해서는 안 된다.

NVIDIA는 이를 확인하기 위해 gds_stats 등의 진단 도구를 사용하는 방법을 설명한다.

GPU 직접 전송 경로에 관한 통계와 일반적인 파일 입출력 경로의 통계를 비교해 실제 데이터 전송이 어떤 방식으로 수행됐는지 확인하는 것이다.

예를 들어 CUFILE_STATS_LEVEL=3 설정으로 관련 통계를 수집할 수 있다.

여기서 중요한 점은 성능 최적화를 적용했다고 생각하는 것과 실제로 최적화가 적용됐는지 측정하는 것이 다르다는 사실이다.

하드웨어 연결 구조도 성능에 영향을 준다

GPUDirect Storage의 실제 동작은 GPU와 저장장치의 연결 구조에도 영향을 받는다.

예를 들어 GPU와 NVMe 저장장치가 어떤 PCIe 경로를 통해 연결돼 있는지에 따라 데이터 전송 방식이 달라질 수 있다.

PCIe(Peripheral Component Interconnect Express)는 컴퓨터 내부에서 GPU와 저장장치 같은 장치를 연결하는 고속 통신 규격이다.

NVIDIA는 이번 글에서 H100 GPU와 NVMe 저장장치를 사용하는 실제 시험 환경을 소개했다.

해당 환경에서는 CUDA 13.3과 cuFile 1.18 등을 사용했다.

또한 시스템 설정과 파일 크기에 따라 다른 전송 경로가 선택될 수 있다는 점을 설명했다.

특히 매우 작은 파일 요청에서는 GPU 직접 전송을 위한 추가적인 준비 비용 때문에 일반적인 입출력 경로가 더 적합할 수도 있다.

따라서 모든 파일을 무조건 GPUDirect Storage로 처리하는 것이 최선은 아니다.

이번 글은 AI 인프라의 성능 문제가 단순히 GPU의 연산 능력에만 있는 것이 아니라는 점을 보여준다.

저장장치와 CPU, GPU 메모리 사이의 데이터 이동 경로를 이해하고 실제 실행 결과를 측정하는 작업도 AI 시스템 최적화의 중요한 부분이다.

대규모 모델 학습과 데이터 분석, 이미지 처리 파이프라인을 운영하는 개발자에게 참고할 만한 기술 자료다.

---

SlideOn & mSlideOn: Sparsified Late-Interaction and Dense Retrievers

• 저자: Paulo Moura, Raphael Sourty
• 발행: LightOn / Hugging Face
• 게시일: 2026-10-19
• 원문: LightOn — SlideOn & mSlideOn: Sparsified Late-Interaction and Dense Retrievers

AI 검색 시스템에서 정확한 검색 결과를 얻으려면 많은 계산과 저장공간이 필요할까?

LightOn의 이번 연구는 기존 검색 모델이 학습한 지식을 재사용하면서 검색에 필요한 데이터 표현을 더 가볍게 만드는 방법을 설명한다.

특히 RAG나 기업용 문서 검색 시스템에서 중요한 검색 정확도와 처리 속도, 인덱스 크기 사이의 관계를 이해하기 좋은 글이다.

Dense Retrieval과 Sparse Retrieval

AI 검색에는 여러 접근 방식이 존재한다.

대표적인 방법 가운데 하나는 Dense Retrieval(밀집 벡터 검색)이다.

밀집 벡터 검색에서는 문서와 질문을 여러 숫자로 구성된 임베딩으로 변환한다.

예를 들어 문서 하나를 768개 숫자로 표현할 수 있다.

검색 시스템은 질문의 벡터와 가까운 문서를 찾는다.

이 방식은 서로 다른 단어를 사용하더라도 의미적으로 관련된 문서를 찾는 데 유용하다.

하지만 문서가 매우 많아지면 각 문서의 벡터를 저장하고 검색하는 비용이 증가할 수 있다.

다른 방법은 Sparse Retrieval(희소 벡터 검색)이다.

희소 벡터는 많은 숫자 가운데 대부분이 0인 벡터다.

실제로 의미 있는 특징에 해당하는 일부 위치만 0이 아닌 값을 가진다.

이런 구조에서는 질문과 관련된 특징을 가진 문서만 빠르게 찾는 방식이 가능하다.

이를 위해 Inverted Index(역색인)를 사용할 수 있다.

역색인은 특정 단어나 특징이 어떤 문서에 포함돼 있는지 연결하는 데이터 구조다.

일반적인 검색엔진에서도 널리 사용된다.

기존 검색 모델을 희소 검색 모델로 변환

LightOn은 이미 개발한 DenseOn과 mLateOn 계열 모델을 기반으로 새로운 검색 모델을 만들었다.

새 모델은 SlideOn과 mSlideOn이다.

SlideOn은 약 1억7,400만 파라미터 규모의 영어 검색 모델이다.

mSlideOn은 약 3억3,900만 파라미터 규모로 다국어와 긴 문서, 코드 검색을 지원한다.

핵심 기술은 SAE(Sparse Autoencoder, 희소 오토인코더)다.

오토인코더는 입력 데이터를 내부 표현으로 압축한 뒤 다시 복원하도록 학습하는 모델이다.

희소 오토인코더는 내부 표현 가운데 일부 요소만 활성화되도록 학습한다.

이를 이용하면 기존 검색 모델의 복잡한 의미 표현을 비교적 적은 수의 활성 특징으로 변환할 수 있다.

LightOn은 먼저 기존 Dense 또는 Late-Interaction 모델의 표현을 희소한 형태로 바꿨다.

이후 실제 검색 작업에 맞게 지도 미세조정을 진행했다.

Late-Interaction(후기 상호작용)은 질문과 문서를 각각 여러 개의 벡터로 표현한 뒤 검색 시점에 세부적인 관련성을 계산하는 접근이다.

하나의 문서를 하나의 벡터로 압축하는 방식보다 세밀한 비교가 가능할 수 있지만, 저장과 검색 비용이 증가할 수 있다.

LightOn은 이러한 모델이 가진 지식을 희소한 검색 표현으로 옮기려 했다.

검색 성능과 인덱스 효율을 함께 개선

LightOn의 자체 평가에서 SlideOn은 영어 검색 벤치마크 BEIR-15에서 56.68점을 기록했다.

기반 모델인 DenseOn의 점수는 56.20점이었다.

차이가 매우 크지는 않지만, 희소한 검색 표현으로 변경한 뒤에도 검색 정확도를 유지하거나 일부 개선할 수 있음을 보여준다.

다국어 모델인 mSlideOn은 기존 mDenseOn보다 MIRACL에서 4.76점, 긴 문서 검색 평가인 MLDR에서 10.19점 높은 결과를 기록했다.

MIRACL은 여러 언어의 문서를 검색하는 능력을 평가한다.

MLDR은 긴 문서에서 질문과 관련된 정보를 찾아내는 능력을 평가한다.

다만 이번 수치들은 LightOn이 공개한 자체 평가 결과다.

모든 실제 검색 시스템에서 같은 수준의 개선이 나타난다는 의미는 아니다.

또한 인덱스를 얼마나 작게 만들지에 따라 검색 정확도도 달라질 수 있다.

LightOn은 이를 해결하기 위해 Matryoshka 방식의 학습을 사용했다.

이 방식은 표현의 일부만 사용해도 가능한 한 높은 검색 성능을 유지하도록 모델을 학습시키는 접근이다.

개발자는 필요한 정확도와 저장공간, 검색 지연시간을 고려해 유지할 특징의 수를 조절할 수 있다.

RAG에서 모델 크기만큼 중요한 검색 구조

RAG 시스템에서는 질문과 관련된 문서를 먼저 검색한 뒤 최종 언어모델에 전달한다.

이때 검색 결과가 부정확하면 최종 언어모델이 잘못된 정보를 바탕으로 답변할 수 있다.

반대로 검색 정확도를 높이기 위해 지나치게 많은 문서를 가져오면 모델의 입력 토큰 사용량과 비용이 증가할 수 있다.

따라서 RAG의 운영 비용에는 최종 답변을 생성하는 모델뿐 아니라 검색 인덱스의 크기와 검색 속도, 결과의 관련성도 영향을 미친다.

이번 글은 검색 모델을 개선하는 방법이 더 큰 임베딩 모델을 사용하는 것에만 한정되지 않는다는 점을 보여준다.

기존 모델의 의미 표현을 효율적인 희소 구조로 변환하고, 실제 검색 엔진의 인덱스 특성에 맞춰 학습하는 방법도 중요한 기술적 대안이라는 사실을 구체적인 연구 결과로 설명한다.