AI 데일리 브리핑 — 2026-10-22

Soshy·2026년 10월 22일·조회수 —

기준 시점: 2026-10-22 06:00 KST (Asia/Seoul)
AI 동향 조사 범위: 2026-10-21 06:00 ~ 2026-10-22 06:00 KST
추천 글 범위: 2026-10-15 06:00 ~ 2026-10-22 06:00 KST

1️⃣ 주요 모델·연구

OpenAI·Scripps Research, 수천 개 AI 에이전트로 수백만 뇌세포 분석…32분 만에 새로운 신경질환 연구 가설 발굴

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: AI for Science, 생명과학, 신경질환 연구, 멀티에이전트 시스템, CRISPR, 과학 문헌 분석
원문: OpenAI — Using thousands of AI agents to uncover new leads in biological data
관련 원문: OpenAI·PerturbAI·Scripps Research 공동 연구 논문

OpenAI가 PerturbAI, Scripps Research와 함께 수천 개의 AI 에이전트를 병렬로 실행해 수백만 개의 뇌세포 데이터를 분석하는 연구를 공개했다.

이번 연구에서는 생명과학에 특화된 AI 모델인 GPT-Rosalind가 사용됐다.

연구팀은 쥐의 뇌 전체에서 수집한 수백만 개 세포의 실험 데이터를 분석했다. 여기에는 특정 유전자의 기능을 방해했을 때 서로 다른 뇌세포에서 어떤 변화가 발생하는지에 관한 정보가 포함돼 있었다.

수천 개의 AI 에이전트는 이러한 데이터를 32분 동안 병렬로 분석했다.

에이전트들은 기존 연구에서 알려진 결과를 재현하는 동시에 신경질환과 관련해 추가로 실험할 가치가 있는 가설을 제시했다.

다만 이번 발표는 새로운 치료법을 발견하거나 신경질환의 원인을 확정했다는 의미가 아니다.

기존 실험 데이터와 과학 문헌을 연결해 후속 실험이 필요한 연구 가설을 찾아낸 사례다.

현대 생명과학의 문제는 데이터 부족만이 아니다

생명과학에서는 오랫동안 실험 데이터를 얻는 것이 중요한 과제였다.

하지만 최근에는 측정 기술이 발전하면서 하나의 실험에서 수백만 개 세포의 상태를 분석할 수 있게 됐다.

특히 CRISPR 같은 유전자 편집 기술을 사용하면 특정 유전자의 기능을 방해한 뒤 세포가 어떻게 반응하는지 확인할 수 있다.

CRISPR는 DNA의 특정 위치를 인식하고 유전자를 편집하는 데 사용하는 기술이다.

이번 연구에서는 다양한 유전자의 기능을 방해하는 Gene Perturbation(유전자 교란) 실험 결과가 사용됐다.

예를 들어 어떤 유전자가 신경세포의 정상적인 기능에 필요하다면 해당 유전자의 활동을 방해했을 때 세포 내부에서 특정한 변화가 나타날 수 있다.

연구자는 이를 통해 유전자의 역할을 추정한다.

문제는 실험 결과가 너무 많다는 것이다.

수천 개 유전자와 수백만 개 세포의 반응을 모두 사람이 직접 조사하기는 어렵다.

또한 특정 유전자의 변화가 어떤 질환과 연결될 수 있는지 이해하려면 수십 년 동안 발표된 과학 논문도 함께 검토해야 한다.

이번 연구는 이러한 대규모 실험 데이터와 흩어져 있는 과학 지식 사이의 연결을 자동화하려는 시도다.

하나의 큰 에이전트 대신 수천 개의 전문 에이전트 사용

연구팀은 하나의 AI 에이전트에 전체 데이터를 전달하는 방식과 여러 에이전트로 작업을 나누는 방식을 비교했다.

병렬 시스템에서는 각 에이전트가 특정 유전자 교란의 영향을 분석했다.

에이전트는 해당 유전자의 기능을 확인하고, 세포의 반응을 분석한 뒤 관련 과학 문헌을 검색했다.

그다음 실험 결과를 설명할 수 있는 생물학적 기전을 제안했다.

여기서 Biological Mechanism(생물학적 기전)은 특정한 생물학적 현상이 어떤 분자와 세포의 작용을 통해 발생하는지 설명하는 원리를 의미한다.

각 에이전트가 작성한 분석 결과는 하나의 자료로 통합됐다.

연구팀은 이를 Reasoning Atlas(추론 아틀라스)라고 부른다.

추론 아틀라스는 유전자와 세포의 변화, 관련 논문과 가능한 생물학적 설명을 연결하는 구조다.

OpenAI는 이 자료를 공개해 다른 연구자들이 후속 실험에 활용할 수 있도록 했다.

단일 에이전트보다 훨씬 많은 문헌을 조사

연구팀은 동일한 모델과 계산 자원을 사용하는 조건에서 단일 에이전트와 분산 에이전트의 결과를 비교했다.

가장 큰 작업을 수행했을 때 단일 에이전트는 11개의 참고문헌을 인용했다.

반면 분산 에이전트 시스템은 700개 이상의 참고문헌을 인용했다.

이 차이는 작업을 여러 에이전트에 분배하면 서로 다른 연구 방향을 더 폭넓게 탐색할 수 있다는 점을 보여준다.

하나의 에이전트가 여러 주제를 순서대로 조사하면 앞선 분석 결과가 컨텍스트에 계속 쌓인다.

Context(컨텍스트)는 모델이 현재 판단에 참고하는 입력 정보와 이전 작업 기록이다.

작업 범위가 커질수록 모델이 모든 영역을 충분히 조사하기 어려워질 수 있다.

반면 여러 에이전트가 독립적인 컨텍스트에서 작업하면 각 유전자에 더 집중할 수 있다.

연구팀은 전문가가 어떤 시스템에서 생성된 결과인지 모르는 상태에서 분석 보고서를 평가하는 블라인드 평가도 진행했다.

그 결과 전문가들은 분산 에이전트가 생성한 분석을 더 선호하는 경향을 보였다.

다만 참고문헌 수가 많다는 사실 자체가 과학적 정확성을 보장하지는 않는다.

인용한 논문이 실제 주장을 뒷받침하는지, 제시한 가설이 생물학적으로 타당한지는 추가 검토가 필요하다.

TSC1과 TSC2 유전자의 예상하지 못한 차이

연구팀이 발견한 흥미로운 사례 가운데 하나는 Tsc1과 Tsc2 유전자에 관한 것이다.

이 두 유전자는 세포의 성장과 대사에 중요한 역할을 하는 mTOR 신호 체계와 관련돼 있다.

mTOR는 세포가 영양 상태와 여러 신호를 바탕으로 성장과 단백질 합성 등을 조절하는 데 관여하는 단백질 복합체다.

일반적으로 Tsc1과 Tsc2는 서로 밀접하게 작용하므로 두 유전자의 기능을 방해하면 비슷한 결과가 나타날 것으로 예상할 수 있다.

실제로 여러 종류의 신경세포에서는 비슷한 반응이 나타났다.

하지만 소뇌의 일부 신경세포에서는 뚜렷한 차이가 있었다.

Tsc2의 기능을 방해했을 때는 신경세포 사이의 의사소통과 관련된 수십 개 유전자의 활동이 변했다.

반면 Tsc1의 기능을 방해했을 때는 변화가 상대적으로 작았다.

이는 두 유전자가 항상 동일한 역할을 수행하는 것은 아닐 수 있다는 가능성을 제시한다.

이 결과는 결절성 경화증 같은 유전질환의 연구와도 연결될 수 있다.

다만 쥐의 세포에서 나타난 변화가 인간의 질환에서 같은 방식으로 발생하는지는 아직 검증되지 않았다.

콜레스테롤 대사와 신경퇴행성 질환의 연결

또 다른 사례는 DCTN1 유전자에 관한 것이다.

DCTN1은 신경세포 내부에서 물질을 운반하는 과정과 관련돼 있다.

이 유전자의 변이는 파킨슨병과 비슷한 증상을 보일 수 있는 일부 신경퇴행성 질환과 연결돼 있다.

AI 에이전트는 Dctn1의 기능을 방해한 세포에서 콜레스테롤 합성과 관련된 유전자의 활동이 증가한 사실을 확인했다.

이후 기존 문헌을 분석해 신경세포 내부의 콜레스테롤 운반에 문제가 발생하면 세포가 부족한 콜레스테롤을 보충하려고 합성을 증가시킬 수 있다는 설명을 제시했다.

이를 바탕으로 연구팀은 DCTN1의 기능 이상이 콜레스테롤의 세포 내 분포를 변화시키고, 그 변화가 신경세포의 기능에 영향을 줄 수 있다는 가설을 제안했다.

이 역시 확인된 질병 기전은 아니다.

실제 세포에서 콜레스테롤의 위치와 이동을 측정하고, 해당 변화를 교정했을 때 신경세포의 기능이 개선되는지 추가 실험이 필요하다.

이번 연구는 AI가 새로운 실험 결과를 직접 만들어내지 않더라도 기존 데이터를 더 폭넓게 분석해 과학자가 미처 확인하지 못한 연구 방향을 제시할 수 있다는 점을 보여준다.

IBM, 오픈 음성 AI ‘Granite Speech 5.0’ 공개…다국어 음성 인식·번역·화자 분리 모델 동시 개선

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: 음성 AI, 다국어 음성 인식, 실시간 자막, 통화·회의 분석, 온디바이스 AI, 오픈웨이트 모델
원문: IBM — Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster

IBM이 음성 인식과 번역을 위한 새로운 모델 Granite Speech 5.0 2B를 공개하고, 기존 음성 모델 두 종류도 함께 업데이트했다.

이번 발표는 하나의 새로운 모델만 소개하는 것이 아니라 정확도와 처리 속도, 다중 화자 분석이라는 서로 다른 요구사항에 맞춘 세 가지 모델을 제공한다는 점이 특징이다.

음성 AI는 일반적인 텍스트 생성 모델과 다른 문제를 해결해야 한다.

사람의 음성에는 주변 소음과 반향, 발음 차이, 말하는 속도와 여러 사람의 목소리가 섞여 있다.

따라서 음성을 텍스트로 바꾸는 작업에서는 단순히 언어를 이해하는 능력뿐 아니라 실제 소리의 특성을 정확하게 분석하는 기술이 필요하다.

Granite Speech 5.0 2B: 다국어 음성 인식과 번역

새로 공개된 Granite Speech 5.0 2B는 약 20억 개의 파라미터를 가진 음성·언어모델이다.

Parameter(파라미터)는 모델이 학습 과정에서 조정하는 숫자 데이터로, 입력을 어떻게 처리할지 결정하는 데 사용된다.

이 모델은 영어, 프랑스어, 독일어, 스페인어, 포르투갈어, 일본어의 음성을 텍스트로 변환할 수 있다.

또한 이들 언어와 영어 사이의 번역을 지원한다.

영어에서 이탈리아어와 중국어로 번역하는 기능도 제공한다.

IBM은 공개된 음성 데이터 약 39만 시간과 별도로 생성한 합성 데이터를 학습에 활용했다고 밝혔다.

합성 데이터는 실제로 수집한 데이터가 아니라 프로그램이나 AI 모델을 이용해 생성한 학습 자료다.

이번 모델에는 최대 2,000개의 키워드를 지정하는 기능도 포함됐다.

예를 들어 의료기관에서 환자와 의사의 대화를 기록한다면 일반적인 음성 인식 모델이 익숙하지 않은 약물 이름이나 의료 용어를 잘못 인식할 수 있다.

이때 특정 전문 용어와 고유명사를 키워드로 제공하면 해당 표현을 더 정확하게 인식하도록 유도할 수 있다.

다만 키워드를 제공한다고 해서 모든 전문 용어가 정확하게 인식되는 것은 아니다.

실제 업무에 적용하려면 해당 분야의 음성 데이터를 이용해 정확도를 평가해야 한다.

문자 오류율과 실제 성능

IBM은 영어 음성 인식 평가에서 평균 WER 5.06%를 기록했다고 밝혔다.

WER(Word Error Rate, 단어 오류율)는 음성 인식 결과에서 잘못 인식하거나 누락하거나 불필요하게 추가한 단어의 비율을 나타낸다.

일반적으로 낮을수록 좋은 결과다.

IBM에 따르면 이번 모델은 2026년 10월 21일 기준 공개 음성 인식 리더보드의 영어 단문 평가에서 오픈웨이트 모델 가운데 두 번째 수준을 기록했다.

다만 이는 IBM이 선택한 공개 평가셋과 실행 설정을 기준으로 한 결과다.

실제 한국어 음성이나 의료 통화, 소음이 심한 거리에서 같은 오류율을 기록한다는 의미는 아니다.

특히 이번 모델의 공식 지원 언어에 한국어는 포함되지 않는다.

Turbo CTC: 작은 모델의 처리량 개선

두 번째는 기존에 공개된 Granite Speech 5.0 Turbo CTC의 업데이트다.

이 모델은 약 4억7천만 파라미터 규모다.

CTC(Connectionist Temporal Classification)는 음성과 텍스트처럼 길이가 다른 두 데이터의 대응 관계를 학습할 때 사용되는 기술이다.

이번 업데이트에서는 기존 영어 중심의 인식을 다국어로 확장했다.

영어와 일본어, 스페인어, 독일어, 프랑스어, 이탈리아어, 포르투갈어를 지원한다.

문장부호와 대문자도 별도의 후처리 없이 출력하도록 개선됐다.

IBM은 이 모델의 처리량이 기존 약 12,600 RTFx에서 19,870 RTFx로 증가했다고 밝혔다.

약 1.6배 높은 처리량이다.

RTFx는 실제 음성 길이와 처리 시간의 비율을 나타내는 지표다.

다만 이 수치는 특정 하드웨어와 벤치마크 조건에서 측정한 값이다.

스마트폰이나 일반적인 노트북에서 같은 속도로 실행된다는 의미는 아니다.

4.1 2B Plus: 누가 언제 말했는지 분석

세 번째는 Granite Speech 4.1 2B Plus의 업데이트다.

이 모델은 여러 사람이 참여하는 회의나 고객지원 통화처럼 복잡한 녹음을 분석하는 데 적합하다.

특히 Speaker Diarization(화자 분리) 기능을 개선했다.

화자 분리는 음성에서 어떤 사람이 어느 시점에 말했는지 구분하는 기술이다.

예를 들어 회의 녹음에서 첫 번째 발언은 A, 두 번째 발언은 B가 말했다는 식으로 구분한다.

IBM의 자체 평가에서는 화자 식별과 관련된 오류율이 약 7% 감소했다.

시간 표시의 평균 오차도 절반 이상 줄었다.

긴 음성의 단어 오류율은 24% 감소했다고 밝혔다.

이번 모델들은 Apache 2.0 라이선스로 공개되며 Transformers, llama.cpp와 Apple Silicon용 MLX 기반 도구 등에서 사용할 수 있다.

이번 발표는 음성 AI가 단순히 텍스트를 생성하는 기능에서 벗어나 정확한 기록, 빠른 처리, 여러 화자의 구분처럼 실제 업무의 요구사항에 맞춰 전문화되고 있다는 점을 보여준다.

NVIDIA·워싱턴대학교, 단백질 서열과 3차원 구조를 동시에 생성하는 ‘RFD4-Proteina’ 공개…생성 속도 3.8배 개선

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: 단백질 설계, 신약 연구, 생성형 AI, 분자 시뮬레이션, GPU 가속, 오픈소스 과학 도구
원문: NVIDIA — Design Proteins with RFD4-Proteina Using Reward-Guided Inference-Time Search

NVIDIA가 워싱턴대학교의 단백질 설계 연구진과 협력해 새로운 생성형 단백질 설계 모델 RFD4-Proteina를 공개했다.

이번 모델은 특정 단백질에 결합하거나 정해진 분자 구조를 형성하도록 새로운 단백질을 설계하는 작업에 사용된다.

기존의 일부 단백질 설계 시스템에서는 먼저 단백질의 3차원 구조를 생성한 뒤, 해당 구조를 만들 수 있는 아미노산 서열을 별도의 모델로 예측했다.

RFD4-Proteina는 아미노산 서열과 단백질의 원자 수준 구조를 하나의 생성 과정에서 함께 설계하도록 만들어졌다.

단백질의 구조와 서열은 서로 연결돼 있다

단백질은 여러 아미노산이 연결된 분자다.

아미노산의 배열을 Sequence(서열)라고 한다.

단백질이 실제로 어떤 기능을 수행하는지는 서열뿐 아니라 그 서열이 접혀 형성하는 3차원 구조에도 영향을 받는다.

예를 들어 어떤 단백질이 암세포 표면의 특정 분자에 결합하도록 만들려면 결합 부위의 입체적인 형태와 전하, 원자 사이의 상호작용 등을 고려해야 한다.

따라서 단백질을 설계할 때는 어떤 아미노산을 사용할 것인가와 그 단백질이 어떤 구조로 접힐 것인가를 함께 고려해야 한다.

기존의 여러 단계 설계 방식에서는 두 작업을 서로 다른 모델이 수행하면서 중간 결과가 전달된다.

이 과정에서 처음 생성한 구조와 나중에 선택한 아미노산 서열이 완전히 일치하지 않을 수 있다.

RFD4-Proteina는 이를 하나의 모델 안에서 처리하도록 설계됐다.

잠재 표현과 원자 좌표를 결합

이번 모델은 Latent Representation(잠재 표현)과 실제 원자의 좌표 정보를 함께 사용한다.

잠재 표현은 복잡한 데이터를 모델이 처리하기 쉬운 압축된 숫자 형태로 표현한 것이다.

모든 원자의 위치를 생성 과정 내내 직접 계산하면 상당한 메모리와 연산 자원이 필요하다.

RFD4-Proteina는 일부 정보를 상대적으로 작은 잠재 표현으로 처리해 계산량을 줄인다.

이후 디코더가 잠재 표현을 실제 단백질의 아미노산 서열과 원자 수준 구조로 변환한다.

Decoder(디코더)는 압축되거나 내부적으로 표현된 정보를 최종 결과로 변환하는 모델 구성요소다.

이렇게 하면 이전처럼 별도의 서열 설계 모델에 결과를 전달하는 단계를 줄일 수 있다.

생성 중에 후보를 평가하는 Reward-Guided Search

RFD4-Proteina는 단순히 단백질 후보를 무작위로 여러 개 만드는 데서 끝나지 않는다.

모델은 생성 과정에서 일부 후보를 평가하고 유망한 방향의 생성을 이어갈 수 있다.

이를 Reward-Guided Inference-Time Search(보상 기반 추론 시점 탐색)라고 한다.

예를 들어 연구자가 특정 단백질에 강하게 결합하는 새로운 분자를 설계하고 싶다고 가정해 보자.

모델은 여러 구조 후보를 생성한다.

이후 분자의 결합 형태와 물리적인 상호작용, 구조 예측의 신뢰도 등을 평가한다.

평가 결과가 좋은 후보를 중심으로 추가 탐색을 진행한다.

여기에는 OpenFold3와 분자 계산 도구 등이 활용된다.

다만 컴퓨터가 계산한 결합 점수가 높다는 사실만으로 실제 실험에서 단백질이 강하게 결합한다는 뜻은 아니다.

실제 단백질의 구조와 안정성, 결합 능력은 별도의 실험으로 확인해야 한다.

기존 RFD3 대비 속도와 메모리 개선

NVIDIA는 200개 아미노산으로 구성된 단백질을 생성하는 평가에서 다음과 같은 결과를 공개했다.

평가 항목	RFD3	RFD4-Proteina
생성 지연시간	5.12초	1.35초
최대 예약 GPU 메모리	8.50GB	1.36GB

이 조건에서 RFD4-Proteina는 기존 RFD3보다 약 3.8배 빠르게 생성했고, 최대 예약 메모리 사용량은 약 84% 감소했다.

모델 내부에서 사용하는 확산 기반 생성 과정도 개선됐다.

Diffusion(확산 모델)은 무작위적인 초기 표현에서 시작해 여러 단계를 거쳐 원하는 데이터 구조를 만들어내는 생성 방법이다.

NVIDIA는 관련 생성 과정의 샘플링 단계를 기존 약 400단계에서 60단계로 줄였다고 설명한다.

다만 생성 속도와 메모리 수치는 NVIDIA가 정한 특정 모델과 하드웨어 조건에서 측정한 자체 결과다.

모든 단백질 길이와 설계 작업에서 같은 개선 효과가 발생한다는 의미는 아니다.

이번 모델과 관련 도구는 공개 저장소와 NVIDIA NIM을 통해 사용할 수 있다.

NIM은 AI 모델을 서비스 형태로 배포하기 위한 NVIDIA의 추론 마이크로서비스 환경이다.

이번 발표는 단백질 설계에서 구조 생성과 서열 설계를 하나의 모델로 통합하고, 생성 도중 실제 물리적 조건에 가까운 평가를 수행하는 방향이 발전하고 있음을 보여준다.

NVIDIA, 관계형 데이터베이스를 직접 분석하는 기반 모델 ‘Kumo Relational’ 공개…별도 학습 없이 이탈·수요·사기 위험 예측

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: 구조화 데이터 AI, 관계형 데이터베이스, 예측 모델, 기업용 에이전트, 고객 이탈 분석, 이상거래 탐지
원문: NVIDIA — Kumo Relational Outperforms Supervised Machine Learning on Relational Data

NVIDIA가 관계형 데이터베이스의 여러 테이블을 직접 이해하고 미래의 결과를 예측하는 기반 모델 Kumo Relational을 공개했다.

일반적인 기업용 머신러닝에서는 하나의 예측 모델을 만들기 위해 상당한 데이터 준비 과정이 필요하다.

예를 들어 고객이 다음 달에 서비스를 탈퇴할 가능성을 예측한다고 가정해 보자.

기업에는 고객 테이블과 결제 테이블, 접속 기록과 고객지원 문의 기록이 서로 분리돼 있을 수 있다.

일반적인 접근에서는 이들 테이블을 연결해 모델이 처리하기 좋은 하나의 데이터셋으로 만들어야 한다.

또한 최근 30일간의 결제 횟수나 평균 이용 시간처럼 예측에 도움이 될 만한 변수를 직접 생성할 수 있다.

이를 Feature Engineering(특성 공학)이라고 한다.

Kumo Relational은 이러한 준비 과정을 줄이려는 모델이다.

관계형 데이터 자체를 학습한 기반 모델

Relational Database(관계형 데이터베이스)는 여러 테이블을 관계로 연결해 정보를 저장하는 시스템이다.

예를 들어 고객 테이블의 고객 ID를 주문 테이블에서도 사용하면 두 데이터 사이의 관계를 확인할 수 있다.

Kumo Relational은 이런 테이블 사이의 연결 구조와 시간 정보를 함께 분석하도록 학습됐다.

개발자는 고객 이탈이나 수요 예측 같은 작업을 예측 질의(Predictive Query)로 표현할 수 있다.

모델은 데이터베이스에서 관련 정보를 찾고 결과를 예측한다.

NVIDIA는 새로운 예측 작업을 수행할 때마다 별도의 모델을 처음부터 학습시킬 필요가 없다고 설명한다.

여기에는 In-Context Learning(문맥 내 학습)이 사용된다.

문맥 내 학습은 모델의 가중치를 수정하지 않고 입력으로 제공된 예시를 참고해 새로운 작업을 수행하는 방식이다.

Kumo Relational은 최대 1만 개의 과거 사례를 참고해 새로운 결과를 예측할 수 있다.

예를 들어 과거에 서비스를 탈퇴한 고객과 유지한 고객의 기록을 참고해 새로운 고객의 이탈 가능성을 계산할 수 있다.

시간 정보가 중요한 이유

기업 데이터에서는 사건의 발생 순서가 중요하다.

예를 들어 고객이 실제로 탈퇴한 뒤에 발생한 정보를 사용해 탈퇴 가능성을 예측하면 현실에서는 얻을 수 없는 높은 정확도가 나타날 수 있다.

이런 문제를 Data Leakage(데이터 누출)이라고 한다.

평가나 학습 과정에서 실제 예측 시점에는 알 수 없는 정보가 사용되는 현상이다.

Kumo Relational은 시간 정보를 함께 고려해 특정 시점에서 활용 가능한 데이터를 기준으로 예측하도록 설계됐다.

또한 여러 테이블에 분산된 관계를 그래프 형태로 분석한다.

여기서 그래프는 차트를 의미하는 것이 아니다.

Graph(그래프)는 데이터 사이의 연결 관계를 노드와 간선으로 표현하는 구조다.

고객과 주문, 상품 사이의 관계를 그래프로 표현하면 개별 테이블만 읽는 것보다 복잡한 관계를 이해하는 데 도움이 될 수 있다.

기존 전문 모델과 비교한 결과

NVIDIA는 15개 데이터베이스의 41개 예측 작업에서 모델을 평가했다.

회사 발표에 따르면 Kumo Relational은 여러 관계형 데이터 예측 평가에서 기존의 지도학습 모델보다 높은 성능을 기록했다.

대표적으로 SAP SALT 평가에서는 AutoGluon 기반 모델보다 MRR(Mean Reciprocal Rank) 약 8% 개선을 보고했다.

MRR은 올바른 결과가 예측 목록에서 얼마나 높은 순위에 위치하는지 측정하는 지표다.

또한 RelBench의 분류 작업에서는 사람이 특성을 설계한 Gradient-Boosted Tree 모델보다 평균 약 4 AUROC 포인트 높은 결과를 기록했다고 밝혔다.

AUROC는 분류 모델이 서로 다른 두 집단을 얼마나 잘 구분하는지 측정하는 지표다.

다만 이러한 수치는 NVIDIA가 공개한 자체 평가 결과다.

모든 기업의 관계형 데이터에서 별도의 특성 공학이나 추가 학습이 불필요하다는 의미는 아니다.

특히 특정 기업의 전문적인 예측 작업에서는 잘 조정된 전용 모델이 더 적합할 수도 있다.

이번 발표는 언어와 이미지에서 발전한 기반 모델의 접근이 기업이 실제로 보유한 구조화 데이터의 예측 업무로 확대되고 있음을 보여준다.

2️⃣ AI 제품·서비스

Anthropic, 먼저 말을 걸고 백그라운드에서 일하는 개인 AI 에이전트 ‘Claude Duet’ 공개…미국 Pro·Max 사용자 대상 연구 프리뷰

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: 개인 AI 에이전트, 업무 자동화, 연결 앱, 일정·메일 관리, 클라우드 컴퓨터, 에이전트 보안
원문: Anthropic — Introducing Claude Duet

Anthropic이 사용자의 요청을 기다리지 않고 먼저 필요한 업무를 찾아 알려주는 Claude Duet을 공개했다.

이번 제품의 핵심은 기존 챗봇과 상호작용하는 방식이 다르다는 점이다.

일반적인 AI 챗봇에서는 사용자가 질문하거나 작업을 요청해야 모델이 응답한다.

반면 Claude Duet은 연결된 앱의 상태를 주기적으로 확인하고, 사용자가 알아야 할 변화가 발견되면 먼저 메시지를 보낼 수 있다.

또한 사용자가 요청한 작업을 자체 클라우드 환경에서 수행하기 때문에 스마트폰이나 노트북을 계속 켜둘 필요가 없다.

Anthropic은 이를 Proactive Agent(선제적으로 행동하는 에이전트)라고 설명한다.

연결된 앱을 확인하고 중요한 정보를 먼저 전달

Claude Duet은 사용자가 기존 Claude에서 설정한 기억과 Skills, 연결된 앱을 활용할 수 있다.

예를 들어 이메일과 일정, 협업 도구를 연결했다면 아침마다 중요한 업무를 요약하는 브리핑을 제공할 수 있다.

회의 시간이 다른 일정과 겹치거나 중요한 고객 문의가 도착했을 때 먼저 알려주는 방식도 가능하다.

하지만 이 제품이 연결된 모든 계정을 실시간으로 감시하는 것은 아니다.

Anthropic은 몇 시간 간격으로 연결된 앱의 상태를 확인한다고 설명했다.

지속적인 확인에는 모델 사용량과 계산 비용이 발생하기 때문이다.

사용자는 어떤 종류의 변화를 전달받을지와 확인 주기를 설정할 수 있다.

자체 가상 컴퓨터에서 업무 수행

Claude Duet은 자체 Virtual Machine(가상 머신)과 브라우저를 이용한다.

가상 머신은 실제 컴퓨터의 운영체제와 실행 환경을 소프트웨어로 구현한 것이다.

이를 이용하면 사용자의 기기가 꺼져 있어도 클라우드에서 작업을 계속 수행할 수 있다.

예를 들어 여러 자료를 조사해 보고서를 작성하거나, 재무 예측표를 만들고, 간단한 웹 애플리케이션을 구현하는 작업이 가능하다.

Claude Duet은 자신에게 연결된 앱 가운데 어떤 도구가 필요한지 판단하고 여러 단계를 실행한다.

이 과정에는 6,000개 이상의 연결 도구와 플러그인을 활용할 수 있다고 Anthropic은 설명한다.

연결 대상에는 Gmail, Slack, QuickBooks, Stripe, HubSpot, Shopify, Canva 등이 포함된다.

다만 연결 도구가 제공된다는 사실과 해당 서비스의 모든 기능을 자동으로 실행할 수 있다는 사실은 다르다.

실제로 가능한 행동은 각 도구의 기능과 사용자의 접근권한에 따라 달라진다.

중요한 행동에는 사용자 승인 필요

Claude Duet이 모든 행동을 독립적으로 수행하도록 허용된 것은 아니다.

Anthropic은 메시지 발송과 결제, 문서 서명, 삭제 작업처럼 중요한 행동을 수행하기 전에 사용자 승인을 받도록 설계했다.

에이전트는 먼저 실행하려는 내용을 보여주고 확인을 요청한다.

증권 거래나 계좌 사이의 자금 이동처럼 일부 행동은 사용자가 승인하더라도 수행할 수 없다.

또한 에이전트가 이메일과 업무 문서를 읽는 과정에서 개인정보가 외부로 유출되는 문제를 막기 위한 별도의 안전장치도 제공한다.

예를 들어 신용카드 번호나 정부 신분증 번호는 외부로 전달하지 않도록 제한한다.

건강이나 개인 재무정보처럼 민감한 자료는 사용자가 명시적으로 요청한 경우에만 전송하도록 설계했다.

이런 기능은 에이전트가 외부 자료에 포함된 악의적인 지시를 잘못 실행하는 Prompt Injection(프롬프트 인젝션) 문제와도 연결된다.

Prompt Injection은 웹페이지나 문서 등에 숨겨진 지시를 AI가 정상적인 사용자 명령으로 잘못 받아들이도록 만드는 공격이다.

Anthropic은 관련 방어 기술과 외부 보안 평가를 적용했다고 설명한다.

다만 이러한 안전장치가 모든 공격과 잘못된 행동을 완벽하게 차단한다는 의미는 아니다.

미국 사용자 대상 연구 프리뷰

Claude Duet은 현재 정식 출시된 범용 서비스가 아니다.

미국의 Claude Pro·Max 구독자를 대상으로 대기 명단을 통해 연구 프리뷰를 제공한다.

별도의 앱으로 제공되며 iOS와 Android, 웹에서 사용할 수 있다.

사용량은 기존 Claude 구독의 사용 한도와 공유한다.

따라서 백그라운드에서 앱을 확인하거나 장시간 작업을 실행하는 과정도 사용량에 영향을 준다.

Anthropic은 현재 버전이 복잡한 업무에는 비교적 강하지만 개인적인 예약이나 심부름 같은 작업에서는 아직 부족한 부분이 있다고 설명했다.

또한 사용자는 Claude Duet이 사용하는 브라우저 화면을 직접 볼 수 없다.

이번 발표는 AI 에이전트가 사용자의 요청에 답하는 도구에서 실제 업무의 진행 상태를 관찰하고 필요할 때 먼저 개입하는 도구로 발전하고 있음을 보여준다.

Google Cloud, OpenAI의 GPT-6 모델을 자사 Model Garden에 추가…경쟁사 모델을 하나의 기업용 AI 플랫폼에서 제공

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: OpenAI API, Google Cloud, 기업용 생성형 AI, 멀티모델 운영, 코딩 에이전트, 데이터 거버넌스
원문: Google Cloud — Google Cloud expands model choice and flexibility, bringing OpenAI models to customers
관련 원문: OpenAI — OpenAI models on Google Cloud

Google Cloud가 OpenAI의 주요 GPT-6 모델을 자사의 기업용 AI 플랫폼인 Model Garden에 추가한다고 발표했다.

이번 발표는 Google과 OpenAI가 새로운 공동 모델을 개발했다는 의미가 아니다.

Google Cloud 고객이 기존 Google Cloud의 결제·보안·관리 체계를 이용하면서 OpenAI 모델을 직접 호출할 수 있게 된 것이다.

Model Garden은 Google Cloud에서 여러 AI 모델을 검색하고 배포하거나 API로 사용할 수 있도록 제공하는 플랫폼이다.

기존에는 Google의 Gemini와 여러 외부 모델, 오픈웨이트 모델 등을 지원했다.

이번에 OpenAI의 주요 모델이 추가되면서 기업이 하나의 클라우드 환경에서 선택할 수 있는 모델의 범위가 확대됐다.

세 가지 GPT-6 모델 제공

이번에 발표된 모델은 다음과 같다.

모델	주요 활용 방향
GPT-6 Astra	복잡한 코딩, 컴퓨터 사용, 전문 업무와 과학 연구
GPT-6.1 Sol	코딩 에이전트와 컴퓨터 사용, 전문 업무의 성능·비용 균형
GPT-6 Luna	빠른 응답과 대규모 일반 업무 처리

기업은 작업의 종류에 따라 서로 다른 모델을 선택할 수 있다.

예를 들어 단순한 문의 분류에는 비용이 낮은 모델을 사용하고, 복잡한 코드 수정에는 높은 추론 능력을 가진 모델을 사용할 수 있다.

이처럼 작업에 따라 모델을 다르게 선택하는 방식을 Model Routing(모델 라우팅)이라고 한다.

여기서 중요한 것은 모델을 교체할 수 있는 구조가 생겼다고 해서 모든 모델이 동일한 결과를 반환하는 것은 아니라는 사실이다.

모델마다 출력 형식과 도구 호출 방식, 처리 속도와 비용이 다르므로 실제 업무에 적용하기 전에 평가가 필요하다.

Google Cloud의 기존 보안·결제 체계 활용

기업이 여러 AI 모델 제공업체와 직접 계약하면 각각의 사용량과 비용, 인증정보와 데이터 접근권한을 따로 관리해야 할 수 있다.

Google Cloud는 이번 통합을 통해 이런 운영 부담을 줄이려 한다.

OpenAI 모델의 사용량은 Google Cloud Marketplace를 통해 결제된다.

따라서 기업은 기존 Google Cloud의 청구서에서 관련 비용을 확인할 수 있다.

또한 일정한 조건에서는 기존 클라우드 사용 약정과 할인 프로그램을 활용할 수 있다.

보안 측면에서는 모델 호출에 사용되는 데이터의 경계를 관리하고, 접근권한과 감사 기록을 Google Cloud의 기존 관리 체계에 연결할 수 있다.

Google은 모델 실행이 전용 Google Cloud 인프라와 격리된 게이트웨이를 통해 이뤄진다고 설명한다.

Gateway(게이트웨이)는 서로 다른 시스템 사이에서 요청을 전달하고 접근을 제어하는 구성요소다.

기업은 이를 이용해 어떤 사용자가 어떤 모델을 호출했는지 추적할 수 있다.

Google은 고객의 프롬프트와 응답 데이터를 기반 모델의 학습에 사용하지 않는다고 밝혔다.

다만 Zero Data Retention(데이터 미보관) 옵션과 Confidential Compute 지원은 발표 시점에 모두 제공되는 기능이 아니라 향후 도입 예정인 기능이다.

현재의 보안 정책과 미래에 제공될 기능을 구분할 필요가 있다.

Codex와 Google 개발 도구의 연결

이번 통합에서는 OpenAI의 코딩 도구인 Codex CLI와 Desktop이 Google Cloud의 Gemini 플랫폼을 추론 서비스로 사용할 수 있도록 연결하는 방법도 제공된다.

예를 들어 기업 개발팀이 코드 저장소를 분석하는 에이전트를 운영하면서 모델 실행과 관련된 관리 정책을 Google Cloud에서 통합할 수 있다.

다만 이번 발표에서 모든 Google 개발 도구에 OpenAI 모델이 즉시 추가된 것은 아니다.

Google Cloud에 따르면 GPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna는 일부 기업 고객을 대상으로 비공개 프리뷰 형태로 제공되기 시작했다.

향후 Gemini for Business와 Google Antigravity에도 OpenAI 모델을 제공할 계획이다.

따라서 이번 발표를 Google Cloud의 모든 고객이 세 모델을 즉시 제한 없이 사용할 수 있게 됐다는 의미로 해석해서는 안 된다.

이번 변화는 주요 AI 기업이 자체 모델만 제공하는 방식에서 벗어나 기업 고객의 요구에 맞춰 경쟁사의 모델까지 하나의 운영 플랫폼에서 제공하는 방향으로 확대되고 있음을 보여준다.

3️⃣ 개발 도구·에이전트

Anthropic, ‘Claude Security’ 상시 코드 검사로 확대…취약점이 수정됐는지 추적하고 재발하면 자동으로 다시 알림

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: AI 코드 보안, GitHub·GitLab, 취약점 관리, 지속적인 코드 검사, Claude Code, MCP
원문: Anthropic — Claude Security now scans continuously and tracks fixes

Anthropic이 AI 기반 코드 보안 도구인 Claude Security의 기능을 확대했다.

이번 변경에서 중요한 점은 보안 검사를 한 번 실행하고 결과를 확인하는 방식에서 코드가 변경될 때마다 취약점의 상태를 계속 추적하는 구조로 발전했다는 것이다.

Claude Security 자체는 올해 4월부터 공개 베타로 제공되고 있었다.

Anthropic은 이후 수천 개 조직에서 이 도구를 사용해 100만 건 이상의 잠재적 취약점을 발견했다고 밝혔다.

다만 발견한 취약점의 수가 모두 독립적으로 검증된 실제 보안 사고를 의미하는 것은 아니다.

AI 보안 검사에는 중복 경고나 잘못된 탐지가 포함될 가능성이 있다.

단발성 검사와 지속적인 검사

일반적인 보안 검사에서는 특정 시점의 소스코드를 분석한다.

예를 들어 개발자가 새로운 기능을 배포하기 전에 저장소 전체를 검사할 수 있다.

문제는 이후 코드가 계속 바뀐다는 것이다.

새로운 기능에서 보안 문제가 발생할 수도 있고, 이전에 수정한 취약점이 다시 도입될 수도 있다.

Claude Security는 이를 해결하기 위해 GitHub와 GitLab 등의 코드 저장소를 연결하고, 변경사항을 지속적으로 분석하도록 설계됐다.

저장소를 처음 연결하면 전체 기준 검사를 수행한다.

이후 코드 변경이 발생하면 변경 규모와 위험도를 고려해 추가 검사를 수행한다.

여러 저장소를 하나의 프로젝트로 묶을 수도 있다.

예를 들어 프런트엔드와 백엔드 저장소가 서로 분리돼 있더라도 두 서비스의 상호작용에서 발생하는 보안 문제를 함께 검토할 수 있다.

취약점이 실제로 수정됐는지 확인

기존 보안 도구에서는 문제를 발견한 뒤 다른 도구에서 수정하는 경우가 많다.

예를 들어 Claude Security가 취약점을 발견했더라도 개발자는 IDE나 Claude Code에서 코드를 수정할 수 있다.

이번 업데이트에서는 Claude Security가 이후 변경된 코드를 다시 확인한다.

취약점이 해결됐다고 판단하면 해당 경고를 수정 완료 상태로 변경한다.

비슷한 문제가 다시 나타나면 경고가 재개된다.

이런 구조는 보안 검사 결과를 단순한 보고서가 아니라 지속적으로 관리하는 작업 항목으로 활용할 수 있게 만든다.

다만 AI가 수정됐다고 판단했다는 사실만으로 모든 공격 가능성이 제거됐다고 확정할 수는 없다.

중요한 취약점은 실제 테스트와 코드 리뷰를 통해 검증해야 한다.

코드 바깥의 보안 환경도 참고

이번 업데이트에서는 프로젝트별 Knowledge Base(지식 저장소)도 제공한다.

기업은 해당 서비스가 어떤 환경에 배포되는지, 어떤 보안 정책을 사용하는지 등의 정보를 등록할 수 있다.

예를 들어 특정 API가 외부 인터넷에 공개되지 않고 내부 네트워크에서만 접근 가능하다면 해당 사실이 취약점의 실제 위험도를 평가하는 데 영향을 줄 수 있다.

Claude Security는 이런 정보를 바탕으로 Threat Model(위협 모델)도 생성한다.

위협 모델은 시스템에서 어떤 자산이 보호돼야 하고, 공격자가 어떤 경로로 접근할 수 있으며, 어떤 방어 수단이 존재하는지 정리한 것이다.

사용자는 위협 모델을 검토하고 수정할 수 있다.

이후 보안 검사에서는 업데이트된 위협 모델을 활용한다.

이번 방식은 코드에 위험해 보이는 함수가 존재한다는 사실만 확인하는 것보다 실제 운영 환경에서 공격자가 해당 코드에 도달할 수 있는지를 함께 고려하려는 접근이다.

API와 MCP 지원

Claude Security는 새로운 API와 MCP(Model Context Protocol) 연결 기능도 제공한다.

MCP는 AI 에이전트가 외부 프로그램과 데이터를 호출할 수 있도록 하는 통신 규격이다.

개발자는 Claude Code에서 보안 경고를 확인하고, 관련 코드를 조사하고, 수정 작업을 진행할 수 있다.

또한 API를 이용해 보안 경고를 조직의 기존 업무 시스템과 연결할 수 있다.

웹훅을 사용하면 새로운 경고가 발생했을 때 다른 시스템으로 알림을 전달할 수도 있다.

Webhook(웹훅)은 특정 이벤트가 발생했을 때 미리 지정한 외부 시스템에 자동으로 HTTP 요청을 보내는 방식이다.

이번 기능은 Claude Enterprise 고객을 대상으로 공개 베타로 제공된다.

Anthropic은 일정 조건에서 두 달 동안 매달 2만5천 달러의 무료 사용 크레딧을 제공한다고 밝혔다.

다만 무료 크레딧이 모든 사용자를 대상으로 무제한 제공되는 것은 아니다.

이번 발표는 AI 보안 도구가 단순한 코드 스캐너에서 취약점의 발견과 수정, 재검증을 연결하는 지속적인 보안 관리 시스템으로 발전하고 있음을 보여준다.

Google Cloud, BigQuery ‘ObjectRef’ 정식 출시…이미지·영상·PDF를 SQL과 Gemini로 직접 분석

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: BigQuery, Gemini, 멀티모달 데이터 분석, SQL, RAG, 데이터 엔지니어링, 기업용 AI 에이전트
원문: Google Cloud — BigQuery ObjectRef now GA

Google Cloud가 BigQuery에서 이미지와 영상, 오디오, 문서 같은 비정형 데이터를 직접 분석하는 ObjectRef 기능을 정식 제공한다고 발표했다.

GA(General Availability)는 기능이 프리뷰 단계를 벗어나 일반적인 상용 서비스로 제공되는 상태를 의미한다.

BigQuery는 대규모 데이터를 분석하기 위한 Google Cloud의 데이터 웨어하우스다.

기존에는 숫자와 문자열처럼 구조화된 데이터를 SQL로 분석하는 데 주로 사용됐다.

하지만 기업의 실제 데이터에는 PDF와 이미지, 녹음 파일과 영상처럼 정해진 행과 열로 표현하기 어려운 자료도 많다.

이런 데이터를 Unstructured Data(비정형 데이터)라고 한다.

이번 업데이트는 구조화된 데이터와 비정형 데이터를 같은 분석 과정에서 사용할 수 있도록 만드는 데 초점을 맞췄다.

파일 자체를 복사하지 않고 참조

ObjectRef는 BigQuery 테이블 안에서 외부 파일을 가리키는 데이터 형식이다.

예를 들어 고객 문의를 저장하는 테이블이 있다고 가정해 보자.

기존에는 고객 ID와 주문번호, 문의 내용만 SQL로 분석할 수 있었다.

하지만 고객이 제품의 파손 상태를 촬영한 사진도 첨부했다면 해당 이미지를 별도로 처리해야 했다.

ObjectRef를 사용하면 테이블의 한 열에 해당 이미지의 참조 정보를 저장할 수 있다.

ObjectRef에는 파일의 위치를 나타내는 URI, 접근권한 정보, 버전과 메타데이터 등이 포함된다.

Metadata(메타데이터)는 데이터 자체에 관한 설명 정보다.

예를 들어 파일의 크기와 생성 시각, 형식 등이 여기에 해당한다.

실제 이미지 파일은 Google Cloud Storage에 남겨두고 BigQuery에서는 그 파일을 참조한다.

따라서 모든 파일을 분석 테이블로 복사할 필요가 없다.

SQL에서 Gemini 모델 직접 호출

이번 기능을 이용하면 개발자는 SQL로 비정형 데이터를 분석할 수 있다.

예를 들어 수많은 제품 이미지에서 어떤 종류의 상품이 많이 등장하는지 요약하도록 요청할 수 있다.

BigQuery는 ObjectRef를 통해 이미지에 접근하고 Gemini 모델을 호출해 결과를 생성한다.

이후 생성된 분석 결과를 일반적인 테이블 데이터와 결합할 수 있다.

예를 들어 이미지에서 추출한 상품 유형과 실제 판매량을 함께 분석하는 방식이다.

이 구조에서는 비정형 데이터를 처리하는 별도의 머신러닝 파이프라인을 구축한 뒤 결과를 다시 데이터베이스에 저장하는 과정을 줄일 수 있다.

Pipeline(파이프라인)은 데이터를 가져와 가공하고 분석한 뒤 결과를 전달하는 일련의 처리 절차다.

기존에는 이미지 분석 결과와 고객 데이터를 결합하려면 별도의 작업을 구현해야 하는 경우가 많았다.

ObjectRef는 파일 참조와 구조화된 데이터를 같은 행에 보관하므로 이 연결을 단순화한다.

AI 에이전트와 기업 데이터 분석 연결

Google은 이번 기능을 Gemini Enterprise와 대화형 데이터 분석에도 연결한다.

사용자가 자연어로 질문하면 AI가 필요한 데이터 조회를 구성하고 분석 결과를 반환할 수 있다.

예를 들어 특정 제품군에서 자주 발생하는 고객 불만을 조사할 때 텍스트 문의와 사진을 함께 분석할 수 있다.

다만 모델이 이미지나 문서를 분석했다고 해서 결과가 항상 정확한 것은 아니다.

특히 이미지에서 숫자를 읽거나 계약 문서의 특정 조항을 해석하는 작업에서는 원문과 결과를 대조해야 한다.

또한 ObjectRef가 파일의 위치를 참조한다는 사실과 모든 사용자가 해당 파일에 접근할 수 있다는 사실은 다르다.

실제 접근은 Cloud Storage와 BigQuery의 권한 정책을 따라야 한다.

이번 발표는 기업용 AI 에이전트가 구조화된 데이터베이스뿐 아니라 기업이 보유한 이미지와 영상, 문서까지 같은 분석 환경에서 활용하는 방향으로 발전하고 있음을 보여준다.

NVIDIA, 텍스트·이미지 검색을 통합한 ‘Nemotron 3.5 Embed·Rerank’ 공개…에이전트의 검색 토큰 비용 약 14% 절감

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: RAG, 멀티모달 검색, 임베딩, 검색 결과 재정렬, 기업용 에이전트, 문서·차트 분석
원문: NVIDIA — Nemotron 3.5 Embed, Rerank, and Parse

NVIDIA가 AI 에이전트의 정보 검색 능력을 개선하기 위한 Nemotron 3.5 Embed와 Rerank 모델을 공개했다.

이번 발표는 새로운 범용 챗봇 모델의 출시가 아니다.

AI 에이전트가 외부 문서에서 필요한 근거를 찾아오는 과정에 사용되는 검색 전문 모델을 공개한 것이다.

최근 기업용 AI는 자체 학습된 지식만으로 답변하기보다 기업 문서와 데이터베이스에서 관련 정보를 검색한 뒤 답변을 생성하는 방식을 많이 사용한다.

이를 RAG(Retrieval-Augmented Generation, 검색 증강 생성)라고 한다.

RAG에서는 어떤 자료를 검색해 모델에 전달하는지가 중요하다.

필요한 근거를 찾지 못하면 최종 언어모델이 아무리 뛰어나더라도 정확한 답변을 만들기 어렵기 때문이다.

임베딩 모델과 재정렬 모델의 차이

이번 제품군의 핵심은 두 가지 역할을 분리했다는 점이다.

첫 번째는 Embedding Model(임베딩 모델)이다.

임베딩 모델은 문서와 질문의 의미를 여러 숫자로 구성된 벡터로 변환한다.

의미가 비슷한 질문과 문서는 벡터 공간에서도 가깝게 표현되도록 학습된다.

검색 시스템은 이를 이용해 방대한 문서 가운데 관련성이 높은 후보를 빠르게 찾는다.

두 번째는 Reranker(재정렬 모델)이다.

Reranker는 처음 검색된 후보들을 질문과 함께 다시 분석해 실제 관련성을 평가한다.

예를 들어 처음 검색에서는 관련 문서 100개를 찾아오고, Reranker가 그중 가장 적합한 10개를 선택할 수 있다.

이렇게 하면 최종 언어모델에 불필요한 문서를 전달하는 일을 줄일 수 있다.

텍스트뿐 아니라 차트와 이미지 검색

기존의 일반적인 임베딩 모델은 텍스트 중심으로 학습된 경우가 많았다.

하지만 기업 문서에는 텍스트보다 이미지가 더 중요한 정보를 담고 있는 경우도 있다.

예를 들어 회계 보고서의 그래프와 기술 문서의 회로도, 제품 매뉴얼의 삽화 등이 있다.

Nemotron 3.5 Embed는 이런 시각적 자료의 의미까지 검색하도록 설계됐다.

이번에 공개된 주요 모델은 다음과 같다.

모델	주요 역할
Nemotron 3.5 Embed 8B	높은 정확도의 텍스트·이미지 검색
Nemotron 3.5 Embed 1B	작은 모델을 이용한 효율적인 검색
Nemotron 3.5 Embed 1B NVFP4	양자화를 이용한 고처리량 검색
Nemotron 3.5 Rerank 8B	검색된 문서의 관련성 재평가

이 모델들은 텍스트와 이미지가 함께 포함된 문서를 처리할 수 있다.

NVIDIA는 텍스트 검색을 34개 언어에서 평가했고, 시각 검색도 여러 다국어 벤치마크에서 평가했다.

한국어 문서 검색을 위한 KoViDoRe 평가 결과도 공개했다.

시각 검색 성능 평가

NVIDIA가 공개한 ViDoRe v3.1 평가에서 Nemotron 3.5 Embed 8B는 nDCG@10 61.17점을 기록했다.

nDCG는 관련성이 높은 검색 결과가 얼마나 상위에 배치됐는지 평가하는 지표다.

@10은 상위 10개 결과를 기준으로 측정한다는 의미다.

NVIDIA에 따르면 해당 점수는 2026년 10월 20일 기준 Dense Retrieval 모델 가운데 가장 높은 수준이었다.

1B 모델은 58.38점을 기록했다.

작은 모델이 큰 모델의 성능 상당 부분을 유지했다는 의미다.

다만 이는 NVIDIA가 공개한 평가 결과이며 모든 실제 기업 문서에서 같은 순위가 나타난다는 뜻은 아니다.

또한 높은 검색 정확도가 최종 에이전트 작업의 성공을 자동으로 보장하는 것은 아니다.

모델이 찾은 자료를 최종적으로 어떻게 해석하고 사용하는지도 중요하기 때문이다.

에이전트 전체의 토큰 비용까지 평가

NVIDIA는 검색 모델의 점수만 비교하지 않았다.

검색 결과를 실제 AI 에이전트에 전달했을 때 전체 작업의 토큰 사용량이 어떻게 변하는지도 측정했다.

그 결과 Nemotron 3.5 Rerank를 추가한 구성에서는 에이전트의 전체 추론 토큰 사용량이 약 13~14% 감소했다고 밝혔다.

관련성이 낮은 문서를 제거하면 최종 모델이 읽어야 하는 데이터가 줄어들 수 있기 때문이다.

하지만 검색 단계를 하나 더 추가하면 Reranker 자체의 실행 비용과 시간이 발생한다.

따라서 전체 시스템의 비용 절감 효과는 문서의 양과 모델의 가격, 처리량에 따라 달라질 수 있다.

이번 발표는 AI 에이전트의 정확도를 높이는 방법이 최종 답변을 생성하는 모델을 교체하는 것에만 있지 않다는 점을 보여준다.

적절한 근거를 더 정확하게 검색하고 불필요한 정보를 줄이는 과정도 전체 에이전트의 성능과 비용에 큰 영향을 줄 수 있다.

4️⃣ 산업·정책·안전

OpenAI, AI가 발견한 PHP의 중대한 취약점 대응 과정 공개…‘Patch the Planet’ 공동 대응 체계 제안

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: AI 사이버보안, PHP, 오픈소스 보안, 취약점 공개, Codex, 웹 서버 보안, 보안 대응 정책
원문: OpenAI — Patch the Planet: global response coordination as agents uncover critical vulnerabilities
관련 원문: Patch the Planet — 취약점 대응 안내

OpenAI가 AI를 이용해 발견한 PHP의 중대한 보안 취약점에 대해 오픈소스 유지보수 담당자와 보안업체들이 공동으로 대응한 과정을 공개했다.

이번 발표는 단순히 새로운 보안 취약점을 발견했다는 내용이 아니다.

AI가 기존보다 빠르게 심각한 보안 문제를 발견할 수 있게 된 상황에서, 패치를 개발하고 전 세계 사용자에게 배포하는 절차도 함께 개선해야 한다는 문제를 다룬다.

PHP는 많은 웹사이트와 웹 애플리케이션에서 사용하는 서버 측 프로그래밍 언어다.

따라서 PHP 자체에 중대한 취약점이 존재하면 해당 언어를 사용하는 다양한 서비스에 영향을 줄 수 있다.

OpenAI는 이번에 확인한 취약점의 영향 범위가 매우 클 수 있다고 설명했다.

AI가 취약점을 발견한 과정

OpenAI에 따르면 보안 연구자인 Calif가 GPT-5.6 Sol을 이용해 PHP의 중대한 취약점을 발견했다.

보안업체 Wiz도 관련 취약점 두 건을 독립적으로 발견해 보고했다.

여기서 중요한 점은 AI가 모든 취약점을 최초로 단독 발견했다고 주장할 수는 없다는 사실이다.

OpenAI는 다른 보안 연구팀이 독립적으로 같은 문제를 발견했다는 사실을 명시했다.

이후 PHP의 공식 유지보수 담당자들이 수정 작업을 주도했다.

OpenAI와 Wiz, Cloudflare 등은 취약점의 분석과 패치 검증, 대응 준비에 참여했다.

OpenAI는 이런 협력을 통해 취약점이 악용되기 전에 방어 측이 조치를 취할 수 있는 시간을 확보했다고 설명한다.

이를 Defender's Window(방어자의 대응 시간)라고 부른다.

중대한 취약점이 발견된 이후 공격자에게 널리 알려지기 전에 패치를 준비하고 배포할 수 있는 기간을 의미한다.

취약점 발견과 실제 보안 확보는 다르다

AI가 보안 취약점을 빠르게 발견할 수 있어도 실제 위험을 줄이려면 여러 단계가 필요하다.

먼저 문제가 실제로 존재하는지 재현하고 영향을 받는 소프트웨어 버전을 확인해야 한다.

그다음 취약점을 수정하는 패치를 작성해야 한다.

패치가 기존 기능에 새로운 오류를 만들지 않는지도 검사해야 한다.

또한 수정사항이 공개되면 해당 소프트웨어를 사용하는 서버 운영자가 실제로 업데이트를 적용해야 한다.

예를 들어 PHP에서 중대한 문제가 수정됐더라도 오래된 PHP 버전을 계속 사용하는 서버는 위험에 노출될 수 있다.

따라서 취약점의 발견과 패치의 공개, 실제 운영 시스템의 업데이트는 서로 다른 단계다.

OpenAI는 이 과정을 체계화하기 위해 Patch the Planet이라는 대응 프로그램을 제시했다.

다섯 단계의 공동 대응 체계

OpenAI는 대규모 보안 취약점에 대한 대응을 여러 단계로 나눠 설명한다.

먼저 취약점을 확인하고 공식 유지보수 담당자가 수정하도록 지원한다.

이후 취약점의 영향을 받는 소프트웨어 배포업체와 호스팅 업체, 보안 서비스 제공업체가 보호 조치를 준비할 수 있도록 한다.

필요한 경우 웹 애플리케이션 방화벽에 임시 보호 규칙을 추가할 수 있다.

WAF(Web Application Firewall)는 웹 서비스로 전달되는 HTTP 요청을 분석하고 악의적인 접근을 차단하는 보안 시스템이다.

다만 WAF의 임시 규칙이 실제 취약점 수정 패치를 완전히 대체하는 것은 아니다.

OpenAI는 패치가 준비된 이후 공식적인 업데이트 방법과 위험 확인 절차를 공개하도록 제안한다.

또한 실제 공격이 이미 발생했거나 취약점 정보가 유출된 상황에서는 공개 일정과 대응 우선순위를 다시 조정할 수 있도록 해야 한다고 설명한다.

이 과정에서 AI는 취약점 탐지뿐 아니라 수정 코드의 검증과 우회 가능성 분석에도 활용될 수 있다.

Codex용 PHP 버전 검사 도구 제공

이번 발표와 함께 OpenAI는 PHP 버전 확인용 Codex Skill도 제공했다.

Skill은 AI 에이전트가 특정 작업을 수행할 때 필요한 지침과 도구 사용 방법을 묶은 구성요소다.

이 도구는 서버나 개발 환경에서 사용하는 PHP 버전을 확인하고 잠재적인 취약 버전인지 검토하도록 돕는다.

다만 버전을 확인하는 것만으로 실제 공격 가능성을 완전히 판단할 수는 없다.

서버의 구성과 사용 중인 확장 기능, 적용된 별도 보안 패치에 따라 위험이 달라질 수 있기 때문이다.

따라서 실제 운영자는 PHP 유지보수 담당자와 자신이 이용하는 호스팅 업체의 공식 안내를 함께 확인해야 한다.

AI 보안 연구가 가진 양면성

이번 발표는 AI의 보안 분석 능력이 발전하면서 발생하는 새로운 문제도 보여준다.

AI 모델이 취약점을 빠르게 발견할 수 있다면 정상적인 보안 연구자뿐 아니라 공격자도 같은 능력을 활용하려 할 수 있다.

취약점이 발견되는 속도가 빨라질수록 패치 개발과 배포, 실제 시스템 업데이트에 필요한 시간도 줄여야 할 수 있다.

OpenAI는 이를 위해 취약점 대응 경험이 부족한 오픈소스 프로젝트와 보안 담당자에게 모델 접근권한과 기술 지원을 제공하겠다고 밝혔다.

다만 이번 협력 모델이 공식 국제 보안 표준으로 확정된 것은 아니다.

현재는 OpenAI가 실제 PHP 취약점 대응 경험을 바탕으로 제안한 공동 대응 체계다.

이번 발표는 AI가 보안 취약점을 더 많이 발견할 수 있는 시대에는 발견 이후의 협력과 패치 배포 시스템 자체도 중요해진다는 점을 보여준다.

Google Cloud, NVIDIA Blackwell 기반 ‘Confidential G4’ 정식 제공…AI 모델 가중치와 사용자 데이터를 실행 중에도 암호화

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: 기업용 AI 보안, GPU 인프라, 기밀 컴퓨팅, Google Cloud, NVIDIA Blackwell, AI 에이전트, 데이터 규제
원문: Google Cloud — Hardware-backed security at global scale: Confidential G4 with NVIDIA Blackwell is GA

Google Cloud가 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU를 이용하는 Confidential G4 인스턴스의 정식 제공을 발표했다.

이번 발표는 새로운 AI 모델이 아니라 AI 모델이 실제로 계산하는 동안에도 중요한 데이터를 보호하는 클라우드 인프라에 관한 것이다.

일반적인 데이터 보안에서는 크게 두 종류의 암호화가 사용된다.

하나는 저장된 파일을 암호화하는 Encryption at Rest(저장 데이터 암호화)다.

다른 하나는 네트워크로 전송하는 데이터를 보호하는 Encryption in Transit(전송 데이터 암호화)다.

하지만 AI 모델을 실행하려면 데이터를 메모리에 올려 계산해야 한다.

이 과정에서는 암호화된 파일을 복호화한 뒤 실제 계산에 사용할 수 있는 형태로 변환해야 한다.

따라서 저장과 전송 과정이 안전하더라도 데이터가 계산되는 순간의 보호는 별도의 문제다.

데이터 사용 중 암호화

Confidential G4는 Confidential Computing(기밀 컴퓨팅) 기술을 사용한다.

기밀 컴퓨팅은 하드웨어가 보호하는 격리된 환경 안에서 중요한 데이터를 처리하도록 하는 기술이다.

이 환경을 TEE(Trusted Execution Environment, 신뢰 실행 환경)라고 한다.

TEE는 일반적인 운영체제나 관리자 권한만으로 보호된 메모리의 내용을 확인하기 어렵도록 설계된 실행 영역이다.

Google Cloud는 이를 NVIDIA의 Blackwell GPU와 결합했다.

기업은 AI 모델의 가중치와 사용자 프롬프트, 모델이 생성한 결과를 하드웨어로 보호된 환경에서 처리할 수 있다.

Model Weight(모델 가중치)는 AI 모델이 학습 과정에서 조정한 숫자 데이터다.

기업이 자체적으로 개발한 모델에서는 가중치 자체가 중요한 지식재산이 될 수 있다.

Confidential G4는 이런 정보를 클라우드 관리자나 하이퍼바이저 등 외부 관리 계층에서 임의로 읽기 어렵도록 만드는 데 초점을 맞춘다.

Hypervisor(하이퍼바이저)는 하나의 물리적 서버에서 여러 가상 머신을 실행하도록 관리하는 소프트웨어다.

하드웨어 기반 인증

이번 기술에는 Remote Attestation(원격 검증)도 포함된다.

원격 검증은 프로그램이 실제로 신뢰할 수 있는 하드웨어와 소프트웨어 환경에서 실행되고 있는지 외부에서 확인하는 방법이다.

예를 들어 기업은 민감한 데이터를 AI 서버에 전달하기 전에 해당 서버가 승인된 보안 설정으로 실행되고 있는지 검사할 수 있다.

또한 내보낼 수 없는 하드웨어 기반 암호화 키를 이용해 보호 수준을 높인다.

이는 클라우드 제공업체와 고객 사이의 신뢰 문제를 기술적으로 줄이려는 접근이다.

다만 기밀 컴퓨팅이 모든 종류의 보안 공격을 막는 것은 아니다.

예를 들어 애플리케이션 자체에 잘못된 접근권한이 설정돼 있다면 승인된 사용자가 불필요한 정보를 읽을 수 있다.

또한 모델이 외부 도구를 잘못 호출하거나 민감정보를 응답에 포함하는 문제는 별도의 보안 정책으로 관리해야 한다.

즉 TEE는 실행 중인 데이터의 기밀성을 보호하는 수단이지 AI 에이전트의 모든 행동을 통제하는 기술은 아니다.

실제 제공 범위

Google Cloud는 Confidential G4를 36개 존에서 제공한다고 밝혔다.

Compute Engine 가상 머신과 Google Kubernetes Engine 노드에서 사용할 수 있다.

Kubernetes는 여러 서버에 애플리케이션을 배포하고 실행 상태를 관리하는 플랫폼이다.

Google은 향후 여러 조직이 데이터를 공동으로 분석할 수 있도록 하는 Confidential Space 지원도 확대할 계획이다.

다만 Confidential Space의 관련 기능은 발표 시점에 모두 정식 제공된 것이 아니라 향후 몇 주 동안 GA로 전환할 예정이다.

이번 발표는 기업용 AI 인프라의 보안 요구사항이 데이터 저장과 전송을 넘어 실제 GPU 연산이 수행되는 과정의 기밀성까지 확대되고 있음을 보여준다.

NVIDIA, 모듈형 AI 데이터센터 ‘DSX POD’와 에이전트 보안 참조 아키텍처 발표…준비된 부지에서 설치 기간 14일 목표

발표일: 2026-10-21 — 정확한 게시 시각 미확인
적용 범위: AI 데이터센터, NVIDIA Vera Rubin, GPU 인프라, 모듈형 서버, AI 에이전트 보안, 실행 샌드박스
원문: NVIDIA — GTC Berlin 2026 Keynote

NVIDIA가 GTC Berlin 2026에서 모듈형 AI 데이터센터인 DSX POD와 AI 에이전트 보안을 위한 새로운 참조 아키텍처를 발표했다.

두 기술은 서로 다른 문제를 해결한다.

DSX POD는 대규모 AI 계산 인프라를 더 빠르게 구축하는 데 초점을 맞춘다.

에이전트 보안 참조 아키텍처는 AI가 외부 시스템을 실제로 조작할 때 발생할 수 있는 위험을 제한하는 데 초점을 맞춘다.

데이터센터 전체를 미리 조립하는 DSX POD

일반적인 대형 데이터센터를 구축하려면 건물과 전력 공급, 냉각 설비, 서버와 네트워크를 설치해야 한다.

AI 데이터센터는 특히 높은 전력과 냉각 용량이 필요하다.

또한 GPU와 고속 네트워크를 연결하고 실제로 정상적인 계산이 수행되는지 확인해야 한다.

NVIDIA는 이 과정을 단축하기 위해 DSX POD를 제안했다.

DSX POD는 파트너 기업이 서버와 네트워크, 냉각 구성요소를 모듈형 컨테이너에 미리 설치하고 검증하는 구조다.

이후 완성된 모듈을 실제 설치 장소로 운송한다.

현장에서는 준비된 전력과 냉각, 통신 인프라에 연결해 가동하는 방식을 목표로 한다.

NVIDIA는 이런 방식으로 현장 설치 기간을 기존 약 6개월에서 14일로 줄일 수 있다고 설명했다.

하지만 여기에는 중요한 조건이 있다.

전력과 냉각 등 부지의 기반시설이 이미 준비된 상태를 기준으로 한 수치다.

데이터센터의 부지 확보와 전력 인허가, 외부 송전망 구축까지 포함해 14일 만에 완료할 수 있다는 의미는 아니다.

이번 발표는 새로운 참조 설계와 구축 방식에 관한 것이며, 모든 실제 데이터센터에서 설치 기간이 14일로 단축됐다는 독립적인 운영 실적도 아니다.

전력과 냉각 효율

NVIDIA는 DSX AI Factory 플랫폼의 전력·냉각 효율 개선 목표도 공개했다.

회사 발표에 따르면 같은 양의 AI 결과를 생성하는 데 필요한 전력을 최대 30% 줄일 수 있다.

또한 냉각에 사용하는 물의 소비량을 최대 100% 감소시키는 구성을 제공할 수 있다고 설명했다.

여기서 물 소비량 100% 감소는 모든 데이터센터가 어떤 환경에서도 물을 사용하지 않는다는 뜻은 아니다.

선택한 냉각 방식과 설치 환경에 따라 달라질 수 있는 최대 개선 수치다.

실제 데이터센터의 환경적 영향은 전력 생산 방식과 전체 물 사용량, 장비 제조와 운송 과정까지 함께 고려해야 한다.

에이전트가 접근할 수 있는 시스템 제한

NVIDIA는 OpenShell Reference Architecture for Safe AI Agents도 발표했다.

OpenShell은 AI 에이전트가 실행하는 프로그램과 도구를 제한된 환경에서 관리하는 기술이다.

여기서 Sandbox(샌드박스)는 프로그램이 접근할 수 있는 파일과 네트워크, 시스템 자원을 제한하는 실행 환경이다.

예를 들어 코딩 에이전트가 프로젝트 파일을 수정하는 데 필요한 권한만 갖도록 설정할 수 있다.

사용자가 허용하지 않은 다른 디렉터리나 외부 네트워크에 접근하는 행동은 실행 환경에서 제한할 수 있다.

이런 설계의 핵심은 모델의 지침과 실제 시스템 권한을 구분하는 것이다.

모델에게 특정 파일을 읽지 말라고 프롬프트를 작성하는 것만으로는 충분하지 않을 수 있다.

모델이 잘못된 판단을 하더라도 하네스와 샌드박스가 실제 접근을 차단하는 구조가 필요하다.

이번 참조 아키텍처는 모델과 하네스, 도구와 지식 저장소, 샌드박스를 어떻게 연결할지에 관한 기본 설계를 제공한다.

다만 OpenShell 기술 자체가 이번 행사에서 처음 등장한 것은 아니다.

새롭게 공개된 부분은 기업이 에이전트 보안 시스템을 구축할 때 참고할 수 있는 전체 아키텍처다.

이번 발표는 AI 인프라의 발전이 단순히 GPU의 처리 속도를 높이는 문제를 넘어 데이터센터 구축 기간과 에이전트의 실제 실행 권한을 관리하는 문제까지 확장되고 있음을 보여준다.

미국 법원, Anthropic과 음악 출판사의 AI 학습 저작권 분쟁 심리 예정…학습 목적의 공정 이용 인정 여부 쟁점

보도 시각: 2026-10-21 19:10 KST
적용 범위: 생성형 AI 저작권, AI 학습 데이터, 음악 산업, 미국 저작권법, 공정 이용
원문 보도: Reuters — Anthropic, music publishers to make key arguments in AI training case
출처 한계: 이번 항목은 Reuters의 법원 심리 사전 보도를 기준으로 정리했다. 심리 결과나 최종 판결을 확인한 자료가 아니므로, 실제 법원 판단이 내려진 것처럼 해석해서는 안 된다.

미국 캘리포니아 연방법원에서 Anthropic과 주요 음악 출판사 사이의 AI 학습 데이터 저작권 분쟁에 관한 중요한 심리가 예정됐다.

원고에는 Universal Music Group 계열의 음악 출판사와 Concord, ABKCO 등이 포함된다.

공정 이용이란 무엇인가

공정 이용 여부는 사용 목적과 성격, 원본 저작물의 종류, 사용한 양, 기존 시장에 미치는 영향 등을 종합적으로 고려해 판단한다.

예를 들어 비평이나 연구, 교육을 위한 저작물 사용은 공정 이용 판단에서 중요한 요소가 될 수 있다.

하지만 어떤 자료를 AI 학습에 사용했다는 이유만으로 자동으로 공정 이용이 인정되는 것은 아니다.

구체적인 사용 방식과 법적 판단이 필요하다.

Anthropic과 음악 출판사의 주장

Anthropic은 언어모델 학습이 기존 노래 가사를 그대로 제공하기 위한 작업이 아니라 언어의 구조와 표현을 학습해 새로운 작업을 수행하기 위한 변형적 이용이라는 입장을 제시했다.

반면 음악 출판사들은 무단 학습이 원저작물의 시장에 영향을 주며, AI가 생성한 가사가 실제 음악 콘텐츠의 시장과 경쟁할 수 있다고 주장한다.

이번 사건은 2023년에 제기된 소송이다.

이번 보도에서 중요한 점은 AI 학습 목적의 공정 이용을 둘러싼 핵심 법적 주장을 다시 심리할 예정이라는 사실이다.

기존 법원 판단도 완전히 일치하지 않는다

Reuters는 앞서 캘리포니아의 다른 연방 판사들이 AI 학습의 공정 이용 여부를 검토한 사례를 소개했다.

일부 판단에서는 생성형 AI 학습의 변형적 성격이 인정됐다.

또한 이번 사건에서는 노래 가사처럼 상대적으로 짧고 표현 자체에 높은 가치가 있는 저작물이 대상이라는 특성이 있다.

이는 일반적인 기술 문서나 대규모 웹페이지 데이터와는 다른 법적 쟁점을 만들 수 있다.

다만 이번 보도 시점에는 최종 판결이 내려진 것이 아니다.

법원 심리가 예정됐다는 사실과 Anthropic의 법적 책임이 확정됐다는 사실은 명확하게 구분해야 한다.

📚 추천 글

How we built ChatGPT’s novel ad stack for user trust and relevance

저자: Ritendra Datta, Karthik Gopalratnam
발행: OpenAI
게시일: 2026-10-21
원문: OpenAI — How we built ChatGPT’s novel ad stack for user trust and relevance

생성형 AI 서비스에 광고를 추가할 때 기존 검색엔진의 광고 시스템을 그대로 사용할 수 있을까?

이 글은 OpenAI가 ChatGPT의 대화 구조에 맞는 광고 시스템을 어떻게 설계했는지 상세하게 설명한다.

특히 일반적인 광고 추천 알고리즘을 설명하는 데 그치지 않고, AI 모델이 광고 검색과 평가, 경매 절차를 도구 호출로 관리하는 구조를 다룬다는 점이 흥미롭다.

검색엔진의 광고와 AI 대화의 광고는 다르다

기존 검색엔진에서는 사용자가 검색어를 입력한다.

검색 시스템은 해당 검색어와 관련된 광고를 찾는다.

예를 들어 사용자가 러닝화를 검색했다면 관련 신발 광고를 추천할 수 있다.

하지만 ChatGPT에서는 사용자의 의도가 여러 대화에 걸쳐 조금씩 구체화될 수 있다.

처음에는 마라톤을 준비하는 방법을 질문할 수 있다.

이후 훈련 계획과 식단을 조사하다가 나중에 러닝화에 관해 질문할 수 있다.

이때 광고 시스템이 첫 번째 질문만 사용한다면 사용자의 실제 구매 의도를 제대로 이해하기 어렵다.

반대로 모든 대화에 광고를 표시하면 필요하지 않은 광고가 지나치게 많이 노출될 수 있다.

OpenAI는 이를 해결하기 위해 Stateful Ad Session(상태를 유지하는 광고 세션)을 사용한다.

광고 시스템은 하나의 사용자 메시지만 분석하지 않고 관련 대화의 흐름을 참고한다.

사용자의 목적이 바뀌면 광고 검색에 사용하는 정보도 업데이트한다.

하지만 과거 대화 전체를 무조건 광고에 활용하는 것은 아니다.

OpenAI는 사용자가 광고 개인화를 허용한 경우에만 이용 가능한 비민감 과거 정보를 추가로 사용할 수 있다고 설명한다.

광고 검색을 관리하는 별도의 LLM

ChatGPT의 광고 시스템에는 광고 작업을 관리하도록 별도로 학습된 LLM이 사용된다.

이 모델은 Orchestrator(오케스트레이터)라고 불린다.

오케스트레이터는 사용자의 대화를 분석한 뒤 어떤 광고 검색 작업이 필요한지 결정한다.

예를 들어 사용자가 여행을 준비하고 있다면 숙소와 교통, 여행용품처럼 서로 다른 구매 의도를 구분할 수 있다.

이후 각 의도에 맞는 광고 후보를 검색한다.

이 과정에는 Embedding(임베딩)이 사용된다.

임베딩은 문장이나 상품의 의미를 여러 숫자로 구성된 벡터로 변환하는 기술이다.

의미가 비슷한 광고를 빠르게 찾을 수 있도록 돕는다.

광고 검색 시스템은 ANN(Approximate Nearest Neighbor, 근사 최근접 이웃 검색)을 사용한다.

ANN은 매우 많은 데이터 가운데 의미적으로 가까운 후보를 빠르게 찾는 방법이다.

모든 후보를 하나씩 비교하는 대신 효율적으로 근사 결과를 찾도록 설계된다.

광고 후보를 여러 단계로 검증

검색된 광고가 모두 사용자에게 표시되는 것은 아니다.

OpenAI는 광고를 실제로 표시하기 전에 여러 조건을 확인한다고 설명한다.

먼저 광고 캠페인이 현재 활성화돼 있는지 검사한다.

광고주의 예산이 남아 있는지도 확인한다.

광고가 표시될 국가와 지역, 정책 조건도 검사한다.

이후 해당 광고가 사용자의 목적과 얼마나 관련 있는지 평가한다.

광고를 표시했을 때 사용자가 관심을 보일 가능성과 기존 광고 성과도 함께 고려할 수 있다.

마지막으로 광고 경매를 수행해 어떤 광고를 표시할지 결정한다.

여기서 Ad Auction(광고 경매)은 광고주가 제출한 입찰 정보와 광고의 관련성 등을 바탕으로 노출할 광고와 가격을 결정하는 과정이다.

중요한 점은 높은 금액을 제시한 광고가 무조건 선택되는 구조는 아니라는 것이다.

OpenAI는 사용자에게 실질적인 가치가 있다고 판단되는 광고만 표시하도록 설계했다고 설명한다.

또한 광고를 표시하지 않는 것도 정상적인 결과로 취급한다.

일반적인 ChatGPT 답변과 광고를 분리

이번 글에서 특히 중요한 설계 원칙은 광고 선택 시스템과 ChatGPT의 일반 답변 생성 시스템을 별도로 운영한다는 점이다.

OpenAI에 따르면 두 시스템은 서로 다른 모델과 코드를 사용한다.

ChatGPT의 일반 답변을 생성하는 시스템은 광고 후보를 선택하거나 경매를 수행하는 작업에 직접 관여하지 않는다.

광고 시스템은 별도의 경로에서 동작하며, 적절한 광고가 선택되면 이를 독립적인 광고 영역에 표시한다.

이 구조는 두 가지 목적을 가진다.

첫 번째는 일반적인 답변이 광고주의 입찰에 영향을 받지 않도록 분리하는 것이다.

두 번째는 광고 시스템에 장애가 발생하더라도 일반적인 ChatGPT 응답이 계속 제공되도록 하는 것이다.

다만 이러한 분리는 OpenAI가 설명한 내부 설계다.

외부 독립기관이 모든 실제 광고 노출에서 답변 생성과 광고 선택이 완벽하게 분리돼 있다고 검증한 결과를 제시한 것은 아니다.

대화형 광고 시스템의 새로운 문제

이 글에서 특히 생각해 볼 부분은 AI가 사용자의 목적을 점점 더 잘 이해할수록 광고 추천의 정확도와 개인정보 보호 사이의 긴장도 커질 수 있다는 점이다.

예를 들어 사용자가 특정 제품을 조사하고 있다는 사실만으로는 광고를 표시하는 것이 적절하지 않을 수 있다.

업무상 경쟁사의 제품을 조사하는 상황일 수도 있고 단순히 기술적인 원리를 배우는 상황일 수도 있다.

또한 사용자가 특정한 제품을 가정적으로 언급했다고 해서 실제 구매 의도가 있다고 판단해서는 안 된다.

따라서 대화형 광고 시스템에는 검색어를 분석하는 것보다 더 복잡한 의도 파악이 필요하다.

이번 글은 AI 에이전트의 도구 사용 구조가 광고 검색과 추천, 경매처럼 전통적으로 별도의 알고리즘이 수행하던 업무에도 적용되고 있다는 점을 구체적으로 보여준다.

Solving a 31-year-old grand challenge in mathematics — the KLS conjecture

저자: Xinzhi Zhang
발행: Microsoft Research
게시일: 2026-10-21
원문: Microsoft Research — Solving a 31-year-old grand challenge in mathematics

Microsoft Research가 31년 동안 해결되지 않았던 고차원 기하학의 난제를 해결한 연구 과정을 상세하게 소개했다.

이번 글에서 다루는 문제는 KLS 추측(Kannan–Lovász–Simonovits Conjecture)이다.

KLS 추측은 1995년에 제안됐다.

고차원 공간의 확률분포와 기하학적 구조를 이해하는 데 중요한 수학적 문제다.

다만 이번 글은 10월 21일에 새로운 증명이 처음 완성됐다는 발표가 아니다.

완전한 증명은 10월 4일에 공개된 논문에서 제시됐으며, 10월 21일의 글은 그 결과와 인간·AI 협업 과정을 설명하는 연구 해설이다.

고차원 공간의 경계를 나누는 문제

일상적인 공간은 보통 세 개의 차원으로 표현한다.

가로와 세로, 높이가 그것이다.

하지만 머신러닝에서는 수백 개에서 수만 개의 차원을 가진 데이터를 다룰 수 있다.

예를 들어 하나의 이미지를 수천 개의 숫자로 표현하면 그 이미지는 고차원 공간의 한 점으로 생각할 수 있다.

이런 공간에서 특정한 확률분포를 분석하려면 데이터가 어떤 영역에 얼마나 많이 분포하는지 이해해야 한다.

KLS 추측은 이런 고차원 공간에서 단순한 평면으로 분포를 나누는 방법이 복잡한 곡면을 사용하는 방법에 비해 얼마나 효율적인가라는 질문과 연결된다.

좀 더 정확하게는 로그 오목 분포(Log-Concave Distribution)에서 특정한 기하학적 경계를 비교한다.

로그 오목 분포는 확률밀도의 로그가 오목한 함수가 되는 확률분포다.

고차원 확률과 최적화, 무작위 알고리즘의 분석에서 자주 등장한다.

KLS 추측은 가장 좋은 평면 분할과 모든 형태의 분할 가운데 최적의 경계 사이에 차원 수와 무관한 일정한 비율의 상한이 존재하는지를 묻는다.

이 성질이 성립하면 차원이 높아져도 특정한 기하학적 문제가 예상보다 안정적으로 유지된다는 사실을 보여줄 수 있다.

AI가 단독으로 증명한 것은 아니다

이번 연구의 중요한 부분은 증명을 찾아낸 과정이다.

연구자들은 AI 에이전트를 이용해 100개가 넘는 수학적 접근법을 탐색했다.

각 접근법은 특정한 수학적 관계를 분석하거나 계산을 수행했다.

하지만 사람이 단순히 모든 결과를 받아들이지는 않았다.

연구자들은 중간 결과를 검토해 가능성이 낮은 방향을 제거하고, 유망한 접근법을 선택했다.

이후 선택한 결과를 바탕으로 AI 에이전트가 새로운 계산과 추론을 수행하도록 지시했다.

이를 반복하면서 핵심적인 수학적 조건을 찾아냈다.

특히 연구자들은 기존 결과를 반복적으로 개선하는 재귀적 정제(Recursive Refinement) 방법을 사용했다.

재귀적 정제는 이전 단계에서 얻은 개선 결과를 다시 같은 원리에 적용해 더 좋은 결과를 만드는 방식이다.

처음에는 차원의 수에 따라 매우 천천히 증가하는 오차가 남아 있었다.

하지만 연구자들은 재귀적 개선 과정 전체를 반복하면 오차가 일정한 범위 안에 유지된다는 사실을 증명했다.

이를 통해 차원의 수와 무관한 상한을 얻을 수 있었다.

AI만 반복 실행한 실험은 실패

Microsoft Research는 별도의 비교 실험도 소개했다.

연구팀은 비슷한 총 토큰 예산으로 여러 강력한 AI 모델이 사람의 중간 지도 없이 문제를 해결하도록 반복해서 시도했다.

하지만 이 실험에서는 완전한 증명에 도달하지 못했다.

반면 사람이 중간 결과를 평가하고 탐색 방향을 수정하는 방식에서는 해결에 성공했다.

이 차이는 이번 연구를 이해하는 데 중요하다.

결과를 단순히 AI가 31년 된 수학 난제를 혼자 해결했다고 설명하는 것은 정확하지 않다.

AI가 많은 계산과 접근법을 탐색하고, 인간 연구자가 핵심 아이디어를 선택하며 증명의 구조를 완성한 공동 연구에 가깝다.

독립적인 증명과 형식 검증

수학에서는 새로운 증명이 발표됐다고 해서 즉시 모든 연구자가 이를 받아들이는 것은 아니다.

증명의 각 단계가 실제로 성립하는지 검토해야 하기 때문이다.

Microsoft에 따르면 같은 시기에 다른 연구자들도 독립적인 증명을 공개했다.

일부 연구진은 이번 연구의 핵심적인 수학적 조건을 활용해 별도의 증명을 구성했다.

또한 Lean 4라는 형식 검증 도구를 이용해 관련 수학적 결과를 확인하는 작업도 진행됐다.

Lean은 수학적 명제를 형식적인 논리 체계로 표현하고 컴퓨터로 검증하는 도구다.

이는 단순히 AI에게 증명이 맞는지 질문하는 방식과 다르다.

정해진 논리 규칙을 만족하는지를 프로그램이 엄밀하게 확인한다.

이번 사례는 AI가 과학과 수학 연구에서 어떤 역할을 수행할 수 있는지 보여준다.

특히 AI가 여러 가능성을 빠르게 탐색하는 능력과 인간 연구자의 개념적 판단, 형식적인 검증 도구를 결합하는 방식이 복잡한 문제 해결에 유용할 수 있음을 설명하는 자료다.

How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77% in Real Applications

저자: Bernardo França de Aguiar, Gabriel Pimenta de Freitas Cardoso, Bruno Duarte, Francisco de Almeida Rocha Alves
발행: Dharma AI / Hugging Face
게시일: 2026-10-21
원문: Dharma AI — How Specializing the Vocabulary of SLMs Can Cut Inference Cost by 77%

AI 모델의 운영 비용을 줄이려면 일반적으로 더 작은 모델이나 더 빠른 GPU를 사용하는 방법을 생각한다.

하지만 이 글은 모델 자체를 바꾸지 않고 토크나이저의 단어 목록을 바꾸는 것만으로 운영 비용을 크게 줄일 수 있다는 사례를 설명한다.

특히 실제 운영 중인 포르투갈어 작문 평가 시스템에서 측정한 결과를 제시한다는 점에서 흥미롭다.

범용 모델의 토큰 목록은 특정 업무에서 비효율적일 수 있다

Tokenizer(토크나이저)는 입력 문장을 AI 모델이 처리하는 작은 단위인 토큰으로 나누는 도구다.

대형 언어모델은 여러 언어와 다양한 주제의 문서를 학습한다.

따라서 토크나이저도 다양한 문장을 처리할 수 있도록 설계된다.

예를 들어 영어와 한국어, 중국어, 프로그래밍 코드와 수학 기호를 모두 처리해야 할 수 있다.

하지만 특정 업무에만 사용하는 작은 언어모델은 상황이 다르다.

Dharma AI는 포르투갈어 작문을 평가하는 시스템을 운영하고 있다.

이 시스템은 Qwen3-4B를 기반으로 한다.

약 40억 파라미터의 비교적 작은 모델이지만, 실제로는 포르투갈어 작문을 읽고 정해진 JSON 구조의 평가 결과를 생성하는 작업만 수행한다.

그런데 기존 토크나이저는 매우 다양한 언어와 표현을 처리하도록 만들어져 있었다.

이 시스템에서 거의 사용하지 않는 수많은 토큰도 모델의 출력 후보에 포함돼 있었다.

출력 토큰이 입력 토큰보다 비쌀 수 있다

저자들은 AI 추론을 두 단계로 나눠 설명한다.

첫 번째는 Prefill이다.

모델이 입력 전체를 읽고 계산하는 단계다.

두 번째는 Decode다.

모델이 출력 토큰을 하나씩 생성하는 단계다.

일반적으로 출력 토큰을 생성할 때는 모델 가중치를 반복해서 읽어야 한다.

따라서 입력 토큰을 처리하는 것보다 출력 토큰을 생성하는 작업이 더 비쌀 수 있다.

Dharma AI의 실제 환경에서는 출력 토큰 하나의 처리 비용이 입력 토큰 하나의 약 7.4배였다.

이 비율은 사용하는 GPU와 배치 크기, 모델에 따라 달라진다.

저자들은 이 차이에 주목했다.

기존의 토크나이저 최적화는 자주 등장하는 문자열을 하나의 토큰으로 합쳐 전체 토큰 수를 줄이는 데 집중하는 경우가 많았다.

하지만 입력에서 반복되는 표현과 출력에서 반복되는 표현의 비용이 다르다면 단순히 전체 토큰 수를 줄이는 것만으로는 최적의 결과를 얻기 어렵다.

자주 사용하는 JSON 구조를 하나의 토큰으로 압축

Dharma AI는 VocabX라는 방법을 개발했다.

VocabX는 토큰을 선택할 때 단순한 등장 빈도뿐 아니라 실제 추론 비용을 얼마나 줄일 수 있는지를 고려한다.

예를 들어 작문 평가 시스템은 매번 비슷한 JSON 구조를 반환한다.

평가 항목의 이름과 일부 설명, 반복되는 표현이 계속 등장할 수 있다.

VocabX는 이런 반복적인 문자열을 하나의 토큰으로 표현할 수 있도록 한다.

이를 Macro Token(매크로 토큰)이라고 한다.

여러 단어나 문장 구조를 하나의 토큰으로 표현하는 방식이다.

또한 기존 단어를 분할하는 규칙도 해당 업무에 맞게 수정했다.

이렇게 하면 포르투갈어 작문 평가에서 거의 사용하지 않는 다른 언어의 토큰을 줄이고, 실제로 자주 출력하는 표현을 더 효율적으로 생성할 수 있다.

기존 모델의 출력 단어 목록은 약 15만2천 개였다.

최적화 이후에는 약 6만5천 개로 감소했다.

실제 측정 결과

연구팀은 같은 기본 모델과 같은 데이터, 같은 학습 설정을 유지한 채 토크나이저만 달리한 여러 모델을 비교했다.

평가에는 RTX 5090 GPU와 vLLM 추론 서버가 사용됐다.

실제 작문 평가 요청 500개를 동일한 조건에서 실행했다.

그 결과 모델이 생성하는 평균 출력 토큰 수는 350개에서 101개로 줄었다.

측정한 추론 비용은 77% 감소했다.

품질 평가 점수도 기존 0.703에서 0.810으로 개선됐다.

다만 이 결과는 Dharma AI가 실제로 운영하는 특정 포르투갈어 작문 평가 시스템에서 측정한 결과다.

모든 작은 언어모델에서 토크나이저만 변경하면 77%의 비용 절감이 발생한다는 뜻은 아니다.

또한 새로운 토크나이저를 사용하려면 해당 모델을 이에 맞춰 다시 조정해야 할 수 있다.

단순히 기존 모델의 토큰 목록만 교체해도 항상 올바르게 동작한다는 의미는 아니다.

연구팀은 품질과 비용의 관계도 확인했다.

처음에는 평가 점수와 JSON 형식을 하나의 토큰으로 지나치게 많이 압축했더니 오히려 품질이 낮아졌다.

이후 중요한 평가 점수를 별도의 토큰으로 유지하자 정확도가 개선됐다.

즉 토큰 수를 최소화하는 것보다 모델이 실제로 구분해야 하는 의미 단위를 유지하는 것이 중요했다.

이번 글은 AI 모델 운영 비용을 줄이는 방법이 모델 크기나 GPU 선택에만 있지 않음을 보여준다.

모델이 어떤 언어와 출력 형식을 반복해서 처리하는지 분석하고, 해당 업무에 맞춰 데이터 표현 자체를 바꾸는 방법도 상당한 효과를 만들 수 있다는 구체적인 사례다.

NVIDIA Kumo Forecast Combines Pretrained Time-Series Representations with Historical Pattern Retrieval and Interpretability

저자: Saira Qureshi, Aditi Gautam, Manikandan Ravikiran, Sena Ekiz, Viraj P. Modak
발행: NVIDIA / Hugging Face
게시일: 2026-10-21
원문: NVIDIA — Kumo Forecast: Historical Pattern Retrieval and Interpretability

기업이 미래의 매출이나 수요, 설비의 이상 가능성을 예측할 때 일반적인 언어모델과는 다른 종류의 데이터를 사용한다.

예를 들어 공장의 온도와 진동, 전력 사용량은 시간에 따라 연속적으로 기록된다.

이런 데이터를 Time Series(시계열 데이터)라고 한다.

시계열 예측은 과거의 관측값을 이용해 미래의 값을 추정하는 작업이다.

NVIDIA가 공개한 Kumo Forecast는 기존 시계열 기반 모델과 과거 패턴 검색을 결합한 예측 시스템이다.

사전학습된 모델만 사용하는 예측의 한계

일반적인 시계열 예측 모델은 다양한 데이터를 학습해 반복적으로 나타나는 패턴을 익힐 수 있다.

예를 들어 주말에 매출이 증가하거나 특정 계절에 전력 소비가 높아지는 패턴을 학습할 수 있다.

하지만 모델이 학습하지 않은 특정한 기업의 설비나 서비스에서는 새로운 패턴이 존재할 수 있다.

예를 들어 어떤 공장은 특정 기계가 고장 나기 전에 온도와 진동이 특이한 순서로 변할 수 있다.

이런 현상을 다른 공장의 일반적인 데이터에서 충분히 학습하지 못했을 수도 있다.

따라서 사전학습된 모델이 가진 일반적인 지식과 실제 운영 시스템의 과거 기록을 함께 사용하는 방법이 유용할 수 있다.

Kumo Forecast는 이를 위해 두 가지 예측 경로를 제공한다.

첫 번째는 사전학습된 모델이 최근 시계열 데이터를 읽고 직접 미래 값을 예측하는 방식이다.

두 번째는 실제 운영 기록에서 비슷한 패턴을 찾아 예측에 반영하는 방식이다.

MOMENT 기반 3억4천만 파라미터 모델

Kumo Forecast는 MOMENT-1-large라는 시계열 모델을 기반으로 한다.

이 모델에는 약 3억4천만 개의 파라미터가 사용된다.

모델은 Transformer 기반의 인코더를 이용해 시계열의 특징을 표현한다.

Transformer는 입력의 여러 부분 사이의 관계를 계산하는 Attention 구조를 중심으로 설계된 신경망 아키텍처다.

NVIDIA는 사전학습된 인코더의 가중치를 고정하고, 미래 값을 예측하는 별도의 출력 계층을 학습시켰다고 설명한다.

이런 구조는 일반적인 데이터 표현을 학습하는 부분과 실제 예측을 수행하는 부분을 분리할 수 있다는 장점이 있다.

과거 패턴을 검색하는 DARR

Kumo Forecast에서 가장 흥미로운 부분은 DARR(Domain-Aware Representation and Retrieval)다.

DARR는 현재 입력과 비슷한 과거 시계열 패턴을 검색하는 방법이다.

예를 들어 공장의 센서 데이터에서 특정한 진동 패턴이 발견됐다고 가정해 보자.

시스템은 과거에 비슷한 패턴이 발생했을 때 이후 온도가 어떻게 변했는지 검색할 수 있다.

그다음 사전학습된 모델의 예측과 과거 사례에서 얻은 정보를 결합한다.

이 방식은 RAG와 개념적으로 비슷하다.

다만 일반적인 RAG가 문서를 검색해 언어모델에 전달하는 것과 달리, DARR는 과거 시계열의 숫자 패턴을 검색해 미래 값의 예측에 반영한다는 차이가 있다.

NVIDIA는 개발자가 두 예측 경로의 결과를 어느 정도 비율로 결합할지 조정할 수 있도록 했다.

또한 최근 관측값을 전달하는 입력 데이터와 과거 사례를 검색하는 데이터셋을 구분했다.

예측 결과를 설명하는 기능

Kumo Forecast는 단순히 미래의 숫자만 반환하는 모델이 아니다.

예측에 어떤 과거 시점과 입력 변수가 영향을 미쳤는지 설명하는 기능도 제공한다.

이를 Interpretability(해석 가능성)라고 한다.

예를 들어 기계의 고장 가능성이 높아졌다고 예측했다면 어떤 센서의 변화가 해당 결과에 영향을 미쳤는지 확인하는 데 활용할 수 있다.

하지만 모델이 특정 센서가 중요하다고 설명했다고 해서 해당 센서가 실제 고장의 원인이라는 의미는 아니다.

예측에 영향을 준 변수와 실제 물리적인 인과관계는 구분해야 한다.

Kumo Forecast는 Apache 2.0 라이선스로 공개됐다.

지원하는 입력 길이는 256, 512, 1,024, 2,048개 관측값이다.

데이터는 시간 정보와 하나 이상의 숫자 변수로 구성돼야 한다.

NVIDIA는 설비 유지보수 예측을 주요 활용 사례로 제시했다.

다만 이번 글에는 모든 산업의 실제 예측 작업에서 기존 최고 성능 모델보다 몇 퍼센트 더 정확하다는 식의 종합 벤치마크 결과가 제시되지 않았다.

따라서 실제로 사용하려면 기존 예측 모델과 같은 검증 데이터에서 비교해야 한다.

이번 글은 AI 예측 모델의 발전이 단순히 더 많은 데이터를 사전학습하는 방향에서 벗어나 현재 작업과 관련된 과거 사례를 찾아 예측을 보완하고 그 결과를 설명하는 구조로 확대되고 있음을 보여준다.