생성형 AI 서비스가 고도화되면서 새로운 용어가 등장하고, 때로는 기존과 다른 의미로 사용되기도 합니다. 이러한 용어가 범람하는 가운데, AI가 마치 사람처럼 스스로 생각하고, 추론하며, 심층 조사까지 하는 기능이 주목받고 있습니다. 과거에는 AI를 입력된 문맥만 보고 답만 내놓는 도구로 생각했지만, 이제는 내부적으로 사고 과정을 거치거나 복잡한 문제를 단계적으로 해결하는 능력, 그리고 스스로 웹을 탐색해 방대한 정보를 종합하여 답변을 제공하는 시대가 되었습니다.
이 아티클에서는 Thinking, Reasoning, 그리고 Deep Research에 대해 정리하고 이야기합니다.
Thinking (내적 사고 기능)
‘Thinking’은 AI 모델이 사용자에게 답변을 보여주기 전에 머릿속으로 먼저 생각하는 기능입니다. 복잡한 질문을 받으면 사람도 잠시 고민하고 사고한 뒤 답을 하듯, LLM도 마찬가지입니다. 최신 연구에 따르면, LLM이 답을 내놓기 전에 내부적으로 한 걸음 물러서서 생각할 수 있게 하면 더 어려운 문제도 잘 풀 수 있다고 합니다. 예를 들어, Meta의 연구팀은 LLM에게 명령을 준 뒤 답을 생성하기 전에 별도의 사고 과정을 거치도록 훈련시켰는데, 이렇게 ‘생각’을 추가한 모델이 복잡한 작업에서 더 좋은 결과를 냈습니다.
- Cursor AI: 코딩 어시스턴트로, 복잡한 코딩 문제를 해결할 때 내부 사고 과정을 활용합니다.
- Claude 3의 Think 도구: Anthropic에서 발표한 “think” 도구를 사용하면, Claude 3 모델이 답변 중간에 자동으로 멈춰 추가로 사고할 수 있습니다.
- Meta AI의 Thinking LLMs 연구: Meta FAIR 연구진은 별도 데이터를 쓰지 않고도 LLM에 ‘생각’을 내재시킬 수 있는 훈련법을 개발했습니다.
즉, Thinking은 LLM에게 눈에 보이지 않는 곳에서 추가 연산을 허용해 스스로 사고할 시간을 주는 기능입니다. 더 자연스럽고 일관된 응답 생성에 기여합니다.
Reasoning (단계적 추론 능력)
Reasoning은 AI가 문제를 단계별로 논리적으로 풀어나가는 능력입니다. 예를 들어, 체인 오브 쏘트(Chain-of-Thought) 방식처럼 중간 과정을 한 줄씩 써 내려가거나, 트리 오브 쏘트(Tree-of-Thought)처럼 여러 해결 경로를 나뭇가지처럼 확장해 보는 방법이 있습니다. 즉, 문제를 작은 단계로 쪼개서 차근차근 해결하는 것입니다.
결론적으로 Reasoning은 AI가 단계적이고 구조적인 사고를 통해 논리적으로 문제를 해결하도록 돕는 기술입니다. 복잡한 문제를 작게 나누어 차근차근 푸는 것이죠.
중간 단계 평가와 자기 검증(Reflection, Self-Verification 등)
Reasoning 모델은 각 단계별 추론이 끝나면 그 결과를 자체적으로 평가하거나 반복적으로 재검토(Reflection)합니다. 특히 최신 모델에서는 자기 반성(Self-Reflection) 기능을 통해 "내가 이전 단계에서 오류를 내지 않았는가?"를 점검하기도 합니다.
Deep Research로 가기 전, 기존 Inference와 위에서 언급한 Thinking, Reasoning을 표로 간단히 정리하면 아래와 같습니다.
| 구분 | Inference | Thinking | Reasoning |
|---|---|---|---|
| 핵심 특징 | 외운 지식을 꺼냄 | 내면화된 지식을 자기 스타일로 꺼냄 | 단계별로 논리 전개 |
| 어투 | 백과사전처럼 딱딱할 수 있음 | 일관된 말투, 성격, 스타일 있음 | 계산, 근거, 과정 중심 |
| 예시 질문 | “칸트가 누구야?” | “그렇습니다, 칸트는 도덕 철학의 대표자입니다…” (자기 어조) | “칸트 철학이 적용된 예를 설명해줘” → 단계별 사고 |
Deep Research (심층적 자료 조사)
Deep Research는 한마디로 “방대한 외부 자료를 탐색·요약해 사람 대신 ‘심층 보고서’를 자동 생성하는 AI 에이전트”입니다.
Gemini, ChatGPT, Perplexity 등도 새로운 Deep Research 모델을 도입해, 사용자의 질문에 대해 수십 건의 검색과 수백 개의 자료 읽기를 통해 방대한 자료를 수집 및 분석하고, 종합 보고서를 자동으로 생성합니다.
- Deep Research의 주요 과정:
- 연구 계획 수립 – AI가 질문을 받은 뒤 연구 방향과 단계별 계획을 세웁니다.
- 검색 및 정보 수집 – 계획에 따라 반복적으로 웹 검색을 수행하고, 관련 자료를 읽으며 필요한 정보를 추출합니다.
- 보고서 작성 – 수집한 자료를 종합해 핵심 내용을 정리하고, 논리적으로 분석한 보고서를 생성합니다. 이 보고서에는 출처와 인용이 명확히 포함되어 있습니다.
이처럼 Deep Research는 많은 시간이 필요한 복잡한 자료 조사를 AI가 대신 해주는 기능입니다. 사용자는 결과물로 검증된 출처를 담은 인사이트 보고서를 받게 됩니다.
Ref: