AI의 최신 기술을 알아보자

최근 기술의 발전 속도가 매우 빨라지면서 다양한 AI 신기술들이 등장하고 있습니다.

이번 글에서는 기존 LLM이 가지고 있던 한계가 무엇이었는지 살펴보고, 이러한 문제를 해결하기 위해 등장한 여러 최신 기술들을 간단히 소개해 보겠습니다.

---

1. LLM의 정의와 한계

 

 

AI는 기본적으로 사람의 사고 방식을 흉내내기 위해 만들어 졌습니다.

그 중에서도 무엇인가 생성해 내는 것에 특화되어 있는 AI를 생성형 AI, Generative AI라고 합니다.

생성형 AI는 텍스트나 이미지, 비디오, 음성 등을 생성해낼 수 있습니다.

 

이 중에서도, 인간의 언어를 학습하고 이해하며 생성할 수 있는 AI를 LLM이라고 합니다.

최근 몇 년 사이 LLM은 매우 빠른 속도로 발전하였으며, GPT나 Claude와 같은 모델들은 많은 분야에서 활용되고 있습니다.

하지만 이러한 LLM 역시 완전한 기술은 아니며, 몇 년 전까지만 해도 다음과 같은 한계가 존재했습니다.

 

LLM의 한계

• 단순히 사용자의 질문에 답변하는 역할에 가까웠으며, 복잡한 문제를 해결하기 위한 단계적 사고는 부족했습니다.
• 모델 학습이 완료된 시점 이후의 최신 정보에 대해 답변이 어려웠습니다.
• 외부 시스템이나 도구와 직접 연결되지 않았기 때문에 텍스트 정보만을 활용하여 답변해야 했습니다.

---

2. AI의 여러 최신 기술들

이번 포스트에서는 아래 다섯가지 기술을 다뤄보려고 합니다.

Tool, RAG, Agent, MCP, Ochestration

🛠️ Tool

Tool은 LLM이 외부의 다양한 도구를 사용할 수 있도록 하는 기술입니다.

기존 LLM은 단순히 텍스트 기반으로 답변했다면, Tool을 활용한 LLM은 다음과 같은 작업을 수행할 수 있습니다.

• 웹 검색을 통한 최신 정보 수집
• 데이터베이스 조회
• 코드 실행
• 외부 API 호출

즉, LLM이 단순히 답변하는 것을 넘어, 외부 도구를 활용하여 문제를 해결할 수 있게 되었습니다.

 

📄 RAG

LLM이 외부 문서를 검색하여 답변을 생성하도록 하는 기술입니다.

RAG는 다음과 같이 동작합니다.

1. 외부 문서에서 관련 정보를 검색
2. 검색된 문서를 LLM에게 제공
3. 이를 기반으로 답변 생성

• 즉 LLM에게 백과사전을 연결해주는 방식이라고 볼 수 있습니다.

 

👤 Agent

LLM이 목표를 가지고 여러 작업을 단계적으로 수행할 수 있도록 하는 기술입니다.

Agent 기반 시스템은 다음과 같이 문제를 해결합니다.

1. 문제를 여러 단계로 나누어 계획 수립
2. 필요한 Tool 선택
3. 결과를 바탕으로 다음 행동 결정

목표에 달성할 때 까지 위 과정을 반복합니다.

 

➿ MCP

기존에 Agent는 RAG나 Tool과 연결하기 위해 별도의 SDK, 일종의 접합부를 구현해야 했습니다.

이로 인해 모델과 Tool 사이의 연결 방식이 복잡해지고, 개발 비용도 증가하는 문제가 발생했습니다.

MCP는 여러 AI 모델과 Tool이 동일한 반복으로 연결되게끔 하는 표준입니다.

MCP를 사용하면 다양한 AI 모델과 Tool을 동일한 방식으로 연결할 수 있습니다.

 

👥 Orchestration

여러 AI 모델이 서로 협력하여 하나의 문제를 해결하도록 하는 기술입니다.

각 모델은 서로 다른 특성과 장점을 가지고 있기 때문에, 문제의 성격에 따라 역할을 분담할 수 있습니다.-

---

3. 정보보안에서 AI

AI는 정보보안 분야에서 다양한 방식으로 활용되고 있습니다.

몇가지 사례를 함께 살펴보겠습니다!

 

OpenAI의 Codex Security

 

 

OpenAI는 최근 코드 취약점을 자동으로 탐지하는 기술을 발표했습니다.

1. 개발자의 git commit
2. 모델의 취약점 분석
3. 취약점 발견시, 가상환경에서 테스트 수행
4. 취약점 리포트 작성 및 패치제안

취약점 탐지부터 테스트, 패치 제안까지 자동으로 수행합니다.

악성코드 분석

AI는 악성코드 분석 분야에서도 활용되고 있습니다.

특히 MCP 기반 Tool을 활용하여 다음과 같은 작업을 자동화한다고 합니다.

• 코드 정적 분석
• 동적 디버깅
• 네트워크 패킷 분석
• 행위 기반 분석

직무별 활용

AI in Red Team	- 공격 표면 식별 - 취약점 자동 탐지 - 시나리오 생성 - 취약점 테스트 및 익스플로잇 - 패치 제안 - 리포트 자동화
AI in Blue Team	- 이상 징후 탐지 - 공격자의 패턴 학습 - 대량 로그 처리 - 침해 사고 자동 분류 - 악성코드 분석