PARA/03_Resources/R001_개발_레퍼런스(참고문서)/AI 강의/Agent를 만드는 Agentic Platform 명장 AI (SK AX).md

Agent를 만드는 Agentic Platform 명장 AI (SK AX)

2025년 11월 4일

요약

1. 발표자 소개 및 배경 (00:00-02:32)

재미있는 시작

발표 전날 사진 찍었는데 셔츠 색깔이 안 맞음
집에 갈 시간 없어서 → AI(바나나)로 셔츠 색깔 변경
"이제 AI는 남 얘기가 아니라 일상"

프로젝트의 문제의식

고령화 시대의 기업 위기

숙련자 퇴직 → 인력 감소
더 심각한 문제: 그들의 지식과 노하우 소실

모순된 두 가지 목표

AI 에이전트를 어떻게 쉽게 만들 것인가?
- 과거: 에이전트 하나 만드는 데 4~6개월 소요
- 이렇게는 안 됨 → 빠르게 만들어야 함
쉽게 만든 에이전트가 어떻게 정확하게 작동하게 할 것인가?
- 빠르게 만들되, 품질은 보장되어야 함

→ 이 두 마리 토끼를 동시에 잡자!

2. 시스템 구조 (03:25-04:19)

5가지 핵심 컴포넌트

에이전트 AI: 중심 역할
레시피: 에이전트가 일하는 방법 정의
MCP: 에이전트가 사용하는 도구들
메모리: 지식 추출 및 저장
지식(Knowledge): 형식지화된 노하우

4가지 지향점

✅ 에이전트를 쉽게 만들 수 있어야
✅ 도구와 지식이 재활용 가능해야
✅ 현업에 바로 적용 가능해야
✅ 에이전트가 계속 진화해야

3. 어떻게 만들 것인가 (04:19-06:08)

기존 노코드 툴의 한계

랭 플로우(Lang Flow), N8N 같은 노코드 툴 분석

장점

예측 가능성: 정해진 플로우대로 작동
반복적이고 정형화된 작업에 강함
예: 메일 받으면 → 회사소개서 읽고 → 자동 답변

단점

유연성 부족: 새로운 환경이나 맥락에 적응 못함
진짜 "에이전틱"하지 못함

우리의 목표: 진짜 AI 에이전트

맥락에 따라 목표를 실행
적절한 도구를 동적으로 선택
지식을 지속적으로 학습

4. Plan-Act 프레임워크 (06:08-07:58)

핵심 아이디어: "계획을 두 번 세운다"

1단계: 하이레벨 플래닝 (High-Level Planning)

= 레시피 만들기

에이전트가 무엇을 해야 하는지 전체 단계 정의
사용자가 원하는 기능을 설명하면 자동 생성
예: "문서에서 특정 정보 추출하는 에이전트"

2단계: 로우레벨 플래닝 (Low-Level Planning)

= 실제 실행 계획

사용자의 구체적 지시를 받음
레시피를 기반으로 상황에 맞는 실행 계획 수립
동적으로 조정 가능

비유:

하이레벨 = 요리책(레시피)
로우레벨 = 오늘 냉장고에 있는 재료로 실제 요리하기

5. 핵심 혁신: AI에게 판단 맡기기 (07:58-09:40)

전통적인 소프트웨어 개발

"조건문(if)과 반복문(for)을 적절히 배치"

if (조건) {
  실행
} else {
  다른 실행
}

우리의 접근: AI가 판단

"조건과 반복을 AI한테 맡기자"

실제 사례: 뉴스 요약 업무

과거 방식 (25년간 수작업)

출처 필터: 신뢰할 만한 매체만
키워드 필터: 중요 키워드 포함된 것만
사람 판단: 최종적으로 중요한 거 선별

문제점:

"중요하다"의 기준이 사람마다 다름
- 사장님의 "중요" ≠ 실무자의 "중요"
- 문화체육관광부의 "중요" ≠ 국방부의 "중요"
각 경우마다 필터와 키워드 새로 만들어야 함 → 한계

AI 방식

"중요하다"를 말로 설명하면 AI가 알아서 판단
각 사용자/부서별로 맞춤 가능
확장성 ↑

적용: 다음 단계 결정을 AI에게

기존: 모든 경우를 미리 프로그래밍
새로운 방식: AI가 상황 보고 다음 행동 결정

6. 실제 작동 방식 (09:40-11:17)

레시피 생성 과정

사용자 요청: "이런 에이전트 만들고 싶어요"
자동 레시피 생성:
- 단순히 ChatGPT에 넣는 게 아님
- 축적된 노하우 활용
- 적절한 툴 자동 선택
실행: 레시피 기반으로 계획 수립 → 실행

유연한 실행

사용자가 상황에 따라 개입 가능

기본: 모델이 탐색 → 주요 인자 도출 → 결과
변경: "주요 인자는 내가 정할게" → 그것 기반으로 작업

실증 사례

SK이노베이션 울산 CLX - RFQ 문서 자동 생성

복잡한 기업 문서를 에이전틱하게 처리
다양한 케이스로 확대 중

7. 메모리 기능: 기억한다, 고로 진화한다 (11:17-15:38)

영화 '메멘토'의 교훈

주인공: 10분마다 기억을 잃는 단기 기억 상실증

10분 전 일을 기억 못함
완전히 다른 사람이 됨

화두:

사람의 존재란 무엇인가?
기억이 나의 존재인가?

AI의 문제점도 동일

매일 같은 프롬프트를 반복하는 당신

오늘 좋은 결과 → 내일 또 똑같이 해야 함
2번, 3번, 4번... 계속 반복

신입사원 비유

오늘 가르침 → 내일 다 까먹음
또 가르침 → 또 까먹음
신뢰도 하락

→ 지금의 생성형 AI가 이와 똑같음

해결 방법: 메모리

왜 모델 학습은 안 되나?

개인마다 모델 학습 = 현실적으로 불가능
비용, 시간, 기술적 한계

해결책: 인컨텍스트 러닝 (In-Context Learning)

상황에 맞게 적절한 정보를 제공

학습이 아닌 "기억"
필요할 때 꺼내 쓰기

8. 지식의 재정의: DIKW 피라미드 (13:52-15:38)

GPT의 "지식"은 진짜 지식인가?

GPTS에 PDF 업로드하면?

시스템: "지식"이라고 표시
하지만 PDF 통째로 = 진짜 지식?

우리의 정의

1단계: 데이터 (Data)

있는 그대로의 팩트

예: PDF 파일 자체

2단계: 정보 (Information)

맥락에 맞게 추출된 데이터

RAG에서 추출한 청크(chunk)
예: "이 질문과 관련된 부분"

3단계: 지식 (Knowledge)

정보 속의 패턴과 방법론

"이런 정보를 어떻게 추출해야 하는가"
"이런 상황에서 어떻게 해야 하는가"

4단계: 지혜 (Wisdom)

모델의 파라미터로 통합

범용적으로 적용 가능한 통찰

나지 퍼널 (Knowledge Funnel)

단계별로 지식을 정제하는 시스템

에이전트가 지식 추출
수집하고 분류
업무 지침으로 정리
다시 에이전트에 입력

9. 기업 환경의 장점 (15:38-16:27)

OpenAI vs 기업

OpenAI (ChatGPT)

8억 명의 각각 다른 사용자
모두 다른 목적, 다른 맥락

기업 환경

✅ 같은 회사 = 하나의 방향성
✅ 하나의 에이전트 = 하나의 업무
✅ 비슷한 업무를 하는 사람들
✅ 지식을 모으기 훨씬 쉬움!

→ 기업이야말로 메모리 기술을 활용하기 가장 좋은 환경

10. 지식 추출 사례 (16:27-18:12)

레시피 구조

레시피
├─ 액션 1
│  ├─ 워투두 (What to do)
│  ├─ 하우투두 (How to do) - 도구
│  └─ 지식 카드 (Knowledge Card)
├─ 액션 2
│  └─ ...

지식 카드 (Knowledge Card)

= Anthropic의 Skills와 유사

특정 도메인/역할에 필요한 지식만 추출
예: "PPT를 어떻게 만드는가"의 샘플들

실제 사례: 대용량 문서 정보 추출

문제 상황

RFQ, RFP 같은 기업 문서

수십 장~수백 장
특정 정보만 뽑아야 함
기존 RAG로는 정확도 부족

과거 방식 (발표자의 경험)

6개월 소요
20종 문서마다 추출 방법 일일이 정리
하드코딩

새로운 방식

소형 온톨로지 생성
- 추출할 항목별로 정보 구조 정의
- 변수명, 데이터 타입 등
추출 방법 문서화
- 각 키워드마다 "어떻게 추출하는가" 작성
- 지식 카드에 저장
자동 추출 + 학습
- AI가 자동 추출
- 사람이 만든 것과 비교
- 5번 반복 → 95% 정확도
피드백 반영
- 남은 5% 오류는?
- 사용자 피드백 수집 → 지식 카드 업데이트
- 계속 개선

11. 미래 방향: 슈퍼 에이전트 (18:12-20:04)

문제: 에이전트 홍수

GPTS의 실패

초기 (10개 정도)

선택하기 쉬움
반응 좋음

나중 (400~500개)

찾는 게 일
아무도 안 씀

현재의 한계

회사에 에이전트 10개 정도?
"AI 컴퍼니" = 수천 개의 에이전트 필요

→ 어떻게 관리할 것인가?

해결책: 슈퍼 에이전트

"나한테만 말할게, 너한테만 말할게"

개념

사용자는 하나의 에이전트와만 대화
그 에이전트가 알아서:
- 적절한 에이전트 찾기
- 일 분배
- 결과 취합
- 세션/정보 관리

기술

MCP: 에이전트 연결
A2A (Agent-to-Agent): 에이전트 간 협업

핵심은 "연결"이 아닌 "관리"

어떤 에이전트를 선택할까?
어떻게 일을 나눌까?
어떻게 진행 상황을 추적할까?
어떻게 세션을 유지할까?

12. 마무리 (20:04)

발표자의 소회

"장모님과 AI 얘기를 할 줄이야..."

AI가 이제 정말 일상이 됨
모두가 AI 컴퍼니를 지향

약속

"내년 이맘때는..."

개발 완료
현장 적용 사례 가득
더 많은 성공 스토리로 다시 만나자

핵심 요약

문제

숙련자 퇴직으로 지식 소실
AI 에이전트 만들기 어렵고 오래 걸림
AI가 매번 똑같은 실수 반복 (기억 못함)

해결책

쉬운 생성: 레시피 기반 자동 생성
정확한 작동: Plan-Act 프레임워크
지식 전수: 메모리 + 지식 카드
지속 개선: 피드백 반영 시스템

혁신 포인트

AI에게 판단 맡기기: 조건/반복을 AI가 결정
기억하는 AI: 메모리로 계속 진화
지식 재정의: 데이터 → 정보 → 지식 → 지혜
슈퍼 에이전트: 하나가 모두를 관리

핵심 메시지

"AI 에이전트는 기억해야 진화한다"

단순 실행 도구가 아님
학습하고 개선되는 동료
기업의 지식을 축적하고 전수하는 매개체

전체 스크립트

참석자 1 00:00
우선 오늘 저희 프로젝트를 대표해서 이렇게 좋은 자리에서 저희 프로젝트 설명할 수 있는 기회를 갖게 돼서 큰 영광으로 생각하고요.
제가 AI 서베이스에 참석한 지는 벌써 수로 한 4년째 되는 것 같습니다.
테크 서베이스부터 시작해가지고 오늘까지 왔는데 매년 발전하는 모습들 보면서 저 역시도 참가하면서 큰 보람을 느끼고 있는데요.
오늘 오시니까 어떠신가요? 재미있는 것들 많이 보셨나요?
네 오늘 세션도 오셨는데 조금이나마 도움이 되는 패션이 있었으면 좋겠고요.
저희 서비스는 지금 현재 전반기부터 후반기까지 열심히 만들고 있는 개발 중인 프로젝트고요.
이 프로젝트 내용에 대해서 좀 설명드리는 시간 갖도록 하겠습니다.
네 말씀드린 것처럼 저는 이제 AX의 문기식이라고 합니다.
오늘 제가 복장을 딱 오늘 발표하고 또 맞춰서 왔거든요.
다른 점이 보이세요? 다른 점이 보이시네요.

참석자 1 00:55
셔츠 색깔 네 어제 이 사진을 찍고 나서 이거 올리려고 해 보니까 어차피 직원이 팀장님 그 색깔이 안 맞아요.
이게 컬러 매칭을 못하십니까? 이거 흰색이 돼야 된다는 거예요.
그래서 사진을 올려야 되는데 어떻게 해 그래서 집을 빨리 뛰어갔다 와야 되나 어떻게 했을까요?
네 맞습니다. 나노 바나나 이용해서 색깔을 싹 바꿨습니다.
혹시나 해서 태을 골고루 찍어봤는데 기가 막히게 바꿔주더라고요.
이만큼 이제 AI가 얼마 전까지만 해도 저는 남 얘기였죠.
우리 생활과는 좀 동떨어진 얘기였고요. 근데 이제는 매일매일 쓰시는 분들이 꽤나 많아지셨을 거고요.
저처럼 이렇게 집에 뛰어가는 일이 없는 분들도 생길 것 같습니다.

참석자 1 01:32
제가 생산 계획을 2020년부터 제 개인적인 일로 다루기 시작하면서부터 시작해서 회사의 프로젝트를 하면서 이제 한 4년 정도 다루고 있는데 올해처럼 생산 계획을 프로젝트를 하면서 사람을 더 생각하고 거기에 연결되는 AI AI를 심지어 구성원이라고 생각하면서 고민을 많이 해봤던 기간은 처음인 것 같습니다.
저희 프로젝트는 오타가 좀 있죠. 고령화에 따라서 숙련자 분들이 퇴직을 할 텐데 그분들이 퇴직하고 난 다음에 당연히 윗손이 줄어드는 것도 문제일 거고 그분들이 갖고 있는 지식들이 있을 텐데 그 지식들을 어떻게 메이크업할 것인가 이것들에 대한 고민을 가지고서 SK텔레콤과 SK이노베이션 그리고 skax가 공동으로 연중에 연말까지 추진하고 있는 개발하고 있는 프로젝트입니다.
저희는 이 문제를 앞서 말씀드렸던 문제를 해결하기 위해서 두 가지 약간은 모순된 목표를 잡았습니다.
하나는 어떻게 AI를 쉽게 만들 것인가 에이전트가 많이 필요하겠죠.

참석자 1 02:32
작년까지 저희가 프로젝트를 하게 되면 에이전트 하나를 만들기 위해서 정의하고 개발하고 실제 서비스까지 하는 데 적게는 4개월에서 한 6개월 정도 보통 걸렸던 게 사실인데 그렇게 계속할 수는 없을 거잖아요.
그럼 어떻게 에이전트를 쉽게 할 거냐 이분들은 곧 은퇴를 하신다는데 두 번째는 쉽게 만든 에이전트가 어떻게 정확하게 작동하게 만들 것인가 모순되는 점으로 목표를 가지고 시작을 했고요.
보시는 것처럼 그 안에서 지식들을 어떻게 전이할 수 있을까 고민을 해보자라는 방법으로 시작을 했습니다.
현재 저희 프로젝트 프로덕트는 보시는 것처럼 크게 5가지 주요한 컴포넌트로 만들어져 있습니다.
중앙에 에이전트 a를 하나 두고 있고요. 그 에이전트가 어떻게 일을 할 건지에 대해서 찾는 레시피 그리고 MCP 요즘에 많이 쓰고 있잖아요.
네 MCP 도구들을 이용해서 액션 할 수 있는 부분들 그리고 에이전트가 결국 지식을 추출해 봐야 되는데 그 그게 중심에 메모리 기능이 있고요.

참석자 1 03:25
추출된 지식들을 소위 말해 형식지화 사람들이 이해할 수 있게 하는 난리지 이렇게 구분되어 있습니다.
저희가 만드는 프로젝트의 지향하는 지향점 특징은 크게 네 가지입니다.
첫 번째는 에이전트를 쉽게 만들 수 있어야 된다. 두 번째는 에이전트가 만들어졌을 때 쓰이는 도구라든가 지식들은 재활용이 가능해야 된다.
그리고 이것들이 현직에 현업에 바로바로 적용할 수 있어야 되겠다.
그리고 마지막으로 에이전트가 계속적으로 진화할 수 있어야겠다.
그리고 오늘은 그중에서도 첫 번째 어떻게 에이전트를 만들 것인가와 지식을 전이시킬 것인가 이 두 가지 항목을 중심으로 말씀을 드리도록 하겠습니다.
크게 세 가지 말씀드리고 싶은데요. 첫 번째는 어떻게 만들 것인가 어떻게 지식을 전이할 수 있을 것인가 그리고 향후에 저희가 지향하는 바는 어디인가입니다.
처음에 에이전트를 쉽게 만들려면 어떻게 해야 될까요?
물어봤더니 어떤 이모분께서 그러셨어요 말하면 만들어줘야지 이게 될까 시작을 했습니다.

참석자 1 04:19
보시는 것처럼 시중에는 이미 랭 플로우라든가 아니면 nam 같이 쉽게 에이전트를 만들 수 있는 노코드 툴 이런 것들이 진행하고 있었고요.
이런 툴들을 비교하고 벤치마킹하면서 실제 제가 강의도 이거 비슷한 관련된 강의를 하고 있거든요.
느껴졌던 부분들은 이건 분명히 장점이 있다 이런 식의 만든 로코노 툴 기반의 에이전트를 만들 때 이렇게 예측 가능성, 내가 어떤 조건을 주어서 셋을 시키면 일을 시키면 걔가 플로우대로 잘 돌아가더라라는 예측 가능성 면에서는 굉장히 좋은데 실제 에이지틱하게 뭔가 새로운 환경이나 맥락에 맞춰서 얘가 진행할 수 있을까 방법이 좀 한정되겠다 이것도 가능성이 한정되겠다라고 생각을 했습니다.
그래서 보시는 것처럼 이런 식의 워크플로우를 기반으로 만들어지는 것들을 AI 에이전트라고 한다면 이런 AI 에이전트는 네 반복적이고 정형화된 자격 처리들을 잘할 수 있는 거고요.

참석자 1 05:11
유튜브만 찾아보시더라도 내가 어떤 메일을 주거나 챗을 주면 회사 소개서를 잘 읽고서 내용들을 가지고서 응답을 해주거나 이런 식의 챗봇들 AI 서비스를 에이전트를 만드는 케이스를 많이 보셨을 겁니다.
저희가 좀 장기적으로 지향하는 바는 맥락에 따라서 목표를 실행할 수 있는 거기에 따라서 적절한 도구들도 다이나믹하게 선택할 수 있고 지식을 지속적으로 학습 학습하거나 지식들이 반이 전이될 수 있는 것들을 찾았기 때문에 저희는 에이전트 AI라는 방향을 잡고 개발을 진행하고 있습니다.
저희가 참고하고 있는 프레임웍은 보시는 것처럼 플랜의 액트라는 기본적인 프레임웍을 참고하고 있습니다.
크게 단순하게 말씀드리면 계획을 두 번 세운다라고 함축적으로 말씀드릴 수 있을 텐데요.
하이레벨 플래닝과 로 레벨 플래닝 두 가지를 갖고 있는 겁니다.
하이레벨 플레에서는 전체적으로 얘네들이 뭘 이 에이전트가 하기 위해서 무엇을 해야 되느냐라는 것들을 스텝벤 액션으로 구분을 하고요.

참석자 1 06:08
그 스텝 액션들 정리된 것들을 가지고서 네 실제 실행할 때는 사용자가 주는 체스팅이라면 그 상황에 맞춰서 내가 갖고 있는 이 하이레벨 플랜 기반으로 실제 실행할 수 있는 로우 레벨 플랜을 가지고 실행한다 이런 컨셉을 가지고 있습니다.
이게 저희가 만들어지는 만들어놓은 이 서비스의 전체적인 흐름인데요.
말씀드린 것처럼 사람들이 사용자가 에이전트를 만드는 부분들은 첫 번째 레시피를 만드는 부분이 있습니다.
여기가 하이레벨 플래닝이고요. 내가 어떤 에이전트를 만들고 싶다 이 에이전트가 어떤 기능을 해야 된다라는 것들에 대해서 최대한 설명을 하면 그걸 가지고 레시피를 만들게 됩니다.
물론 이렇게 레시피가 잘 되는지 테스트를 할 거고요.
이렇게 만들어진 에이전트들은 네 아래 보시는 것처럼 로우 레벨 플레닝에서 실제 사용될 때는 사용자가 주는 지리를 지시들을 가지고서 그것들을 분석을 해서 레시피 기반으로 새로운 플래닝을 만들고 실행하게 됩니다.

참석자 1 06:58
여기서 저희가 개발하면서 가장 어려웠던 점은 이 오른쪽에 보시는 다음 스텝을 정하는 부분입니다.
아마 개발을 하시는 분들은 공감할 수 있는 부분일 텐데요.
우리가 소프트웨어 개발이라고 하면 지난 오랜 시간 동안 조건문과 반복 모델 적절히 배치하는 것이라고 생각을 할 수 있었습니다.
하지만 생성형이 a 나오면서 그 원분을 저희가 좀 과감하게 변화하고 싶었는데요.
보시는 것처럼 조건과 그다음에 반복을 AI한테 판단을 맡기자입니다.
이거에 대해서 조금 더 이 생각이 딱 와닿지 않으실 수 있을 텐데 한 가지 예를 들어서 말씀드리자면 제가 했던 케이스 중에서 가장 생생형 a가 들어왔을 때 뭐가 바뀌느냐 한마디로 요약 잘 설명해 줄 수 있는 케이스입니다.
우리 기업에서 보면 뉴스들 모아서 중요한 뉴스들 하나로 원 페이퍼 정리하는 것들 하시잖아요.
제가 문화체육관광부랑 프로젝트를 하는데 거기서 그 업무를 하시는 분들이 한 25년 동안 그 업무를 하시는 분이 계시더라고요.

참석자 1 07:58
그분은 외신들을 보시면서 이게 중요한 것 같아라고 픽을 하시는 거죠.
근데 그게 하루에 수십만 건의 기사가 오기 때문에 전통적인 DX를 그 업무를 제시하기 위해서는 어떻게 할까요?
보통 출처를 하는 거죠. 필터를 적용하고 그다음에는 키워드 주요하다고 생각하는 키워드를 적용하는 겁니다.
그다음 마지막에 정말 중요하냐 사람이 봅니다. 근데 여기서 그동안의 DX가 확실하지 못했던 부분들은 그 사람이 보는 중요하다를 DX로서는 구현하기가 어려웠었어요.
그러니까 쉽게 얘기해서 같은 주제 안에서도 혹은 기사 안에서도 사장님이 대표님이 생각하시는 중요하다와 그다음에 실무자가 중요하다는 게 될 거고요.
부 부처로 보게 되면 문화체육관광부에서 중요하다는 것과 국방부가 해서 중요하다는 게 다르겠죠.
그것들을 하기 위해서 다들 필터를 새로 만들거나 아니면 키워드를 새로 만들거나 하는 것들이 버든이었기 때문에 그런 것들이 한계가 있었습니다.

참석자 1 08:51
생성형에서는 그것들이 내가 중요하다는 것들을 구술하면 이제 AI가 어느 정도는 반응을 하더라.
그렇게 되면 단순하게 한 명의 일을 대신하는 것이 아니라 그걸 기반으로 사용자가 자기가 중요하다는 걸 하게 되면 확대해서 문화체육관광부가 아니라 전 부처의 것들을 중요하다는 관점에서 해결할 수가 있었다라는 거였거든요.
마찬가지 관점으로 내가 다음에 어떤 일을 해야 될 것이냐를 AI 에이전트한테 맡기는 구조입니다.
그래서 기존에 생각했었던 기존에 다 로직하게 약하게 처리했던 반복과 조건 구조들을 저희는 AI 통해서 생성계의 기반을 통해서 처리하는 것은 방법들을 고용하고 있습니다.
그래서 저희가 만들어진 것들을 보시면요. 왼쪽에 보시면 아까 말씀드린 것처럼 레시피를 만들기 위한 사용자 요청입니다.
실제 이렇게 에이전트가 만들어서 저희가 데모를 하고 있고요.

참석자 1 09:40
보시는 것처럼 내가 어떤 에이전트를 만들고 싶다 그리고 에이전트가 어떻게 행동해야 된다라는 것들에 대해서 그래서 요청을 사용자가 요청을 주게 되면 저희가 레시피라는 식의 하이레벨 플래닝을 만듭니다.
이 랩을 만들 때는 단순히 이렇게 넣었는데 챗gpt에 넣어서 뭐가 나오는 이런 구조 는 아니고요.
뒤에 주요하게 사용했던 노하우들 레시피를 정리하고 어떤 툴들이 우선적으로 적용돼야 되는지 저희가 뒤에서 만들어놓고 그걸 가지고서 만들어지고요.
그걸 가지고서 에이전트가 실제 실행되는 과정에서 이쪽의 레시피를 기반으로 계획을 만들고 계획을 실행하는 구조입니다.
네 보시는 것처럼 단순하게 기존까지는 하나의 이벤트 이벤트들을 처리했다면 LM이 나오면서 플랜을 수립하고 단계별로 하는 구조라고 볼 수 있고요.

참석자 1 10:23
보신 것처럼 지금 아까 케이스처럼 원래는 모델이 탐색을 모델이 모델이 탐색해서 모델이 주요 인재를 도출해서 끝내는 과정이었는데 사용자가 상황에 따라서는 내가 모델에서 탐색을 맡기는 게 아니라 내 주요 인자는 이미 알고 있어 이 인자 기반으로 해서 얘기를 해줘 다음 작업을 해줘 이렇게 할 수 있죠.
그러면 이렇게 보시는 것처럼 인자들이 이미 정한 부착이 된 상태에서 플랜을 수정하고 그 플랜 기반으로 처리하는 구조라고 말씀드릴 수가 있습니다.
네 서비스에서 이렇게 하이레벨 플랜과 로우 레벨 플랜이 만들어져서 테스트하는 화면을 보실 수가 있고요.
저희는 이렇게 에이전트 만드는 방식을 이용해서 전반기에 SK이노베이션 울산 CLX에서 RFQ라고 해서 문서를 보시는 것처럼 왼쪽에 이 복잡하게 나오는 문서죠.
저 문서를 만드는 방법들을 에지전티브하게 처리해서 만든 것들을 실증을 했고요.
다양한 케이스들을 지금 확대하고 진행을 하고 있습니다.

참석자 1 11:17
그리고 지금 현재 하반기에 저희가 개발에 중심 하고 있는 것들은 메모리 기능에 집중해서 개발을 하고 있습니다.
기억한다 고로 진화한다 제목을 잡아봤는데 영화 메멘토 아십니까?
메멘토를 기억하시는 분들은 아마 저 나이 때 정도이실 것 같아요.
한 20년이 넘은 영화입니다. 되게 인상적이었던 영화인데요.
주인공 남자 주인공이 사고로 단기 기억 사증이 걸립니다.
10분마다 한 번씩 기억을 잃어버리는 거예요. 10분 전에 얘기했던 것들 기억하지 못합니다.
전혀 다른 사람이 돼 있어요. 이 영화 보면서 되게 인상적이었던 게 사람의 존재란 무엇인가에서 기억이 나의 꼭 존재인가라는 그전까지는 내 몸이 나의 존재라고 생각했고 내가 생각하기 때문에 내가 존재한다고 생각했는데 기억이 존재라는 것도 내 기억인가 내 관계도 다 기억인가라는 되게 화두를 던졌었어요.
그런데 이 영화가 최근에 저는 다시 많이 생각을 하고 있습니다.

참석자 1 12:07
AI 많이 써보시면서 느끼실 텐데 좋은 AI 쓰면서 애한테 뭔가 일을 프럼트 길게 쓰셔가지고 하시잖아요.
저도 이제 프럼트 엔지니 강의를 하고 있습니다만 다양한 기법도 쓰실 거고 좋다는 프론트도 갖다 쓰실 거고 근데 그렇게 했는데 잘 나왔어요.
좋습니다. 근데 내일은 또 똑같이 그걸 또 하셔야 되죠.
두 번까지 섞겠습니다. 세 번 네 번 하면 어떤가요?
네 많은 기업에서도 AI 서비스를 이용해서 뭔가 기존과는 다르게 효용성을 보고 있는 점에서도 그 기능이 잘 되느냐 좋은데 내가 하는 것들을 일을 기억해가지고 그걸 반영해 줄 수 있느냐 이게 가장 큰 허들이 아닌가 싶습니다.
그런 면에서 생각해 보시죠. 신입사원이 들어왔습니다.
신입사원이 들어왔는데 저기 가서 여기 선배들이 해놓은 일이 있으니까 이 일을 보고서 어떻게 하는지 한번 생각을 해봐라.

참석자 1 12:57
그리고 이리 와서 해봐. 내가 한번 보여 가르쳐줄게 해서 얘기를 막 가르쳐줘요.
근데 얘가 똘똘하게 잘 알아들은 것 같은데 내일 되면 다 까먹습니다.
또 똑같이 가르쳐주죠. 또 내 얘기하면 다 까먹습니다.
그러면 그 신입사원에 대한 신뢰도는 떨어지겠죠.
지금 생성형 AI가 비슷한 거라고 저희들은 생각을 하고 있습니다.
그리고 그러기 그러면 저희가 생성 애에게 뭔가 가르친다라고 했을 때 보통 많이들 생각하는 것들이 모델 학습인데 모델 학습은 현실적으로 아시는 분 아시겠지만 매번 개인마다 모델 학습이라는 게 결국 불가능할 거고 그럼 소위 말하는 인 컨텍스트 러닝 컨텍스트 엔지니어링 그 상황에 맞게 적절한 정보들을 줄 방법이 무엇인가 고민을 하게 됐습니다.
그래서 그렇게 하기 위해서는 데이터 인포메이션 날리지 윗섬이라 하는 dikw 피라미드 자체를 새로 지식에 대한 정의를 할 필요가 있다고 생각을 했어요.

참석자 1 13:52
왜 그러냐 우리가 GPT GPTS를 만들 때 PDF를 하나 딱 넣어줘도 거기에 뭐라고 써 있습니까?
지식이라고 써져 있죠 네 포괄적으로 만든 것 같습니다.
하지만 저희도 이제 그렇게 접근해서는 사람들이 말하는 것들 정말 지식을 정의한다고 했을 때 PDF를 다 넣어주면 되느냐 그건 아닐 거잖아요.
따로 정의를 했고요. 그래서 저희가 했던 것들은 데이터를 넣어주는 것들은 그냥 일반 데이터 있는 팩트에 가깝죠.
자료라고 했고 그다음에 rag에서 비유해서 말씀드리자면 내가 이 문맥에 맞게 뽑아낸 청크들은 인포메이션이겠다.
이 컨텍스에 맞는 정보들 그리고 그것들에서 일반적인 지식이 얘기하는 것들이 정보의 속에서의 패턴이잖아요.
마찬가지로 이 정보를 추출하기 위해서 어떻게 해야 돼라는 것들 그게 저희 지역에서 생각할 때 이 정도 돼야 지식이겠다라고 생각을 하는 거고요.

참석자 1 14:43
마지막으로 이런 것들이 모델로 넘어가서 파라멘틱하게 웨이트로 넘어갈 수 있다면 그때 되면 이것들이 지혜로 통섭의 영역으로 들어갈 수 있겠다라고 정의를 했습니다.
그래서 저희는 에이전트가 잘 개선하기 위해서는 이러한 단계별로 모여지는 지식들이 정리돼야 된다고 생각을 했고요.
그래서 보시는 것처럼 나지 퍼널이라는 것들을 만들어서 적용을 하고 있습니다.
그래서 에이전트들이 어떻게 지식들을 추출할 것인가 에이전트 지식을 추출할 것인가 그다음에 사용하는 지식들을 어떻게 수집하고 분류하고 진짜 업무 지시로 맞게 할 것인가 그것들을 다시 에이전트로 어떻게 넣을 것인가를 고민하고 있고요.
여기에 사용되는 기술 당연히 기업 앞에 서지도 말씀드린 것처럼 메모리입니다.
메모리 관점에서 세마트만도 메모리가 이제 서비스를 서비스들을 나누는 좋은 바로미터가 될 거라고 얘기했는데 저는 기업 환경이야말로 메모리를 활용하기 가장 좋은 환경이라고 생각을 합니다.

참석자 1 15:38
예를 들어서 세트 오픈ai 같은 경우에 8억 명의 각각의 다른 사람들을 대상으로 메모리 기술을 적용해야 된다면 우리는 엔터프라이즈 환경에서는 같은 회사라면 최소한 하나의 방향성을 보고 있을 거고요.
하나의 에이전트는 결국 하나의 업무에 귀결될 테니까 그 에이전트를 쓰는 사람들은 비슷한 업무를 하는 사람들이 있겠죠.
그럼 거기서 나온 내용들은 최소한 모을 수 있겠다라고 접근을 하고 있습니다.
그래서 실제 어떻게 저희들이 적용하고 있느냐 저희가 지식 추천하는 케이스에서 하나 말씀을 드리려고 하는데 보시는 것처럼 저희가 앞서 맞설 때 말씀드릴 때 하이레벨 플래닝에 해당한다.
거기에는 레시피라는 것들을 만들어 놓고 있다라고 말씀드렸는데 그 레시피 안쪽에는 보시는 것처럼 단계별로 무엇을 할 것인가에 해당되는 워투드와 그것들을 어떻게 처리할 것인가 툴 가지고서 파우트드들을 액션이라는 단위로 만들어 주고 있습니다.

참석자 1 16:27
그리고 각 액션들을 보시게 되면 어떤 도구를 어떻게 하겠다 사용하겠다라는 기본적인 인스트럭션을 갖고 있고요.
그 밑에 난리지 혹은 난리지 카드라고 해서 각각의 이 상황에서 써야 될 지식들을 놓고 있습니다.
이 난리지 카드를 아주 쉽게 말씀드리자면 바로 얼마 전에 이게 딱 나와서 제가 설명이 되게 좋겠다 생각을 했는데요.
엔트픽의 스케이스라고 비슷하게 생각하시면 좋을 것 같습니다.
항목에 맞게 해서 여기서 보시면 샘플은 PPT를 어떻게 만들었느냐 이런 샘플들이거든요.
AI한테 그 지식만 특정한 도메인에서 혹은 역할에서 할 수 있는 부분들만 떼내는 것들입니다.
그렇게 해서 저희가 이것들은 저희가 지금 지금 진행하고 있는 테스트 중에 일부를 가지고 왔는데요.
RFQ라든가 혹은 RFP라든가 되게 기업에서 쓰는 대용량 문서 중에 문서들 중에서 양이 수십 장 수백 장 되는 문서들이 많이 있을 거고요.
그중에서도 특정 요소들만 뽑는 니즈들이 항상 있습니다.

참석자 1 17:21
그 그걸 뽑기 위해서 기존의 rag를 이용해서 한다면 소금이 잘 안 나오기 때문에 그 케이스를 하기 위해서 저만 해도 작년에 네 외부 프로젝트를 할 때 한 6개월 정도 걸려서 한 20종이 되는 문서들에 추출하는 방법들을 다 일일이 정리하고 그것들을 에이전틱하게 에이 AI로 묶어서 하는 방법들을 했었거든요.
그것들을 직접 하지 않고 보시는 것처럼 각각의 꼽아야 될 항목들을에 대한 정보들 변수명의 밑에 있는 박스처럼 하나의 소형 온톨로지를 만들어 놓고요.
그 온톨로지에 해당되는 정보들을 문서에서부터 추출해서 이걸 어떻게 추출하면 되겠다라는 방법 저 오른쪽에 파란색의 파란색의 내용들을 키워드마다 만들어 놨습니다.
그리고 그걸 그렇게 추출된 걸 가지고서 AI한테 실제 추출시켜서 사람이 만든 것과 비교했을 때 보시는 것처럼 한 90% 5번 정도의 인터레이션을 돌렸을 때 한 95% 정도의 정확도를 보였고요.

참석자 1 18:12
그럼 마지막 이제 5%를 어떻게 할 것인가 저희들은 아까 말씀드린 것처럼 사용자가 주는 피드백을 모아서 해당되는 부분들을 스킬 카드에 여기 난리지 카드에 업데이트하는 방법을 취하고 있습니다.
마지막으로 그럼 저희가 앞으로는 어떻게 해결할 것인가 저희가 지향하는 바는 나한테만 말할게 너한테만 말할게 이거 한마디로 출력할 수도 있는데 저희가 생각 혹시 GPTS 같은 거 써보셨습니까?
GPTS 저희 사내에서도 저희 GPTS와 비슷한 서비스를 만들었었는데 보시는 것처럼 한 10개 정도 되는 화면에 하나 딱 들어갈 때는 선택하기도 좋고 매우 반응도 좋았습니다.
근데 이게 400개 500개를 넘어가니까 사람들이 찾는 게 일이니까 아예 안 쓰게 되더라고요.
근데 우리가 지금도 에이전트라고 하면 회사에 하나가 있던가 10개가 있던가 그 정도 하겠죠.
근데 AI 컴퍼이라고 하면 이게 수천 개가 넘어가는 게 AI 컴퍼니라고 하지 않습니까?

참석자 1 19:05
그러면 이 문제를 어떻게 할 것인가 저희가 기존의 GPTS와 유사한 서비스를 만들었던 그걸 기반으로 해서 딱 한 놈한테만 잘 말하면 얘가 알아서 적당한 애를 찾아서 이를 부리는 슈퍼 에이전트를 고민하고 있고요.
에이전트 연결하면 MCP 기술도 있고 a2a 기술도 있습니다.
근데 그것들 중에서 그건 연결의 관점이고 결국 에이전트가 돌아가기 위해서는 그 에이전트를 잡아다가 어떤 녀석을 잘 찾아다가 어떻게 일을 줄 것이며 일하는 것들을 어떻게 관리하게 할 것이며 적당한 세션들, 정보들을 어떻게 유지하게 할 것이냐 들이 중요하다고 생각하고 있고요.
그런 것들을 저희가 지향점으로 보시는 것처럼 지향점으로 지향을 하고 있습니다.
저도 이제 AI 얘기 많이 들으실 텐데 저도 식사 자리에서 장모님과 AI 얘기를 할 줄은 몰랐습니다.
비슷한 분 많으실 텐데 저 역시 지금 저희가 이 많은 버징되는 워즈 속에서도 저희 여기 모신 분들 아마 다 AI 컴퍼니를 지향하실 텐데요.

참석자 1 20:04
저희가 지금은 개발 막바지에 열심히 있지만 내년 이맘때쯤에서는 현장에서 더 많이 만나서 더 많은 사례를 가지고서 발표하는 시간을 가졌으면 좋겠습니다.
이상 발표 마치겠습니다. 감사합니다.

clovanote.naver.com

요약