05. 학습의 단계_AWS Bedrock_ 두번째 강의 - 1일차 -
2025년 4월 29일
- Bedrock 두번째 강의 수강 시작.
1단계. 학습의 단계
1. AWS Bedrock
첫번째 강의) Building Multi-Agentic AI Workflows on AWS Bedrock: 수강완료 (2025/4/13~04/16)
두번째 강의) Learn Agentic AI Basics, Amazon Bedrock Multi-Agent Framework, Build 2 Use Cases- Hotel Booking & Multi-Agent Travel App: 수강시작 (2025/4/29~)
I. 수강 전 기대
첫번째 강의에서 아쉬웠던 Hands-on을 조금 더 해볼 수 있을 것으로 기대함. 커리큘럼을 보니 간단하지만 Bedrock에서 만든 multi agent를 프론트로 배포하는 것도 배울 수 있는 것으로 보임.
II. 수업내용
1일차. 앞으로 배우게 될 것들 (개관)
1) AI Agents - Core Capabilities
2) Deep Dive - Amazon Bedrock Agent
3) User Case #1 - Hotel Booking Agent (Single Agent)
4) User Case #2 - Enterprise Travel Agent (Multi-Agent)
5) Refresher on: GenAI, Prompt Engineering & Bedrock KB's
6) Refresher on: Python & AWES Lambda
아래 도식은 가상의 사용자(John)가 AI Agent를 활용하여, 2주간의 연차를 사용한 스키 여행 일정을 구성한다고 할 때 필요한 과정을 간략히 설명하고 있다.
AI Agent 관점에서 볼 때, 가장 먼저 나오는 것은 1. Task Decomposition & Planning이다. 이것은 사용자의 요청을 보다 수월하고 좋은 퍼포먼스로 수행하기 위한 첫 단계에 해당한다. 첫번째 강의에서는, 해당 작업을 Supervisor Agent를 설정하여 수행하도록 했다.
두번째로 중요한 것은 2. Tools & Actions 이다. 쳇GPT와 같은 Foundation Model이 외부 서비스를 활용하여 특정한 작업을 수행하기 위해서는 API(Application Programming Interface)와 같이, 두 개의 서비스가 소통하기 위한 인터페이스가 필요하다. 현재에는 이 부분이 MCP(Model Context Protocol)을 통해, 3rd Party 서비스가 제공하는 MCP 서버만 설치하고 User credential을 세팅하는 것만으로 구현할 수 있도록 하고 있다.
세 번째로 언급한 메모리는 잘 와닿는 부분은 아니다. 네 번째로 언급한 가드레일은 아직 잘 와닿는 부분은 아니나, 니치한 사용자들을 타겟하여 전문성있는 서비스를 높은 퀄리티로 제공하기 위해서는 꼭 필요한 부분이라고 생각된다. AI Agent 기반의 서비스를 출시하고 mvp 수준을 넘어서 정식 서비스 단계로 넘어가게 되면 이후에는 지속적으로 Guardrails를 고도화하는데 상당한 노력을 들이게 될 것이라고 생각된다. (따라서 가드레일 부분은 추후 깊게 배우고 다양한 실전 경험을 쌓아야 할 것이다.) 다섯 번째로 언급된 5. Agent Communication은 Agent 간의 소통을 의미하는 것으로 이해하는데, 추후 강의를 통해 확인해야겠다. 첫번째 강의 내용을 간략히 복기해보면 Agent 소통이란, Supervisor Agent가 두 개의 Collaborator들과 협업하여 각각의 Agents들과 소통하였던 것을 의미한다고 예상된다.
AI Agent가 Planning을 하는 방법은 크게 두 가지가 존재한다.
방법1. Planning w/o feedback: Chain-of-Thought (CoT), Tree of Through Reasoning (ToT)
- CoT의 경우, 산술적 계산이나 상식적인 추론에 적합한 방법론이다. 아래 이미지를 보면 Standard Prompting이 잘못된 답을 주는 반면, CoT 방식의 Prompting 시에는 정확한 답을 도출한다. 모델이 예시를 학습함에 있어서 답만 딱 제시하는 것이 아니라, 답에 이르는 각 단계들을 함께 제시함으로써, AI가 새로운 문제를 접했을 때 동일한 생각의 단계들을 거쳐 답을 도출하도록 하는 방식이다.
- ToT의 경우, 문제를 계층적 구조로 분리한 후 Layer별로 가장 많은 Vote를 받은 plan을 선택하여 Output을 도출하는 구조이다.
방법2. Planning w/ feedback: ReAct (Reasoning + Action)
- 추론만 하는 것도 아니고, 수행만 하는 것도 아니고, 하나의 프롬프트 안에서 추론과 수행이 마치 iteration을 돌듯이 이뤄지는 방법을 의미한다. ReAct 방법은 외부데이터, 또는 내부데이터를 활용하여 특정 작업을 수행할 때 적합하다.
댓글
댓글 쓰기