18. 학습의 단계_AWS Bedrock_ 두번째 강의 -13일차 -
2025년 4월 29일
- Bedrock 두번째 강의 수강 시작.
-------
1단계. 학습의 단계
1. AWS Bedrock
첫번째 강의) Building Multi-Agentic AI Workflows on AWS Bedrock: 수강완료 (2025/4/13~04/16)
두번째 강의) Learn Agentic AI Basics, Amazon Bedrock Multi-Agent Framework, Build 2 Use Cases- Hotel Booking & Multi-Agent Travel App: 수강시작 (2025/4/29~)
I. 수강 전 기대
첫번째 강의에서 아쉬웠던 Hands-on을 조금 더 해볼 수 있을 것으로 기대함. 커리큘럼을 보니 간단하지만 Bedrock에서 만든 multi agent를 프론트로 배포하는 것도 배울 수 있는 것으로 보임.
II. 수업내용
1일차(4/29): 앞으로 배울 내용 개괄 + AI Agent 5가지 요소 (Planning, Tools & Actions, Memory, Guardrails, Agent Communication)
2일차(4/30): 어제 배운 AI Agent의 기능 중 첫번째 Planning에 관한 Demo ~ Agent Communication
3일차(5/1): Deep dive - Amazon Bedrock Agents (Agent creation 및 setting)
4일차(5/6): How do Agents work? ~ Use Case 1 - Hotel Booking Agent
[Use Case 1 - Single Agent]
5일차(5/7): Use Case 1 - Hotel Booking Agent ~ Agent Creation
6일차(5/14): Agent Integration with Knowledge Bases for Room Information ~ Hotel Room Availability
7일차(5/19): Hotel Room Booking - DynamoDB ~ Hotel Room Booking - Agent & Lambda & Action Group Integration
8일차(5/20): Hotel Room Booking - Agent & Lambda & Action Group Integration ~ Final Demo
8일차(5/20): Hotel Room Booking - Agent & Lambda & Action Group Integration ~ Final Demo
9일차(5/22): Frontend Deployment to EC2 Server ~ Adding application load balancer to EC2
[Use Case 2 - Multi-Agent]
10일차(6/2): Business Use Case 2 (Multi Agent Orchestration)
11일차(6/3): Business Use Case 2 (Multi Agent Orchestration) - 마무리 -
[CrewAI]
12일차(6/5): CrewAI
[Refresher -1- ]
13일차(6/6): Generative AI, Bedrock, Prompt Engineering (Basics, Advanced), RAG and Bedrock Knowledge Bases
Bedrock의 주된 강의 내용은 모두 마무리되었다. 마지막 부록 세션에 해당하는 몇몇 개념들을 마무리 정리하며 두 번째 강의를 일단락하고자 한다. 두번째 강의는 첫번째 강의와 동일하게 Multi Agent, 그리고 이를 다루는 프레임워크인 Bedrock을 가르쳐주는 강의였으나, 첫번째 강의보다 훨씬 더 Agent의 이론적인 부분에 대해 자세하게 설명해주었고 이것이 Multi Agent 전반을 이해하는데 더 큰 도움이 되었다.
이번 부록 세션을 통해서 AI Agent에서 중요한 몇몇 개념들을 되짚고 다음 강의로 넘어가려 한다.
첫번째는 Generative AI (생성형 AI)에 대한 부분이다.
너무나 많이 들어서 익숙한 개념이기는 하나, 익숙함과는 별개로 이것이 무엇인지에 대해 이론적으로는 제대로 알지 못하고 있다.
Generative AI는 AI의 하위 개념으로서, AI > 머신러닝 > 딥러닝 > 생성형 AI 순서로 작은 개념이다.
1. Prompt: 모델에게 제공되는 인풋 역할을 함.
2. Completion: 모델로부터의 아웃풋.
3. Inference: 모델을 활용하여 text 등의 내용을 만들어내는 것을 추론이라고 함.
Foundation Model의 주된 특징을 보면,
1. Deep neural networks techniques
2. Unlabeled data
: 기존의 머신러닝은 특정 목적에 맞춰진 Labeled Data를 기반으로 머신러닝(학습)하여 모델을 만들었고, 특정된 작업을 수행하도록 하였다. 그러나 Foundation Model의 경우에는 큰 특징 중 하나가 바로 Unlabeled data이다. 라벨되지 않은 데이터로 어떻게 학습을 할까? 라벨되지 않은 데이터로 학습하기 위해서는 누군가의 supervise를 통해 학습하는 것이 아니라, 위키피디아 같은 인터넷의 무수히 많은 데이터 기반으로 Self-supervised Learning을 해야한다.
3. Generalized
: 2번과 동일한 결의 내용이다. 특정 목적을 가지고 Label된 데이터만을 학습하는 기존 머신러닝 방식이 아니다보니, Foundation Model은 범용적으로 활용될 수 있다는 특징을 가지고 있다.
4. Pre-trained
5. Large
: Unlabeled Data를 사용하다보니 충분히 많은(Large) 데이터의 학습이 필요하게 되고, Foundation Model은 방대한 데이터들 속에서 패턴을 찾고 고유한 특성(features)들을 학습해야 한다. 따라서 Large amount of data는 Foundation Model의 특징이다.
6. Expensive
: 방대한 양의 데이터를 self-supervised 학습하기 위해서는 자연히 엄청난 양의 computation 자원이 소모되며, 이는 엄청난 비용 지출을 야기한다. 이러한 이유로 인해 FM을 만든다는 것은 대규모 자본이라는 혜자를 갖는다.
두번째로 AWS Bedrock 서비스에 대한 설명이다.
Bedrock의 중요한 특징은 'serverless service'라는 것이다. LangChain/LangGraph와 비교해보면 이 경우 별도의 서버를 구축하여야 agent를 동작시킬 수 있는 구조이다.
같은 FM이더라도 각 회사가 제공하는 FM별로 각각의 장점이 있다.
(예를 들어 나중에 특정 서비스를 글로벌로 확장한다고 하면 스페인어, 프랑스어, 독일어 등에 강점이 있는 AI21labs의 Jurassic-2를 이용해야겠다는 생각이 든다.)
이번 강의는 가벼운 부록 세션이다보니 큰 기대를 하지 않았는데 의외로 신선했다.
AWS Bedrock을 활용하는 방법에 대해서만 관심이 있었지 Bedrock 서비스에서 제공하는 설명 페이지들에는 큰 관심이 없었는데, 강의에서는 Bedrock 전반을 톺아보는 내용을 다루고 있다.
예를 들어 Bedrock이 지원하는 FM들 전체에 대한 내용과 각 모델에 대한 설명들이 있다.
대중적으로 알려진 생성형 AI와는 매우 다르게, 시계열 데이터를 기반으로 미래의 예측값을 추정하는데 특화된 FM이다. 이렇듯 특화된 모델이 존재한다는 것 조차도 알지 못했는데 이번 강의를 통해 새롭게 접하게 되었다.
이렇듯 특정 목적에 특화되어 있는 FM을 사용하여, 개별 Agent의 강점을 극대화하는 것이 멀티 에이전트의 가장 큰 장점이 아닐까 싶다.
댓글
댓글 쓰기