[AI Agent] 정리

• 출처 https://aws.amazon.com/ko/what-is/ai-agents/

정의

• 환경과 상호 작용 / 데이터 수집 / 데이터를 사용하여 사전 결정된 목표를 달성하기 위해 필요한 작업을 주도적으로 수행하는 소프트웨어 프로그램
• Ex) 목표 설정(사람) → 최적의 조치 독립적으로 시행 (AI Agent)
• 종류
  • 개별 AI 에이전트 - 특정 하위 작업 정확하게 수행
  • 오케스트레이터 에이전트 - 여러 에이전트 활동 조정 (크고 복잡한 작업 수행)

정의 주요 원칙

(AI Agent라 불리는 이유)

• 자율성
  • Rule based가 아님
• 목표 지향적 행동
  • = 성공을 극대화
• 인지
  • 데이터를 수집하여 환경과 상호 작용
    • 데이터 수집 by API (외부 환경)
• 합리성
  • 추론 기능 O
    • 도메인 지식 + 과거 기억 → 정보에 의한 의사결정
    • 최적의 성능/결과
• 능동성
  • 입력 반응 + 미래 예측/대비
  • Ex) 사용자 행동에서 불편 감지 → 능동적으로 도움 제공,
    자율 창고 로봇 : 교통량 많은 작업 예상 → 위치 조정
• 지속적인 학습
  • 과거 상호 작용 → 개선
  • Ex) 예측 유지 보수 에이전트 : 과거 장비 고장 사례 → 문제 예측 정확도 증가
• 적응성
  • 새로운 상황에 대응
  • Ex) 주식 거래 봇
• 협업
  • 다른 에이전트 / 인간과 협력
  • 의사소통, 조정 및 협력
    • 협상, 정보 공유, 작업 할당, 다른 참여자의 행동에 대한 적응
  • Ex) 의료 분야의 다중 에이전트 시스템 : 진단, 예방 치료, 약물 일정 관리 등 ⇒ 협력 ⇒ 환자 치료 자동화

이점

비즈니스 운영과 고객 경험 개선

• 생산성 향상
  • 반복 작업 위임
• 비용 절감
  • 지능형 에이전트 ⇒ 프로세스 비효율성, 사람의 오류 및 수동 프로세스로 인해 발생하는 불필요한 비용 최소화
    • = 비즈니스 프로세스 자동화
    • ※ 지능형 에이전트 : 변화하는 환경에 적응하는 일관된 모델
      → 복잡한 작업 처리
• 데이터 기반 의사결정
  • 고급 지능형 에이전트의 예측 기능
  • Ex) 광고 캠페인의 AI Agent : 다양한 시장 분야의 제품 수요 분석
• 고객 경험 개선
  • 개인화된 경험 ⇒ 고객 참여, 전환율 및 충성도 증가
    • 추천 제품 개인화 + 즉시 대응 + 혁신적인 결과
  • 복잡한 고객 질문을 효율적으로 해결

아키텍처 주요 구성 요소

• Q : 그러면 아키텍처는 어떤 방식으로 이뤄져 있지? 해당 요소들의 어떤 관계로 이루어져 있는지 궁금해. (물론 ai agent마다 다르겠지만 기본적인 구성 요소를 알고 싶어.)
• 파운데이션 모델 (주로 LLM) → 머리
  • ※ 파운데이션 모델(다양한 모델) ⊃ LLM(주로 텍스트)
  • 파운데이션 모델(GPT / Claude)
    • 자연어 입력 해석
    • 사람과 유사한 응답 생성
    • 복잡한 지침에 대해 추론
  • LLM (= 에이전트 추론 엔진 역할)
    • 프롬프트 처리 ⇒ 실제 작업 / 다른 작업에 연결
• 계획 모듈 → 시간 save
  • 목표를 세분화 / 순서 지정
  • 작동 원리
    • 기호 추론, 의사 결정 트리, 알고리즘 전략 ⇒ 효과적인 접근 방식 결정
  • 구현 방식
    • 프롬프트 기반 작업 분해 방식, 계층적 작업 네트워크(HTN), 정형화된 접근 방식(기존 알고리즘)
  • 결과
    • 작업 간의 종속성과 우발 상황 고려 ⇒ 더 긴 시간 동안 작업 수행.
• 메모리 모듈 → 기억
  • 상호 작용, 세션, 작업 전반에 걸처 정보를 유지
  • 유지되는 정보의 종류
    • 단기 메모리 (채팅 기록, 최근 센서 입력)
    • 장기 메모리 (고객 데이터, 이전 작업/ 축적된 지식)
  • 구현 방식 (의미적으로 유의미한 콘텐츠 저장 / 검색)
    • 벡터 데이터베이스 / 지식 그래프
  • 결과
    • 에이전트의 개인화, 일관성 및 컨텍스트 인식 능력 향상
• 도구 통합
  • 외부 소프트웨어, API 또는 장치와 연결 ⇒ 기능 확장
  • 보통 도구 호출 형식 지정, 그 출력을 해석하는 계획 및 구분 분석 모듈 ⇒ LLM이 도구 사용을 안내
• 학습 및 성찰
  • 성찰
    • 에이전트가 자신의 출력 품질 평가
    • 인간 사용자 / 자동화 시스템의 수정 사항
    • 에이전트의 학습 개선을 위해 불확실/유용한 예제 선택
  • 학습
    • Ex) 강화학습(RL)
  • ⇒ 탐색(새로운 행동 시도)과 활용(이미 알려진 최적 행동 사용)의 균형 유지

작동 방식

복잡한 작업을 단순화 + 자동화

특정 워크플로

• 목표 결정
  1. 사용자로부터 목표(명령) 수집
  2. 작업 계획(사용자와 관련 있고 사용자에게 유용한 최종 결과)
  3. 목표 세분화(실행 가능한 작은 작업)
  4. 특정 순서, 조건에 따라 실행
  • 우리가 활용할 작동 방식
• 정보 획득
  • 작업을 성공적으로 실행하기 위한 정보
  • 인터넷 접근 등등
• 작업 구현
  • 체계적 구현
    • 선입선출, 피드백, (추가 작업)

유형(종류)

• 단순 반응 에이전트
  • rule based
  • 간단한 작업
• 모델 기반 반응 에이전트
  • 단순 반응 에이전트 + ɑ
  • 가능성 있는 결과, 결론 평가 → 결정 내림
    • 지원 데이터 사용 ⇒ 내부 모델 구축 ⇒ 의사결정
• 목표 기반 에이전트
  • 다양한 접근 방식 + 모델 기반 반응 에이전트
  • 효율적인 경로 + 환경 데이터 평가 → 결과
  • 항상 효율적인 경로 선택
  • 복잡한 작업 수행하는데 적합
• 효용 기반 에이전트
  • 복잡한 추론 알고리즘 ⇒ 원하는 결과 극대화
  • 다양한 시나리오의 효용 가치, 이점 비교 ⇒ 가장 큰 보상 제공
  • Ex) 이동 시간이 가장 짧은 항공권 선택 에이전트
• 학습 에이전트
  • 과거 경험 ⇒ 지속적 학습 ⇒ 성능 향상
  • 감각 입력, 피드백 메커니즘
  • 문제 생성기 → 수집된 데이터, 과거 결과 ⇒ 스스로 학습
• 계층형 에이전트
  • 여러 계층의 지능형 에이전트 조직화한 그룹
  • 상위 에이전트
    • 복잡한 작업 → 작은 작업 분해
      → 하위 에이전트 할당
    • 결과 수집, 하위 에이전트 조정
• 다중 에이전트 시스템(MAS)
  • 서로 상호 작용하는 여러 에이전트로 구성
  • 분산 환경에서 효과적(중앙 집중식 제어가 비효율적인)
  • Ex) 자율 주행 차량 플릿(독립 + 교통 혼잡, 충돌 방지 → 협력)

단점

• 데이터 프라이버시 문제
  • 대량의 데이터 획득, 저장 및 이동
  • 데이터 보안 강화
• 윤리적 과제
  • 편향, 부정확한 결과
  • 사람의 검토 등 필요
• 기술적 복잡성
  • 기계 학습 기술에 대한 경험과 지식!
    • 기계 학습 라이브러리 → 소프트웨어 애플리케이션 통합
    • 엔터프라이즈 관련 데이터 → 에이전트 학습
• 제한된 컴퓨팅 리소스
  • 인프라 + 유지 관리 필요