ABOUT ME

    -

    Today
    -
    Yesterday
    -
    Total
    -
    • AWS Summit 2025 후기, Day1 강연
      AWS 2025. 5. 18. 17:41

      AWS Summit Seoul 2025

       

      2025년 5월 14일 - 15일, 코엑스 컨벤션 센터에서 개최된 AWS Summit Seoul 2025에 다녀왔습니다.

      저에게는 클라우드 개발팀의 구성원으로서 참가하는 첫 행사였기에, 특히나 기대가 되었는데요.

      기업들이 실제로 AWS를 어떻게 활용하고 있는지, AWS 서비스와 생성형 AI를 중심으로 기술 트렌드는 어떻게 변화하고 있는지 살펴볼 수 있는 좋은 기회였습니다.

       

      강연 중심으로 행사를 즐기고 왔기 때문에 그 내용들을 정리해볼까 합니다.

      1. 생성형 AI의 핵심 트렌드와 비즈니스 혁신 
      2. NEXON은 어떻게 대규모 클라우드 접근관리를 더 안전하고 간편하게 개선하였나?
      3. LLM Observability: LLM의 거짓말을 잡아내는 법
      4. Amazon Bedrock 기반 Text-toSQL로 완성하는 데이터 혁신: 당근페이의 핀테크 성공전략
      5. Multi-Agent AI로 고객 경험 혁신 및 생산성 향상: 하나투어의 생성형 AI 챗봇 도입 사례
      6. 계산과학의 혁명적 전환점: 양자 컴퓨팅 기술과 Amazon Braket이 여는 미래

      1. 생성형 AI의 핵심 트렌드와 비즈니스 혁신 

       

      기업들이 생성형 AI를 실제 비즈니스에 도입하고 확장하는 과정과 흐름을 다루었습니다.

       

      AI 활용 흐름

      2023 생성형AI 무엇인가에서부터 2024 어떤 모델이 가성비 있고 최적의 아키텍처인지. 실 적용을 위한 사항들에 대한 본격적 고민이 있었으며, 2025 성과적 측면에 대한 고민까지 이어졌습니다.
      이에 따라 AI에 대한 기업의 기대는 용어 이해, 구사, 정보 연계 능력, 분석 역량, 실행으로 확장했습니다.

      최신 발전 방향은 AI시대 감안한 서비스 고도화, 규모 지속 확대이며, AI 통합된 개발환경 제공이 강조되고 있습니다.
      기업 활용 사례는 2023년 RAG, 2024년 Multi-modal, 자사 pain-point 제거, 이미지 이해 등 새로운 서비스를 창출이 있었습니다.
      2025년은 'Agent의 해'라고 말하는 만큼, 어떻게 Agent를 구현할 것인가에 집중하고 있습니다.

      생성형 AI 접근 방식과 시사점

      생성형 AI 도입은 단순한 기술 적용이 아니라, POC → Production → Adopt → Value Realization의 4단계를 전략적으로 설계해야 합니다. (AI 워크로드 라이프사이클)

      1. POC(사전검증)
        • 실패 이유: 명확한 성공 기준 없음, 변수 과다
        • 해결 방안: 성공기준 명확화, 소규모 선별 실험, AWS AI 서비스 활용
      2. Production(배포)
        • 실패 이유: POC와 운영 환경의 차이, 자동화 미비, 부서 간 협업 부족
        • 해결 방안: 실 운영 환경 고려한 설계, 기술/보안/법무 협업, Bedrock 등 AWS 도구 활용
      3. Adopt(조직 내 확산)
        • 실패 이유: 실사용 부족, 변화 저항, 인식 부족
        • 해결 방안: 리더의 솔선수범, 사용자 중심 설계, 인재 재교육
      4. Value Realization(가치 실현)
        • 실패 이유: 비즈니스 가치 미정의, 성과 측정 기준 부적절
        • 해결 방안: 초기부터 가치 가설 및 ROI 정의, 명확한 성과 측정

      2. NEXON은 어떻게 대규모 클라우드 접근 관리를 더 안전하고 효율적으로 개선했는가?

      넥슨코리아는 보안과 효율성을 높이기 위해 IAM Identity Center를 도입했다고 합니다. 기존 개별 계정 및 권한 설정 방식에서 벗어나, Permission Sets 기반의 중앙 집중식 권한 관리 체계를 구축하여 접근 제어를 간소화하고 보안 수준을 강화했다고 합니다. 

       

      IAM Identity Center는 기존 Federation 구조의 한계를 극복하며, 보안성과 효율성을 향상시킬 수 있는 솔루션입니다.

      넥슨은 내부 시스템과의 연계를 통해 이를 성공적으로 현업에 안착시킨 사례이기에, 대규모 클라우드 사용자들에게 중요한 레퍼런스를 제공했다는 생각이 듭니다. 

       

      1. 배경과 문제점

      • 넥슨은 300개 이상 AWS 계정과 1500개 이상의 IAM 유저를 운영 중.
      • 각 계정별로 개별 IdP 연결 및 MFA 구성 등 관리 복잡.
      • 사용자 퇴사, 인사 변동 시 수작업 대응 필요.
      • 기존 구조는 OU 분리 등으로 복잡성이 높아짐.

      2. 도입한 해결책: AWS IAM Identity Center

      • 하나의 중앙 관리 시스템에서 계정과 앱 접근 통합 관리.
      • 기존 federation 구조는 그대로 유지 가능, 병행 사용 가능.
      • 그룹 : 권한셋 : 계정을 1:1:1로 매핑해 단순화.

      3. 실제 적용 방식

      • 자체 API 기반 백오피스를 구축해 사용자/권한 관리 자동화.
      • 이메일 기반 사용자 관리, 콘솔 접근은 SSO 기반 통일.
      • 여러 계정 동시 사용 가능한 멀티 세션 기능도 활용.
      • 단점: 한글, 특수문자 제한 / 그룹 중첩 불가 등

      4. 효과

      • 전체 계정 중 약 1/3을 SSO 기반으로 전환.
      • 접근 경로를 하나로 통일, 운영 효율과 보안 수준 향상.
      • IAM Identity Center를 통한 중앙화가 복잡한 환경에서 효과적임.

      3. LLM Observability: LLM의 거짓말을 잡아내는 법

       

      LLM의 Hallucination 문제와 그에 대한 모니터링 및 대응 방안에 대해 설명하였습니다.
      LLM은 여전히 Hallucination 문제를 안고 있습니다. 특히 RAG 기반 SaaS 서비스에서도 데이터 검색 후 생성된 응답이 틀리는 경우가 많기 때문에, 응답 전후에 검증 단계를 추가하거나, 여러 요청을 연결한 체인 구조를 구성해 신뢰도를 높이는 방식이 권장되었습니다. 

      LLM 서비스 모니터링의 복잡성도 언급되었습니다. 오케스트레이션 프레임워크부터 모델, 모델 서빙 및 배포, 벡터 DB, 인프라까지 다양한 구성요소가 얽혀 있으며, 이 전체 스택을 통합적으로 추적하고 최적화할 필요가 있기 때문입니다.

       

      이러한 문제를 해결하기 위해 LLM을 관측(Observability)하고 개선할 수 있는 통합 플랫폼을 소개했습니다. 이 플랫폼은 모델의 잘못된 응답을 실시간으로 감지하고, 성능과 보안 이슈를 함께 모니터링할 수 있도록 설계되었습니다. 단순한 로그 수집을 넘어, LLM 기반 서비스 운영 전반을 실험하고 최적화할 수 있는 환경을 제공합니다.

       

      Datadog의 Observability 플랫폼을 통해 LLM 응답 품질을 향상시키고 운영 효율성을 높이는 데 도움을 받을 수 있을 것 같습니다.

      프롬프트 수정, 체인 구조 최적화, 모델 비교 등을 하나의 시스템 내에서 유연하게 수행할 수 있도록 지원한다고 합니다.

      4. Amazon Bedrock 기반 Text-toSQL로 완성하는 데이터 혁신: 당근페이의 핀테크 성공전략

      Amazon Bedrock 기반의 AI 기술을 활용해 조직 전반의 데이터 활용 역량을 극대화한 사례였습니다.

       

      당근페이에서 기존에는 데이터를 조회하기 위해 마케터 → 보안 담당자 승인 → 데이터 엔지니어 작업 → CSV 전달 등 복잡한 단계를 거쳐야 했다고 합니다. 이로 인해 실시간 의사결정이 어렵고, 데이터 활용의 진입장벽이 존재했습니다.

      이를 해결하기 위해, 자연어 기반 SQL 생성 시스템, 즉 Text-to-SQL 기술이 도입되었습니다.

      이 시스템은 단순한 쿼리 생성 기능을 넘어, 데이터 시각화, 분석 인사이트 제공, 대화 문맥 이해, 자동 보정 기능까지 포함한 AI 분석봇 ‘브로쿼리(BroQuery)’로 발전으로 개발되었다고 합니다.

       

      브로쿼리는 Slack 기반의 질문 응답 봇으로, 사용자의 자연어 질문을 이해하고 SQL을 생성합니다.

      이 과정에서 하이브리드 검색 + RAG + 리랭커 구조를 활용해 정확한 정보를 추출하고, 오류를 자동 검증·보정하는 기능도 포함되어 있습니다. 정확한 응답을 위해 기술 메타데이터(스키마, 샘플쿼리 등)와 비즈니스 메타데이터(용어, 맥락)를 지속적으로 수집·관리하며, 자체 개발한 도구로 데이터 자동 동기화도 수행하고 있습니다.

      도입 효과로는 의사결정 속도 향상, 데이터 리터러시 증대, 개발팀의 반복작업 감소, 데이터 중심 문화 정착 등이 있으며, 향후에는 MCP 기반 스마트 도우미로의 확장과 지속 가능한 메타데이터 자산화를 목표로 하고 있습니다.

      도입 효과 및 조직 문화 변화

      • 데이터 분석 속도 향상, 누구나 실시간 인사이트 확보
      • 비개발자도 자유롭게 데이터 탐색 → 데이터 리터러시 향상
      • 개발팀 반복작업 감소 → 생산성 증가
      • 전사적 데이터 기반 의사결정 문화 형성

      5. Multi-Agent AI로 고객 경험 혁신 및 생산성 향상: 하나투어의 생성형 AI 챗봇 도입 사례

      다음은 하나투어의 AWS 기반 Multi-Agent 챗봇 도입 사례입니다.

      하나투어는 코로나 이후 급증한 고객 문의에 대응하고, 업무 효율성을 높이기 위해 AWS 기반의 생성형 AI 챗봇과 Multi-Agent 시스템을 도입했습니다. 초기에는 단일 LLM Agent를 통한 단순 Q&A 형태로 시작했으나, 복잡한 요청과 사용자 기대 증가로 인해 응답 품질 저하와 병목 현상이 발생하자, 이를 극복하기 위한 Multi-Agent 협업 구조로 전환하게 되었다고 합니다.

      왜 Multi-Agent 구조가 필요했는가?

      • Single-Agent 한계:
        • 복잡한 업무를 하나의 Agent가 처리하면서 속도 저하와 정확도 하락 발생
        • 모든 트래픽이 한 Agent로 집중되어 병목 현상 발생
        • 시스템 전체를 감당하기엔 신뢰성·유지보수의 어려움 존재
      • 초기 분리형 Multi-Agent:
        • 역할별 Agent로 나누었으나, UI 복잡도 증가 및 관리 어려움 발생
        • 각각 독립된 시스템이 되어 데이터 일관성 저하, 중복 저장 등의 문제도 발생
      • 결론: Supervisor 기반 협업형 Multi-Agent로 진화
        • Supervisor Agent가 사용자 요청을 분석해 적절한 Agent에게 분배
        • 다양한 기능을 동시에 처리하면서도 보안과 전문성을 유지
        • 고객 민감 정보 처리와 일반 응대를 모델별로 분리 설계해 보안성 강화

      기술 구성 및 성과

      • Amazon Bedrock 기반 아키텍처로 최신 AI 모델과 자체 Fine-tuning 모델을 유연하게 조합
      • 여행 서비스에 특화된 파인튜닝 모델은 하나투어가 직접 개발
      • H-AI 챗봇으로 실시간, 24시간 맞춤형 응대가 가능해졌으며
      • 문의량이 218% 증가하는 성과를 달성

      도입 효과 및 기대

      • 고객 만족도 향상: 빠르고 전문화된 상담 제공
      • 업무 생산성 향상: 에이전트 분업 구조를 통한 자동화 효율 극대화
      • 데이터 일관성 및 보안성 확보: Agent 설계 및 Supervisor 시스템 통해 문제 해결
      • 향후 더 복잡한 사용자 요구에 대응 가능한 확장성과 유연성 기반 마련

      6. 계산과학의 혁명적 전환점: 양자 컴퓨팅 기술과 Amazon Braket이 여는 미래

      마지막 강연은 양자 컴퓨팅 기술입니다.

      대학생 때 교수님들께서 종종 흥미롭게 언급하시던 내용이었기에, 개인적으로 기대가 되는 순서였습니다.

       

      양자 컴퓨팅은 기존 슈퍼컴퓨터의 성능 한계를 극복하고, 신약 개발·배터리 소재·물류 최적화 등 다양한 분야에서 혁신을 이끌 잠재력을 가진 기술로 주목받고 있습니다.

      • 고전 컴퓨터의 한계: 슈퍼컴퓨터조차 처리하기 어려운 문제들이 증가
      • 양자의 특성: 큐비트는 0과 1을 동시에 표현 가능한 ‘중첩’ 상태로 고속 병렬처리 가능
      • 적용 가능 분야: 물류·금융 포트폴리오 최적화, 머신러닝, 차세대 배터리, 신약 개발 등

      다만, 큐비트 오류 제어의 어려움과 높은 인프라 비용으로 인해 실제 활용에는 여전히 제약이 많습니다.

      AWS는 이러한 진입장벽을 낮추기 위해 클라우드 기반의 양자 컴퓨팅 서비스인 Amazon Braket을 제공하고 있으며, 코드 개발부터 테스트, 실제 QPU 실행까지 모두 클라우드에서 가능하도록 완전관리형 환경을 구축하여 제공한다고 합니다.

      • Jupyter 노트북 기반으로 양자 알고리즘을 작성
      • 시뮬레이터와 실제 QPU를 모두 사용할 수 있는 하이브리드 구조
      • 다양한 QPU(양자 처리 장치) 선택 가능 → 기술 락인 방지
      • 사용량 기반 요금 체계 → 초기 투자 부담 완화

      실제 활용 사례

      • BMW, Airbus: 글로벌 챌린지를 통해 Braket 기반 알고리즘 고도화 진행
      • J.P. Morgan Chase, Citi: 금융 분야 양자 알고리즘 연구 및 특허 획득
      • 헬스케어 분야: 양자 기술 상용화 시 가장 높은 수요가 예상됨

      고객별 접근 전략 (Quantum Readiness Level)

      • Level 1: 양자에 관심을 갖기 시작한 단계 → Quantum Embark 프로그램 활용 추천
      • Level 2: 다양한 PoC를 진행 중인 그룹 → Braket Direct를 통한 테스트 권장
      • Level 3: 심도 있는 양자 연구를 수행 중인 고도화 고객 → Advanced Solutions Lab과 공동 연구

       마무리 

      양자 컴퓨팅 강연의 마무리 멘트를 빌려 이번 후기를 마무리해보려 합니다.

      양자 컴퓨팅은 아직 초기 단계에 있지만, 기술적 난도가 높은 만큼 지금부터 준비해야 미래의 비즈니스 기회를 선점할 수 있다는 말씀을 주셨습니다. 

      이는 개발자로서 기술을 활용하고 받아들이는 데에도 중요한 포인트라고 생각합니다.

      이번 AWS Summit은 생성형 AI를 중심으로 최신 기술 트렌드를 한자리에서 접할 수 있는 좋은 기회였습니다.

      이러한 자리를 통해 기술 흐름을 읽고 선제적으로 대응하거나, 실 서비스에 어떻게 적용할 수 있을지 미리 고민해보는 기회를 갖는 것은 많은 개발자들에게도 큰 도움이 될 것이라고 생각합니다. 

       

      내년 AWS Summit Seoul 2026에서는 더 많은 것을 얻어갈 수 있도록 저도 더 성장해야겠습니다.

       

      저작자표시 (새창열림)
    Designed by Tistory.

    티스토리툴바