Lee Hyun Ji

🌠공부기록 보관소

  • 📜 전체 글 수 210개

    • TIL

    👀Today I Learn

    Prompt Engineering

    • AI 모델(특히 LLM)과 효과적으로 상호작용하기 위해 프롬프트(입력 문구)를 최적화하는 기술
    • 성능을 극대화하기 위한 기술로 다음의 요소가 포함됨
      • 프롬프트 최적화 : 특정 응답을 유도하는 문구를 설계
      • Few-shot / Zero-shot Learning : 적은 예제로 모델이 올바르게 답하도록 유도
      • Chain-of-Thought Prompting : 단계별 사고 과정을 유도하는 프롬프트 작성

    Prompt Engineering이 중요한 이유

    • 같은 모델이라도 프롬프트를 어떻게 작성하느냐에 따라 결과가 극적으로 달라짐
    • API 호출 비용 절감 및 실행 속도 최적화 가능
    • 특정 도메인(법률, 의료, 코딩)에 최적화된 답변 유도

    Cloud와 On-premis

    ☁️Cloud

    • 개념
      • 클라우드는 인터넷을 통해 제공되는 컴퓨팅 리소스(서버, 스토리지, 네트워크, AI 서비스 등)를 사용하는 방식
      • 사용자는 물리적인 서버를 직접 관리할 필요없이, 필요한만큼만 빌려쓰고 비용을 지불하는 구독형 모델이 일반적
      • 예시
        • AI 모델 훈련 시 GPU 서버 임대 (AWS EC2, Google Cloud Vertex AI)
        • 데이터 저장/관리 (AWS S3, Google Cloud Storage)
        • 서버리스 컴퓨팅 활용 (AWS Lambda, Google Cloud Functions)
    • 장단점
      • ✅장점
        • 초기 비용이 낮음 : 하드웨어를 직접 구매하지 않아도 됨
        • 유연한 확장성 : 필요할 때 리소스를 즉시 추가 가능
        • 운영 및 유지보수 부담 감소 : 클라우드 업체(AWS, GCP 등)가 관리
        • 다양한 AI 및 빅데이터 서비스 제공 : GPU/TPU 등 고성능 연산 장비 사용 가능
      • ❌단점
        • 장기적으로 비용이 증가할 수 있음 : 지속적인 사용 시 온프레미스보다 비싸질 수 있음
        • 보안 및 데이터 주권 문제 : 클라우드에 저장된 데이터는 외부 해킹의 대상이 될 가능성이 있음
        • 인터넷 연결 의존 : 네트워크 속도에 따라 성능이 좌우됨

    🏢On-premis

    • 개념
      • 기업이나 기관이 직접 소유한 데이터센터나 서버에서 IT 시스템을 운영하는 방식
      • 즉, 모든 하드웨어 및 소프트웨어를 자체적으로 구축하고 관리하는 방식
      • 예
        • 금융기관: 고객 데이터 보안을 위해 내부 데이터센터 운영
        • 의료기관: 민감한 환자 정보를 보호하기 위해 자체 서버 운영
        • AI 연구소: 대규모 GPU 클러스터를 직접 구축하여 AI 모델 학습
    • 장단점
      • ✅장점
        • 데이터 보안 및 통제력 : 외부 클라우드에 의존하지 않으므로, 데이터 주권이 보장됨
        • 장기적으로 비용 절감 가능 : 지속적인 사용 시 클라우드보다 저렴할 수 있음
        • 네트워크 지연(Latency) 최소화 : 내부 서버에서 직접 처리하므로 속도가 빠름
        • 특수 환경에 적합 : 금융, 의료, 정부기관 등의 보안이 중요한 환경
      • ❌단점
        • 초기 비용이 높음 : 서버, 스토리지, 네트워크 장비 등의 초기 투자 비용이 큼
        • 확장성이 낮음 : 리소스를 늘리려면 새로운 장비를 구매해야 함
        • 운영 및 유지보수 필요 : IT 인력이 직접 서버를 관리해야 하며, 장애 발생 시 직접 대응해야 함

    Cloud vs On-premise

    비교 항목 Cloud (클라우드) On-premise (온프레미스)
    초기 비용 낮음 (필요한 만큼 사용) 높음 (서버 직접 구매)
    운영 및 유지보수 클라우드 업체가 관리 자체 유지보수 필요
    확장성 즉시 확장 가능 하드웨어 추가 필요
    보안 & 데이터 주권 보안 이슈 가능 (외부 저장소) 내부망에서 보안 유지 가능
    네트워크 속도 인터넷 속도에 의존 로컬 환경이므로 빠름
    장기 비용 사용량 증가 시 비용 증가 장기적으로 비용 절감 가능

    💡Today I Thought

    오늘의 체크리스트

    • 알고리즘 코드카타 286-290
    • SQL 코드카타 97
    • LLM 메인과제 README 작성
    • TIL 작성

    회고

      명절 끝😫 LLM 도전과제는 도저히 모르겠어서 일단 살짝 미뤄뒀다. 내일 다시 보고 할 수 있으면 도전해봐야지..😭

    댓글남기기

    참고