반응형

AI 9

온프레미스 환경에서 Ollama + Open WebUI로 사내 LLM 구축하기

Overview최근 AI 기술의 발전으로 ChatGPT, Claude 같은 상용 LLM 서비스가 대중화되었지만, 보안이 중요한 기업 환경에서는 민감한 데이터를 외부 API로 전송하기 어려운 경우가 많다. 이러한 상황에서 온프레미스 환경에 자체 LLM을 구축하면 데이터 보안을 유지하면서도 AI의 이점을 활용할 수 있다. 이번 글에서는 NVIDIA GPU가 장착된 물리 서버에 Ollama를 설치하고, Open WebUI를 통해 웹 인터페이스를 제공하는 사내 LLM 시스템을 구축하는 전체 과정을 다룬다. NFS를 활용한 스토리지 관리와 Docker Compose를 이용한 컨테이너 오케스트레이션까지 포함하여 실무에 바로 적용 가능한 완전한 솔루션을 제시한다. 시스템 구성 및 사전 요구사항 하드웨어 환경..

AI/AI Tool 2026.02.11

Claude 4.5 Sonnet vs Gemini 3 Pro 비교: 2026년 최신 AI 모델 대결

Overview2025년 말부터 2026년 초까지, AI 업계에서 가장 주목받는 두 모델이 등장했다. Anthropic의 Claude 4.5 Sonnet과 Google의 Gemini 3 Pro는 각각 2025년 9월과 11월에 출시되어 AI 모델의 새로운 기준을 제시하고 있다. 개발자 관점에서 이 두 모델을 심층 비교해보겠다. 1. 기본 스펙 비교 Claude 4.5 Sonnet출시일: 2025년 9월 29일학습 데이터 기준: 2025년 4월컨텍스트 윈도우: 200K 토큰 (기본), 1M 토큰 (베타)가격: 입력 $3/M 토큰, 출력 $15/M 토큰특징: 코딩 특화, 에이전트 워크플로우 최적화 Gemini 3 Pro출시일: 2025년 11월 18일학습 데이터 기준: 2025년 1월컨텍스트 윈..

AI/AI Tool 2026.01.17

Claude Code 완벽 가이드: Mac에서 시작하기

Overview터미널에서 바로 AI와 코딩하는 시대가 왔다. Claude Code는 Anthropic에서 만든 CLI 기반 에이전틱 코딩 도구로, IDE를 벗어나 터미널에서 직접 Claude와 대화하며 코드를 작성하고, 수정하고, 디버깅할 수 있다. Claude Code란?Claude Code는 단순한 코드 자동완성 도구가 아니다. 터미널에서 실행되는 에이전트로, 프로젝트의 컨텍스트를 이해하고 파일을 직접 읽고 쓰며, 쉘 명령어까지 실행할 수 있다. 개발자가 자연어로 지시하면 Claude가 알아서 코드를 수정하고 테스트까지 돌려준다. 설치 방법 사전 요구사항macOS 10.15 이상Node.js 18 이상 Node.js가 없다면 먼저 설치한다.# Homebrew로 Node.js 설치b..

AI/AI Tool 2026.01.15

Claude와 Claude Code: AI 기반 개발 환경의 새로운 패러다임

OverviewAI 기술이 소프트웨어 개발 프로세스를 혁신하고 있는 가운데, Anthropic의 Claude는 단순한 챗봇을 넘어 실질적인 개발 파트너로 자리잡고 있다. 특히 최근 출시된 Claude Code는 커맨드라인 환경에서 직접 코딩 작업을 위임할 수 있는 에이전트 도구로, DevOps 엔지니어와 개발자들에게 새로운 가능성을 제시하고 있다. 이 글에서는 Claude의 최신 모델 패밀리인 Claude 4 시리즈와 터미널 기반의 AI 코딩 어시스턴트인 Claude Code의 특징, 활용 방법, 그리고 실무에서의 적용 사례를 살펴보겠다. Claude 4 모델 패밀리 소개 현재 제공되는 모델Claude 4 패밀리는 현재 다음과 같은 모델들로 구성되어 있다.Claude Opus 4.5: 가장 강력..

AI/AI Tool 2026.01.10

구글의 끝판왕 AI, 'Google AI Pro' 소개

Overview구글이 작정하고 내놓은 'Google AI Pro' 요금제가 엄청난 할인 혜택으로 찾아왔다. 기존 정가 연 348,000원에서 무려 20만 원 이상 할인된 연 140,000원(첫해 59% 할인)에 이용할 수 있는 기회이다. 월 구독도 첫 3개월간 9,500원이라는 파격적인 가격이다. 이 요금제는 단순한 챗봇 사용을 넘어선다. 영화급 영상을 만드는 Veo, 초고품질 이미지를 그리는 Nano Banana Pro, 그리고 개발자를 위한 Jules와 Antigravity까지. 크리에이터와 개발자라면 놓칠 수 없는 올인원 패키지이다. 경쟁사 대비 가성비를 살펴보면ChatGPT Plus: 월 $20 (약 27,000원) = 연 324,000원Claude Pro: 월 $20 (약 27,000원) = ..

AI 2025.12.31

데이터셋을 선택할 때 고려해야 할 "적합성(Suitability)"과 "기반 개념(Underlying Concept)"

Overview머신러닝 프로젝트에서 데이터셋을 고르는 일은 단순히 "유명한 데이터"를 고르는 것이 아니다. 좋은 모델은 좋은 데이터로부터 시작되며, 그 데이터는 문제에 ‘적합’하고 그 구조를 ‘이해’해야만 제대로 사용할 수 있다. 이번 글에서는 머신러닝 실습이나 연구를 할 때 중요한 두 가지 개념인 적합성(suitability)과 기반 개념(underlying concept)에 대해 이야기해보겠다. 적합성(Suitability)이란?적합성이란 간단히 말해, "이 데이터셋이 내 문제를 해결하는 데 적합한가?"를 의미한다. 예시분류 문제를 풀고 싶은데, 타깃(Label)이 없는 데이터셋이라면 적합하지 않다.실제 애플리케이션은 시계열 데이터인데, 정적인 샘플만 있다면 부적절하다. 적합성 판단 기준..

AI/Machine Learning 2025.10.29

지도학습 vs 비지도학습, 과일로 이해하는 머신러닝의 핵심 개념

Overview머신러닝을 처음 접하는 사람이라면 "지도학습과 비지도학습이 뭐가 다른가요?" 라는 질문을 자주 하게 된다.이 글에서는 과일 분류와 붓꽃(Iris) 데이터 예제를 통해지도학습(정답이 있는 데이터로 분류/예측)비지도학습(정답 없이 데이터 패턴만으로 그룹화)유사도(데이터 간의 닮은 정도)호환성(함께 있을 때의 조합 적합도) 등 머신러닝의 핵심 개념을 직관적으로 설명한다. 실제 Python 코드를 통해DecisionTree, SVM, KNN, LogisticRegression 등 다양한 분류 알고리즘KMeans 군집화, Cosine Similarity 등 을 실습하며, 지도학습과 비지도학습의 원리와 차이, 그리고 실전에서의 해석 방법까지 단계별로 경험할 수 있다. 머신러닝의 ..

AI/Machine Learning 2025.10.22

MLflow로 실험 추적 자동화하기

OverviewMLOps에서는 모델을 한 번 학습시키는 것보다 "지속적으로 실험하고 개선하는 과정"이 중요하다. 하지만 실험이 많아질수록 다음과 같은 문제가 생긴다.어떤 파라미터로 모델을 학습했는지 기억나지 않음성능이 더 좋은 모델이 있었는지 비교가 어려움코드 버전과 모델 버전이 일치하지 않음 이를 해결해주는 도구가 바로 MLflow이다. MLflow란 무엇인가?MLflow는 머신러닝 실험, 모델, 배포 이력을 자동으로 기록하고 관리할 수 있는 오픈소스 플랫폼이다.구성 요소설명Tracking실험 기록, 하이퍼파라미터, 메트릭 추적Projects코드 실행 환경 재현Models모델 저장 및 로딩Registry모델 버전 관리 및 승인, 배포 제어 실습용 MLOps 템플릿: MLflow + Sc..

AI/MLOps 2025.10.15

MLOps 라이브러리: NumPy, Pandas, Scikit-Learn

Overview“데이터는 코드만큼 중요하다.”엔지니어로서 MLOps를 도입하고 싶다면, 데이터 흐름과 모델 학습 자동화에 사용되는 핵심 라이브러리부터 정확히 이해해야 한다. 이 글에서는 MLOps 워크플로우에서 NumPy, Pandas, Scikit-Learn이 어떤 역할을 수행하고, 어디에서 쓰이며, 실제로 어떻게 사용하는지를 실전 예제와 함께 설명한다. MLOps 흐름 안에서 이 세 가지 라이브러리가 쓰이는 위치는?[데이터 수집] → [전처리/클렌징] → [학습/추론] → [평가/로깅] → [저장/배포] ↑ ↑ ↑ ↑ ↑ (Pandas) (NumPy) (S..

AI/MLOps 2025.06.19
반응형