Digital Garden
Tag Archive

#로컬AI

12개의 글과 노트가 이 태그로 연결되어 있어.

← 모든 태그 보기
Current tag #로컬AI
Items 12

AI 워크스테이션

AI 워크스테이션은 로컬 추론, 파인튜닝, 데이터 처리, 연구 재현성을 위해 개인이나 조직이 직접 통제하는 고성능 컴퓨팅 장비다.

로컬 파인튜닝

로컬 파인튜닝은 외부 클라우드가 아니라 개인·조직이 직접 통제하는 장비에서 모델을 데이터와 목적에 맞게 조정하는 실험 방식이다.

기기 주권

기기 주권은 특정 생태계의 편리함을 누리면서도 데이터, 작업흐름, 자동화, 장비 선택권을 스스로 통제할 수 있는지를 묻는 개념이다.

전환비용

전환비용은 한 생태계나 도구에서 다른 생태계로 이동할 때 발생하는 시간, 돈, 데이터, 학습, 관계 비용이다.

온디바이스 AI

온디바이스 AI는 클라우드가 아니라 스마트폰, 노트북, 워크스테이션 등 사용자 기기 안에서 AI 모델을 실행하는 방식이다.

AI 데이터센터

AI 데이터센터는 대규모 GPU, 메모리, 전력, 냉각 인프라를 기반으로 AI 모델 학습과 추론을 수행하는 시설이다.

메모리 공급망

메모리 공급망은 DRAM, HBM, NAND 등 데이터 저장·연산에 필요한 메모리 부품의 생산과 가격 구조를 뜻한다.

AI 인플레이션

AI 인플레이션은 AI 수요 증가가 메모리, GPU, 데이터센터, 전력, 개인 기기 가격까지 밀어 올리는 현상이다.

파인튜닝

파인튜닝은 이미 학습된 AI 모델을 특정 데이터와 목적에 맞게 추가 조정하는 과정이다.

ROCm

ROCm은 AMD GPU에서 AI와 고성능 연산을 실행하기 위한 오픈 컴퓨팅 소프트웨어 스택이다.

CUDA

CUDA는 NVIDIA GPU에서 병렬 연산과 AI 모델 학습을 실행하기 위한 핵심 컴퓨팅 플랫폼이다.

MLX

MLX는 Apple Silicon의 통합 메모리 구조를 활용해 로컬 AI 모델 학습과 추론을 실행하는 머신러닝 프레임워크다.