LM Studio

LM Studio이란?

LM Studio는 Mac에서 대규모 언어 모델을 로컬로 실행하기 위한 개발자 도구입니다. 사용자가 호환되는 모델을 다운로드하고, 자신의 컴퓨터에서 오프라인으로 해당 모델과 대화하며, 앱 통합 및 테스트 워크플로를 위한 로컬 서버를 노출할 수 있도록 도와줍니다. 이 앱은 클라우드 서비스에 전적으로 의존하지 않고 로컬 추론을 실험하려는 개발자, AI 취미 사용자, 연구자, 개인정보 보호를 중시하는 사용자들이 일반적으로 사용합니다. macOS에서 LM Studio는 모델 탐색, 앱으로 모델 로드, 런타임 설정 관리, 그리고 개발 작업을 위한 OpenAI 호환 로컬 API 작업을 지원합니다. 이 앱은 Element Labs Inc.에서 배포하며 Windows 및 Linux에서도 사용할 수 있어, 크로스 플랫폼 로컬 AI 워크플로에서 유용합니다.

주요 기능

• 지원되는 로컬 언어 모델 다운로드 및 관리
• Mac에서 모델과 직접 대화
• 자신의 컴퓨터에서 오프라인으로 모델 실행
• 테스트 및 통합을 위해 OpenAI 호환 로컬 API 노출
• 다양한 워크로드에 맞게 모델 런타임 설정 조정
• Mac, Windows, Linux 워크플로 전반에서 앱 사용

안전 개요

상태: 대체로 안전

LM Studio는 정상적인 로컬 AI 소프트웨어이지만, 대용량 모델 파일을 다운로드할 수 있으며 설정 및 사용 중에 상당한 CPU, GPU, 메모리, 디스크 공간, 네트워크 대역폭을 사용할 수 있습니다. 로컬 파일이나 복사한 텍스트에 대한 접근은 앱에서 문서나 프롬프트로 작업하기로 사용자가 선택한 경우 그 목적에 부합합니다. 로컬 서버 기능을 사용하는 경우, 생성된 응답은 다른 AI 출력과 마찬가지로 취급하고 그곳에서 처리하려는 의도가 없는 한 민감한 데이터를 공유하지 마세요. 앱을 최신 상태로 유지하고 저장 공간을 회복하려면 사용하지 않는 모델을 제거하세요.

권장: Mac에서 로컬 AI 모델, 오프라인 채팅 또는 로컬 API 테스트에 LM Studio를 사용한다면 유지하세요. 더 이상 사용하지 않는다면 앱과 다운로드한 모델을 제거해 상당한 디스크 공간을 되찾을 수 있지만, 그렇게 하면 다시 설치할 때까지 로컬 AI 설정과 모델 접근도 함께 제거됩니다.

일반 경로

• /Applications/LM Studio.app

관련 앱

• Ollama
• Open WebUI

경험 공유

처음으로 경험을 공유하세요.