ZDNET을 팔로우하세요: 우리를 선호 소스로 추가하세요 Google에서.
ZDNET의 주요 시사점
- Ollama는 사용자 친화적이고 로컬에 설치된 AI입니다.
- 이 앱을 통해 얻을 수 있는 이점에 놀라게 될 것입니다.
- Ollama는 무료이고 비공개일 뿐만 아니라 오픈 소스이기도 합니다.
Ollama는 AI 게임에서 작은 플레이어이지만 실제보다 훨씬 커야 합니다. 이 설치 가능한 AI에는 ChatGPT와 같은 것에서는 찾을 수 없는 몇 가지 이점이 있으며 이러한 이점으로 인해 더 전통적인 서비스를 사용할 수 없게 됩니다.
지난 1년 동안 Ollama에 대해 꽤 자주 글을 썼지만 이제 다른 앱보다 이 앱을 사용하기로 선택한 이유를 공유해야 할 때라고 생각했습니다.
또한: 현지 분위기의 코딩을 원하시나요? 이 AI 스택은 Claude Code 및 Codex를 무료로 대체할 수 있습니다.
(공개: ZDNET의 모회사인 Ziff Davis는 2025년 4월 OpenAI를 상대로 AI 시스템 교육 및 운영에 있어 Ziff Davis의 저작권을 침해했다고 주장하는 소송을 제기했습니다.)
올라마란 무엇인가요?
이유에 대해 알아보기 전에 무엇에 대해 이야기해 보겠습니다.
Ollama는 컴퓨터(Linux, MacOS 또는 Windows)에 다운로드하여 설치할 수 있는 무료 오픈 소스 도구입니다. Ollama를 사용하면 시스템에서 직접 LLM(대형 언어 모델)을 실행할 수 있습니다. 고려해야 할 주요 문제는 컴퓨터 속도입니다. AI가 유용하려면 상당한 마력이 필요합니다. 그렇다고 중급 컴퓨터에서 사용할 수 없다는 의미는 아니지만 중저사양 하드웨어에서 사용하는 경우 실행 속도가 더 느려지고 쿼리를 처리하는 동안 멀티태스킹이 불가능할 수 있습니다.
또한: OpenAI의 새로운 이미지 워터마크를 사용하면 AI 가짜를 더 쉽게 식별할 수 있습니다. 방법은 다음과 같습니다.
그러나 컴퓨터에 Nvidia GPU가 있는 경우 많은 프로세스를 GPU로 오프로드하고 CPU가 다른 작업을 수행하게 되므로 중급 하드웨어에서도 더 빠르게 실행됩니다. Ollama를 원활하게 실행하려면 시스템에 최소한 다음이 있어야 합니다.
- CPU: 모든 최신 프로세서
- 시스템 RAM: 16GB
- GPU(권장): 8GB 이상의 VRAM을 갖춘 Nvidia 또는 자동 GPU 가속을 위한 16GB 이상의 통합 메모리를 갖춘 Apple Silicon Mac(M1/M2/M3)
Ollama는 MacOS와 Windows 모두에 대해 사용자 친화적인 GUI를 제공하지만 명령줄에서도 사용할 수 있습니다. Linux에서는 Ollama CLI를 사용할 수 있지만 작동할 수 있는 GUI(예: Alpaca 및 Msty)도 있습니다.
Ollama를 사용하면 다양한 LLM을 다운로드할 수 있습니다. 다운로드할 수 있는 방대한 모델 라이브러리가 있습니다. DeepSeek, Gemma, Qwen, Mistral, Gpt-OSS, Llama 등을 찾을 수 있습니다.
이제 이해하셨을 텐데요 무엇 올라마는, 얘기해보자 왜 당신은 그것을 사용해야합니다.
1. 무료입니다
올라마는 무료입니다. 저는 그것을 사용한 이후로 앱이나 모델에 대해 한 푼도 지불하지 않았습니다. Ollama를 설치하고 모델을 끌어서 이동하면 됩니다. 앱, 모델 또는 사용량에 대해 비용을 지불할 필요가 없습니다.
그것은 무료입니다. 완전하고 영원히 무료입니다.
오픈 소스이기도 하므로… 보너스입니다.
또한: Google의 AI 기능이 더욱 혼란스러워졌습니다.
2. 비공개야
이것은 나에게 큰 일입니다. 나는 내 질문과 응답이 제3자에 의해 사용될 수 있다는 것을 알고 있기 때문에 공공 또는 영리 목적의 AI를 사용하지 않을 것입니다. 영리 목적의 AI 회사는 귀하의 정보를 수집하여 다양한 목적으로 사용할 수 있는데, 저는 그것이 마음에 들지 않습니다. 개인 정보를 쿼리하는 것은 아니지만(나는 주로 연구를 위해 AI를 사용합니다), 여전히 그러한 쿼리가 수집되어 내 프로필을 만드는 데 사용되는 것을 원하지 않습니다.
또한: 개인정보 보호를 위한 최고의 보안 브라우저: 전문가 테스트 완료
내 브라우저와 마찬가지로 내 AI도 최대한 비공개로 유지되기를 원하며 Ollama는 실제로 이를 실현할 수 있는 유일한 방법입니다.
3. 전력망에 도전하지 않습니다.
AI가 에너지를 엄청나게 쓴다는 이야기를 들어보셨죠? ICDA(국제 데이터 센터 기관)의 이번 달 보고서에 따르면 미국 전체 전기 사용량의 약 6%가 데이터 센터에 사용됩니다. “미국은 전 세계 전력 소비의 43%를 차지하는 세계 최대의 데이터 센터 위치입니다. 데이터 센터는 미국에서 29.2GW의 전력을 소비하며 현재 미국 전력의 6%를 소비하고 있습니다.”
이 UN 보고서는 대규모 AI 배포와 관련된 환경 문제를 자세히 설명합니다. “대부분의 AI 서버는 전자 폐기물을 생성하고 수은, 납과 같은 독성 화학 물질을 포함할 수 있는 데이터 센터에 저장됩니다. 또한 데이터 센터는 건설 및 전기 부품 냉각을 위해 많은 양의 물이 필요합니다.”
또한: AI의 급증하는 에너지 수요가 걱정되나요? 챗봇을 피하는 것은 도움이 되지 않습니다. 하지만 3가지가 도움이 될 수 있습니다.
로컬에 설치된 Ollama를 사용하면 해당 문제가 추가되는 것을 피할 수 있습니다. 한 단계 더 나아가 랩톱에 Ollama를 설치할 수도 있으므로 배터리 전원만 사용하고 있습니다.
Ollama는 환경 친화적이며 전력망에 어떠한 부담도 주지 않습니다.
4. 더 유연하다
ChatGPT 등을 사용하는 경우 선택할 수 있는 LLM이 제한됩니다. Ollama를 사용하면 방대한 LLM 라이브러리를 손쉽게 이용할 수 있습니다. 여러 모델을 설치하고 각 쿼리에 사용할 모델을 선택할 수도 있습니다.
또한: 내가 가장 좋아하는 Microsoft Office 대안에 AI를 쉽게 추가한 방법
이는 대부분의 영리 AI 서비스에서는 찾아볼 수 없는 유연성입니다.
5. LAN이 가능하다
내 LAN 내의 서버에 Ollama 인스턴스가 하나 설치되어 있습니다. 이를 실행하면 웹 기반 인터페이스를 사용하거나 로컬 GUI 앱을 서버에 연결할 수 있으므로 랩톱이나 데스크톱에서 CPU/GPU를 사용하지 않습니다. AI 프로세스를 서버로 오프로드하면 성능이 떨어지는 하드웨어를 중단시키는 쿼리에 대해 걱정할 필요가 없기 때문에 이는 훌륭한 옵션입니다. 게다가 내 LAN에 연결된 모든 장치에서 Ollama를 사용하려면 한 대의 컴퓨터에만 Ollama를 설치하면 됩니다.
6. 오프라인 접근 가능
인터넷 연결이 끊어졌거나 신호나 Wi-Fi가 없는 곳에서 어떤 이유로든 AI를 사용해야 한다고 가정해 보겠습니다. 타사 클라우드 기반 AI를 사용하면 운이 좋지 않습니다. 노트북에 Ollama가 설치되어 있다면, 이를 사용하기 위해 네트워크 연결이 필요하지 않기 때문에 운이 매우 좋습니다. 이는 또한 더 많은 개인 정보 보호를 위해 에어 갭이 있는 시스템에서 Ollama를 실행할 수 있음을 의미합니다.
또한: 보다 적절하고 더 나은 응답을 위해 로컬 AI에 내 파일을 공급하는 방법
모든 면에서 윈윈(win-win)입니다.
로컬에 설치된 Ollama 인스턴스를 사용해 보시기를 적극 권장합니다. 생각보다 시작하고 실행하기가 훨씬 쉽고(MacOS나 Windows에 앱을 설치하는 것과 유사), 저렴하고 유연하며 안전하고 환경 친화적입니다.
누가 그 모든 것을 원하지 않습니까?
자세한 정보 확인