Manus AI 체험기

얼마 전, 핫했던 Manus AI 에 waitlist를 신청했었다.기대도 안하고 까먹고 있던 와중에, 승인 메일이 왔다.1. 가입메일에 적힌 링크를 통해 가입하자마자, 보너스 크레딧 1000이 내 계정에 들어왔다.이 크레딧을 가지고 AI에게 어떤 작업을 시킬 수 있는지 궁금해서 바로 써봤다.2. Llama 4 모델 조사 & 블로그 글 작성예전 같았으면 직접 조사하고 정리해서 블로그 글을 썼겠지만, 이번엔 자료조사부터 마크다운 초안 작성까지 전부 Manus AI에게 맡겨보았다.그 결과물을 거의 손대지 않고 그대로 블로그에 올렸다. Meta의 Llama 4: 다중 모달 AI의 새로운 시대를 여는 혁신 입력 프롬프트는 단순하게 했다.이번에 라마4 모델이 나왔던데, 이 부분에 대해서 자료조사를 하고, 블로그 글..

• format_list_bulleted AI
• · 2025. 4. 6.
• textsms

Meta의 Llama 4: 다중 모달 AI의 새로운 시대를 여는 혁신

Meta가 2025년 4월 5일, 차세대 AI 모델 시리즈인 Llama 4를 공개했습니다. 이번 출시는 AI 기술 발전에 있어 중요한 이정표가 될 것으로 보입니다. Llama 4는 네이티브 다중 모달 기능과 혁신적인 혼합 전문가(Mixture of Experts, MoE) 아키텍처를 갖춘 최초의 오픈 웨이트 모델로, AI 개발 생태계에 새로운 가능성을 제시합니다.이 글에서는 Llama 4의 주요 특징, 이전 모델과의 차이점, 그리고 AI 커뮤니티에 미치는 영향에 대해 자세히 살펴보겠습니다.Llama 4 모델 시리즈 소개Meta의 Llama 4는 Scout, Maverick, Behemoth 세 가지 모델로 구성되어 있으며, 각각 다른 크기와 성능 특성을 가지고 있습니다.Llama 4 Scout: 효율성과..

• format_list_bulleted AI
• · 2025. 4. 6.
• textsms

MCP(Model Context Protocol)란?

최근 인공지능(AI) 분야에서는 AI 모델이 외부 데이터 소스 및 소프트웨어와 효율적으로 상호작용할 수 있도록 돕는 MCP(Model Context Protocol)가 주목받고 있습니다. 이 글에서는 MCP의 개념, 기술적 구조, 기존 API 방식과의 차이점, 그리고 주요 활용 사례에 대해 살펴보겠습니다.MCP란 무엇인가?MCP는 대규모 언어 모델(LLM)이 외부 데이터와 시스템을 더 효과적으로 활용할 수 있도록 설계된 개방형 표준 프로토콜입니다. 기존에는 AI가 API(Application Programming Interface)를 통해 다른 프로그램과 상호작용할 수 있었지만, MCP는 이러한 기능을 더욱 직관적이고 유연하게 만들어줍니다. 예를 들어, AI가 단순히 “오늘 뉴욕의 날씨는 어떤가요?”라는..

• format_list_bulleted AI
• · 2025. 3. 23.
• textsms

vLLM과 Ollama 비교

AI 애플리케이션을 개발할 때, LLM(Large Language Model)의 성능과 활용도를 고려해야 한다.최근 경량 LLM 프레임워크로 주목받는 vLLM과 Ollama는 각기 다른 장점을 가지고 있어 사용 목적에 따라 적절한 선택이 필요하다.이를 비교하여 어떤 환경에서 어떤 프레임워크를 선택하는 것이 적합한지 살펴본다.vLLM과 Ollama란?vLLM SKYPILOT에서 개발한 GPU 기반 LLM 추론 최적화 프레임워크이다. 빠른 토큰 생성과 효율적인 메모리 관리가 특징이며, 대규모 AI 애플리케이션에 적합하다. PagedAttention 기술을 활용해 메모리를 최적화하고, PyTorch 및 TensorFlow와 쉽게 통합할 수 있다. 특히, 여러 개의 요청을 병렬 처리하여 추론 성능을 극대..

• format_list_bulleted AI
• · 2025. 2. 12.
• textsms

RHEL 8.8에서 DVD ISO 파일 마운트 및 로컬 레포지토리 설정

1. ISO 파일 마운트ISO 파일 준비ISO 파일 경로를 /root/rhel-8.8-x86_64-dvd.iso로 가정한다.마운트 디렉토리 생성아래 명령으로 마운트할 디렉토리를 생성한다.mkdir -p /mnt/rhel-8.8-dvdISO 파일 마운트ISO 파일을 마운트한다.mount -o loop /root/rhel-8.8-x86_64-dvd.iso /mnt/rhel-8.8-dvd마운트 확인다음 명령으로 BaseOS와 AppStream 디렉토리가 표시되는지 확인한다.ls /mnt/rhel-8.8-dvd출력에 BaseOS와 AppStream 디렉토리가 포함되어 있으면 정상이다. 2. 기존 레포지토리 비활성화 (선택)backup 디렉토리 생성기존 .repo 파일을 백업하기 위해 backup 디렉토리를 생성..

• format_list_bulleted 개발
• · 2024. 11. 28.
• textsms

DPO(Direct Preference Optimization)와 SFT(Supervised Fine-Tuning)의 차이점

대규모 언어 모델(LLM)을 개발하거나 기존 모델을 개선할 때, 주로 사용되는 학습 방식은 SFT(Supervised Fine-Tuning)와 DPO(Direct Preference Optimization)이다. 이 두 방법은 학습 목표와 접근 방식에서 큰 차이가 있으며, 각각의 장점과 단점을 고려하여 상황에 맞게 선택해야 한다. 이 글에서는 두 방법의 특징과 차이를 설명하고, 어떤 상황에서 각각의 방법이 적합한지 알아본다. SFT란 무엇인가?SFT(Supervised Fine-Tuning)는 지도 학습 방식을 기반으로 모델을 미세 조정하는 방법이다. 주어진 입력(Prompt)에 대한 "정답" 또는 "모범 응답" 데이터를 학습하여 모델이 특정 작업에서 더 나은 성능을 발휘하도록 만든다. 이 과정에서 모델..

• format_list_bulleted AI
• · 2024. 11. 27.
• textsms