전체 글

AI 모델 양자화가 무엇인지 FP32·FP16·INT8·INT4의 차이부터 Scale, Zero Point, PTQ, QAT, GPTQ, AWQ, SmoothQuant, NF4, GGUF, KV Cache 양자화와 실제 구현 방법까지 내부 연산 수준에서 설명합니다. AI 모델 양자화(Quantization)는 단순히 FP16 모델을 INT4 파일로 변환하는 작업이 아닙니다. 모델의 Weight와 Activation을 더 적은 비트로 표현하면서 Scale, Zero Point, Block 또는 Group 단위의 양자화 파라미터를 적용하고, 실제 추론 시 GPU·CPU가 이를 효율적으로 계산하도록 만드는 전체 최적화 기술입니다. 특히 LLM에서는 INT8, INT4뿐 아니라 GPTQ, AWQ, Smoot..

Prompt Engineering, Context Engineering, Agentic Engineering, Harness Engineering은 서로 경쟁하는 개념이 아니라 AI 시스템을 구성하는 서로 다른 설계 계층입니다. Prompt Engineering이 모델에게 무엇을 지시할지를 설계한다면, Context Engineering은 모델이 판단할 때 어떤 정보를 볼 수 있게 할지를 설계합니다. Agentic Engineering은 모델이 도구를 사용하며 여러 단계에 걸쳐 목표를 수행하도록 만들고, Harness Engineering은 이러한 Agent가 실제 시스템에서 안전하고 반복 가능하게 실행되도록 주변 실행 환경을 설계합니다. 특히 AI가 단순한 질의응답을 넘어 파일을 읽고, API를 호출..

AI Agent가 Shell, 파일, API, 데이터베이스와 운영 환경을 직접 제어할 때 필요한 Harness 보안 구조를 상세히 설명합니다. 최소 권한, Sandbox, 위험 명령 통제, Secret 보호, Human Approval, Audit Log부터 Agent Security Gateway 설계와 새로운 보안 아이디어까지 정리합니다. AI Agent가 단순히 질문에 답하는 단계를 넘어 파일을 수정하고, Shell 명령을 실행하고, API와 데이터베이스를 호출하기 시작하면 보안의 중심도 달라집니다. 기존 LLM 서비스에서는 입력과 출력의 안전성이 중요했다면, Agent 환경에서는 AI가 어떤 행동을 할 수 있는가, 어떤 자원에 접근할 수 있는가, 누가 그 행동을 승인했는가까지 통제해야 합니다. 이..

하네스 엔지니어링의 개념부터 Prompt Engineering·Context Engineering과의 차이, AI 코딩 에이전트 구조, AGENTS.md, 도구·검증·상태 관리·피드백 루프 설계 방법까지 정리합니다. 하네스 엔지니어링(Harness Engineering)은 AI 모델 자체를 개선하는 것이 아니라, AI 에이전트가 실제 업무를 안정적으로 수행할 수 있도록 모델 주변의 실행 환경을 설계하는 엔지니어링 방식입니다. 프롬프트만 잘 작성한다고 AI 에이전트가 장시간 안정적으로 코드를 개발하거나 서비스를 운영할 수 있는 것은 아닙니다. 에이전트가 어떤 문서를 읽고, 어떤 도구를 사용할 수 있으며, 어떤 명령은 실행할 수 없고, 작업 결과를 어떻게 테스트하고 다시 수정할 것인지까지 함께 설계해야..

RAG 기반 sLLM 시스템은 문서를 모델에 모두 학습시키는 방식이 아니라, 사용자의 질문과 관련된 정보를 먼저 검색한 뒤 검색 결과를 sLLM의 Context에 넣어 답변을 생성하는 구조입니다. 전체 과정은 문서 수집 → Chunking → Embedding → Vector DB → Retrieval → Context 구성 → Prompt 생성 → sLLM 추론 순서로 이해하면 쉽습니다. 이 글에서는 2026년 8월 16일 공식 문서 확인 기준으로 Python, Sentence Transformers, FAISS, vLLM을 이용해 RAG와 sLLM을 연결하는 방법을 살펴봅니다. 구조도는 Mermaid JavaScript가 HTML 내부에서 직접 SVG로 생성하도록 구성했습니다.핵심 요약: RAG에서 ..

AI 공부를 하다 보면 자주 등장하는 CUDA가 무엇인지 쉽게 설명합니다. CPU와 GPU의 차이, CUDA가 AI 학습을 빠르게 만드는 원리, CUDA Core·cuDNN·PyTorch와의 관계, 버전 확인 방법까지 정리했습니다. CUDA는 NVIDIA GPU를 그래픽 처리뿐 아니라 AI 학습, 과학 계산, 데이터 분석 같은 대규모 연산에 사용할 수 있도록 만든 병렬 컴퓨팅 플랫폼이자 프로그래밍 모델입니다. AI 관련 자료에서 NVIDIA GPU와 함께 CUDA라는 단어가 계속 등장하는 이유도 여기에 있습니다. PyTorch 같은 AI 프레임워크가 수많은 행렬 연산을 GPU에서 처리할 때 CUDA 생태계를 활용하기 때문입니다. 2026년 8월 7일 NVIDIA 공식 문서 확인 기준 CUDA Toolk..

⭐ 스타 서바이버 ⭐WASD 이동 · Space/클릭 기초공격 · 스킬 수집 · 50 스테이지 생존!⛶ 전체화면🛒 상점 (B)⏸ 일시정지🔄 재시작📊 상태⚔️ 보유 스킬 (최대 6)스킬 없음🏆 랭킹 TOP 10

⭐ 스타 디펜스 ⭐🧮 보너스 골드 (수학)게임 중에만 풀 수 있습니다정답 제출⛶ 전체화면×타워⬆ 업그레이드💰 판매장식물🪓 제거🛡️ 스타 디펜스100개의 스테이지와 다양한 맵에서몬스터와 보스를 막아내세요!난이도에 따라 골드·점수·맵·경로가 달라집니다.난이도 선택 · 하=쉬움 / 중=보통 / 상=어려움하쉬움 · 560G · 0.65x중보통 · 380G · 1.0x상어려움 · 340G · 1.75x게임 시작📊 상태🏆 세션 랭킹▶ 웨이브 시작⏸ 일시정지⏩ x2 속도🔄 재시작🏰 타워 선택맵 빈 공간 클릭 → 배치 · 나무 클릭 → 제거(골드)배치된 타워 클릭 → 캔버스 옆 업그레이드 UI웨이브마다 몬스터 30마리 · 한 종류씩 줄줄이 등장스테이지 클리어 시 자동 진행

AI 모델의 규모와 학습 데이터가 커지면서 한 대의 컴퓨터만으로 모델을 학습하는 방식에는 한계가 생기고 있습니다. 이를 해결하기 위해 여러 컴퓨터와 장치를 함께 사용하는 분산학습이 활용되고 있으며, 개인정보와 기업 데이터를 중앙 서버에 모으지 않고 학습하기 위한 연합학습도 주목받고 있습니다. 두 기술은 모두 여러 장치가 함께 AI 모델을 학습한다는 공통점이 있습니다. 하지만 데이터를 어디에 저장하고, 무엇을 서버와 공유하며, 어떤 목적으로 사용하는지에는 큰 차이가 있습니다. 핵심 요약분산학습은 여러 컴퓨터의 연산 자원을 활용해 학습 속도와 처리 규모를 높이는 기술입니다. 연합학습은 데이터를 각 기관이나 사용자 장치에 보관한 채 모델 학습 결과만 공유하는 분산학습 방식입니다. 1. 분산학습이란 무엇인가?..

🚨 실전 리눅스 서버 방어 시뮬레이터 관리자님, 서버에 침입 흔적이 발견되었습니다. 단순 로그 확인(1단계)부터 악성 유저 삭제, 웹셸 제거(고급 단계)까지 난이도가 점차 상승합니다. 아래 [터미널 가동 및 방어 시작] 버튼을 누르면 화면이 켜집니다. 문제 상황에 맞는 명령어를 입력하고 Enter를 누르세요. 정답을 맞혀야만 다음 난이도의 문제가 터미널에 출력됩니다. 🖥️ 터미널 가동 및 방어 시작 🔴 INCIDENT RESPON..

SOC-7 NETWORK DEFENSE실시간 위협 대응 시뮬레이터 Wave0 / 10 Budget150 Integrity100% Score0 SOC-7 NETWORK DEFENSE 외부 트래픽이 사내망 코어 서버로 침투를 시도합니다. 회선 슬롯에 방어 모듈을 배치하여 악성 패킷이 코어에 도달하기 전에 차단하세요. 방어 모듈은 회선(경로) 위와 다른 모듈과 너무 가까운 곳을 제외하면 맵 어디에나 자유롭게 설치할 수 있습니다. SIMULATION 시작 SYSTEM BREACH 코어 서버 무결성이 0%에 도달했습니다. 생존 웨이브: 0 · 최종 점수: 0 ..

SBOM이 무엇인지, 왜 필요한지, CycloneDX와 SPDX 차이, 필수 구성 항목, 생성 도구, CI/CD 자동화, 취약점·라이선스 관리와 VEX 활용 방법까지 처음부터 정리합니다. SBOM은 소프트웨어를 구성하는 라이브러리, 패키지, 모듈과 의존 관계를 기계가 읽을 수 있는 형식으로 기록한 소프트웨어 구성명세서입니다. SBOM이 있으면 새로운 보안 취약점이 공개되었을 때 해당 구성 요소를 사용하는 제품과 서비스를 빠르게 찾아낼 수 있습니다. 오픈소스 라이선스 검토, 공급망 공격 대응, 패치 우선순위 결정과 소프트웨어 구매 검증에도 활용할 수 있습니다. 이 글은 2026년 7월 24일 기준 CISA, NTIA, KISA, CycloneDX, SPDX와 NIST의 공식 자료를 바탕으로 SBOM의 ..

AIBOM이 무엇인지, SBOM·Model Card와의 차이, CycloneDX·SPDX 표준, 모델·데이터·프롬프트·에이전트 구성 항목, 생성·검증·CI/CD 운영 방법을 처음부터 정리합니다. AIBOM은 AI 시스템을 구성하는 모델, 데이터셋, 소프트웨어, 프롬프트, 외부 서비스와 실행 환경을 구조화된 형식으로 기록한 AI 구성명세서입니다. 일반적인 SBOM이 소프트웨어 라이브러리와 패키지를 추적한다면, AIBOM은 AI에 필요한 모델 출처, 학습 데이터 계보, 파인튜닝 방법, 성능 평가, 제한사항, 에이전트 도구와 안전장치까지 관리 범위를 확장합니다. 이 글은 2026년 7월 23일 기준 CycloneDX 1.7, SPDX 3.0 계열, OWASP AIBOM 자료를 바탕으로 AIBOM의 개념부터 ..

AI ker, Capability Manifest, 위험 등급, 사용자 승인, 생체인증, 실행 영수증, 프롬프트 인젝션과 앱 사칭 대응까지 상세히 설명합니다. 앞으로 AI Agent가 스마트폰 앱을 화면 자동화 방식으로 조작하는 것이 아니라, 앱이 공개한 기능을 표준 프로토콜로 발견하고 안전하게 실행하는 구조가 필요해질 가능성이 큽니다. 언젠가는 이런 프로토콜이 필요하는 날이 오지 않을까요? 현재 Android와 iOS에는 앱 기능을 음성 비서나 시스템 기능에 노출하는 기술이 존재합니다. 그러나 운영체제마다 선언 방식, 권한 모델, 실행 결과와 사용자 승인 방식이 다르기 때문에 여러 AI Agent와 여러 앱이 동일한 방법으로 통신하는 크로스플랫폼 규격은 아직 충분히 정립되지 않았습니다. 이 글에서..

AI Agent가 이메일, 일정, 결재, CRM, 금융, 관리 시스템 등 실제 애플리케이션을 안전하게 실행하기 위한 Agent-to-App Protocol, A2App 설계안을 제안합니다. Agent 신원, 사용자 위임, 세부 권한, 실행 전 검증, 사람 승인, 재실행 방지, 감사 영수증과 위협 대응 방안을 표준 규격 형태로 정리했습니다. 이 글에서 제안하는 A2App는 현재 존재하는 공식 표준이 아니라, 미래의 AI Agent-to-Application 연결을 위해 설계한 독립적인 프로토콜 제안입니다. AI Agent가 단순히 정보를 조회하는 수준을 넘어 이메일을 발송하고, 일정을 생성하고, 결재를 올리고, 고객 정보를 수정하고, 비용을 지출하기 시작하면 일반적인 API 호출만으로는 충분하지 않습니다..