![]()
재귀적 자기개선(RSI, Recursive Self-Improvement)AI가 자신의 성능을 스스로 평가하고, 개선 방법을 찾아 적용한 뒤, 개선된 AI가 다시 자신을 개선하는 과정핵심 포인트① 자기평가(Self-Evaluation): AI가 자신의 답변이나 성능을 평가② 개선안 생성(Improvement Generation): 더 좋은 알고리즘, 프롬프트, 코드 탐색③ 자기수정(Self-Modification): 개선안을 실제 시스템에 적용④ 재검증(Validation): 개선된 시스템의 성능을 다시 평가개선 → 평가 → 재개선의 선순환 형성주요 매커니즘a. AI 모델b. 성능 평가c. 문제점 발견d. 개선 방법 생성e. 코드·알고리즘·학습방법 개선f. 새로운 AI 모델g. 성능 평가h. 반복
![]()
잭나이프(Jackknife) 기법통계에서 표본의 일부를 하나씩 제외하면서 통계량을 반복 계산하여, 추정량의 편향(Bias)과 분산(Variance)을 추정하는 재표본추출(Resampling) 기법동작원리예를 들어 데이터가 5개라고 가정: [10, 20, 30, 40, 50]각 데이터를 하나씩 제외하고 평균을 다시 계산10제외: 35 / 20제외: 32.5 / ...이렇게 n개의 새로운 표본을 만들어 통계량계산이를 Leave-One-Out(LOO) 방식이라고 함활용사례편향(Bias) → 추정값이 실제 값에서 얼마나 벗어나는가분산(Variance) → 표본에 따라 결과가 얼마나 흔들리는가
![]()
Memory as a Service(MaaS)메모리를 컴퓨팅 자원처럼 네트워크를 통해 필요할 때 제공하는 클라우드 서비스 모델[배경]서버별 DRAM 증설 비용 증가메모리 사용률이 평균 50~60% 수준AI 추론 및 학습 시 메모리 병목 심화[핵심기술]Memory Pooling: 여러 서버가 메모리 공유Memory Disaggregation: CPU와 메모리 분리CXL Memory Expansion: 메모리 확장RDMA: 초저지연 직접 통신소프트웨어 정의 메모리Composable Infrastructure: 필요한 자원을 조합해 시스템구성[활용분야]① 생성형 AI: 초거대 LLM 추론② AI 데이터센터: GPU 서버 간 메모리 공유③ 클라우드 서비스: 사용량에 따라 메모리를 탄력적으로 제공④ 인메모리 데이..
![]()
AI-BOM(AI Bill of Materials)AI 시스템을 구성하는 모든 요소를 목록화하고 추적하는 AI 구성 명세서[중요성]AI 공급망 관리보안 강화AI 규제 대응: AI RMF / ISO 42001, 23894[주요 항목]AI 모델: LLM, 비전 모델학습 데이터: 출처, 라이선스오픈소스: Python 패키지모델 버전: 버전, 업데이트 이력프롬프트: 시스템 프롬프트 및 설정AI 에이전트: 사용된 Agent 및 Tool추론 환경: GPU, NPU, 클라우드 환경보안: 취약점(CVE), SBOM 연계평가 결과: 정확도, 편향성, 안전성 테스트규제 정보: AI Act, ISO 등 준수 여부[AI-BOM 구조 예시]Foundation Model: GPTTraining Data: 공개/기업/합성 데이터O..
![]()
AI 퍼플티밍(AI Purple Teaming)[개념]생성형 AI와 AI 시스템의 보안·안전성을 검증하기 위해 공격자(Red Team)와 방어자(Blue Team)가 협력하여 취약점을 찾아 개선하는 활동참고. Purple은 Red Team과 Blue Team이 합쳐짐[AI 퍼플티밍 수행 과정]① AI 모델 구축② Red Team 공격 수행프롬프트 인젝션Jailbreak데이터 유출 시도편향 유도허위정보 생성③ 공격 결과 분석④ Blue Team 대응Guardrail 추가정책 수정모델 재학습필터 강화권한 제한⑤ 동일 공격 재실행⑥ 안전성 향상 여부 검증[Blue Team의 대응 방법]Prompt Guard 적용입력 필터링출력 검증RAG 접근 권한 제한모델 재학습(Fine-tuning)Human-in-the-..
![]()
ISO/IEC 23894:2023 (AI 위험관리 가이드)AI 시스템의 위험을 체계적으로 식별, 평가, 대응 및 모니터링하기 위한 국제 표준필요성데이터 편향 / 설명 가능성 부족환각 / 적대적 공격개인정보 유출 / 윤리 문제프로세스1.커뮤니케이션 및 협의2.범위 및 기준 설정: 조직 목표, AI 특성 파악3.위험 평가위험 식별: 데이터 오류, 모델 편향, 보안 위협 등위험 분석: 위험 원인, 취약점, 발생 가능성 분석위험 평가: 수용 가능한 위험 수준 판단4.위험 대응: 회피, 완화, 분담, 수용5.모니터링 및 검토 / 기록 및 보고다른 AI 표준과의 관계ISO 31000(위험관리 원칙): 모든 분야의 일반적인 위험관리 원칙▼ISO 23894(AI 위험관리 방법): AI에 특화된 위험관리 방법론▼ISO ..
![]()
데이터 레지던스 (Data Residency)기업이나 개인의 데이터가 저장 및 처리되는 물리적·지리적 위치이슈사내 문서가 해외로 전송되는 문제개인정보 국외 이전 이슈국가 안보 관련 데이터 유출 데이터는 저장된 국가의 법률과 규제를 받음 배경한국에 저장 → 한국 개인정보보호법(PIPA) 적용유럽에 저장 → GDPR 적용미국에 저장 → 미국 정부의 법률 적용 가능 기업은 개인정보, 금융정보, 국가기밀 등을 보호하기 위해 데이터 저장 위치를 중요하게 고려 대응 정책들소버린 AI(Sovereign AI)소버린 클라우드(Sovereign Cloud)국가 AI 인프라국가 데이터 스페이스(Data Space)
![]()
플래시 어텐션 (FlashAttention)AI 모델의 어텐션 연산을 더 빠르고 효율적으로 수행하는 기술필요성입력 길이가 길어질수록 메모리 사용량이 급격히 증가예를 들어, 1,000개 토큰 → 약 100만 번 계산10,000개 토큰 → 약 1억 번 계산즉, 문서가 길어질수록 GPU 메모리 병목이 발생특징속도 향상: 학습 속도 2~4배 향상메모리 절감: GPU 메모리 사용량 최대 10배 감소긴 컨텍스트 지원: 32K/128K/1M 토큰 등 초장문 처리 가능매커니즘 비표a.기존 방식: 전체 Attention Matrix 생성→ GPU 메모리에 저장→ 계산b.플래시 어텐션은: 작은 블록 단위로 분할→ 계산 즉시 처리→ 중간 결과 저장 최소화비유 예시a.기존 Attention: 책 전체를 복사해서 책상에 펼쳐 ..
![]()
패널레벨패키징(PLP, Panel Level Packaging)반도체 칩을 기존의 원형 웨이퍼(Wafer) 대신 사각형 패널(Panel) 위에서 패키징하는 첨단 반도체 후공정 기술등장 배경최근 AI 시대에 들어서며 고성능 칩 패키징 병목기존 패키징은 보통 원형 웨이퍼(300mm) 기준으로 작업하지만 원형은 공간 낭비가 존재PLP는 대형 직사각형 패널(예: 510×515mm, 600×600mm 등)을 사용더 많은 칩을 동시에 배치할 수 있음핵심 효과1.생산성 증가한 번에 더 많은 칩 처리 가능AI 반도체·HBM용 고급 패키징 수요 대응2.원가 절감면적 활용 효율 증가장기적으로 패키징 단가 하락 가능3.대형·고성능 패키지에 유리AI GPU, 서버칩, 자동차 반도체 등 고집적 패키징 적합
![]()
데이터 스페이스(Data Space)기업·기관·개인이 서로 다른 시스템에 저장된 데이터를 안전하게 공유하고 활용할 수 있도록 만든 데이터 협업 생태계🚀 등장배경데이터가 기업 내부에 고립됨(Silo)기관마다 형식이 다름데이터 주권(Data Sovereignty) 부족🌟 특징데이터 주권: 원본 소유자가 통제분산형 구조: 중앙 집중 아님신뢰 기반 공유: 정책 기반 접근표준화: 상호운용성 확보🔥 구조[기업A 데이터] - [커넥터] - [데이터 스페이스] - [데이터 카탈로그] - [기업B AI 서비스]💡 핵심 구성요소데이터 제공자(Data Provider)데이터 소비자(Data Consumer)데이터 커넥터데이터 카탈로그인증/권한 관리데이터 정책 엔진👉 대표 사례유럽의 Gaia-X: 유럽이 추진 중인 ..
![]()
에이전틱 코딩(Agentic Coding)AI가 스스로 목표를 이해하고, 계획을 세우고, 코드를 작성·실행·수정·검증까지 반복 수행하는 개발 방식🚀 핵심 특징목표 지향계획 수립도구 활용자기 검증멀티 에이전트🌟 대표 기술 스택LLM 기반: OpenAI GPT / Anthropic Claude / Google Gemini에이전트 프레임워크: LangChain / LangGraph / AutoGen / CrewAI에이전틱 IDE/플랫폼: Cursor / Windsurf💡 에이전틱 코딩 프로세스요구사항 분석: 추천 알고리즘 선택 / 데이터 구조 파악설계: DB 스키마 생성 / API 구조 설계구현: Python 백엔드 작성 / React UI 생성실행: 서버 실행 / 테스트 데이터 생성검증: 오류 로그 분..
![]()
Affective AI사람의 감정, 기분, 의도를 인식·분석·반응하는 인공지능🚀 특징지능에 공감을 추가“무슨 말을 했는가?”만 이해하는 것이 아니라,“어떤 감정으로 말했는가?”까지 이해🌟 핵심 동작 구조감정 데이터 수집: AI가 사람의 상태를 관찰(e.g.표정/말의 속도/심박수/생체신호)감정 분석: 머신러닝·딥러닝 모델이 감정을 추론(e.g.행복/슬픔/분노/놀람/불안)AI 반응 생성: 감정 상태에 맞춰 대응(e.g.우울 사용자 → 공감형 대화)💡 주요 기술 요소Computer Vision: 얼굴 표정 분석Speech Emotion Recognition: 음성 감정 분석NLP/Sentiment Analysis: 텍스트 감성 분석Multimodal AI: 음성·표정·텍스트 통합 분석Physiologic..
![]()
소프트웨어 정의 로봇(SDR, Software Defined Robot)로봇의 기능과 동작을 하드웨어 중심이 아니라 소프트웨어 중심으로 제어·업데이트하는 로봇 구조💾 등장 배경특정 제조사 종속 구조AI 기능 추가 어려움환경 변화 대응 한계⚙️ 특징하드웨어와 소프트웨어 분리: 기능을 소프트웨어 앱처럼 추가/변경클라우드 기반 업데이트: OTA(Over The Air) 업데이트를 지원⚡ 아키텍처 구조[ 클라우드 AI 플랫폼 ]↓[ 로봇 운영체제(ROS2 등) ]↓[ 미들웨어/제어 SW ]↓[ 센서·모터·카메라 ]↓[ 실제 로봇 동작 ]🔥 핵심 기술로봇 운영체제(ROS/ROS2): NVIDIA Isaac디지털 트윈: 실제 로봇을 가상환경에서 먼저 학습Edge AI: 클라우드가 아닌 로봇 내부에서 AI 추론 수행
![]()
AI-Ready DataAI가 바로 학습·추론·분석에 사용할 수 있도록 품질과 구조가 정비된 데이터🔥 중요성Garbage In, Garbage Out생성형 AI·Physical AI·Agentic AI 시대에는AI 레디 데이터 확보가 기업 경쟁력의 핵심💾 핵심 조건정확성: 오류·중복·누락이 적어야 함구조화: AI가 이해하기 쉬운 형태여야 함라벨링: AI 학습 목적에 맞는 정답 정보 필요일관성: 데이터 형식과 기준이 동일해야 함최신성: 오래된 데이터만 있으면 AI 정확도가 급격히 떨어짐⚡ 구축 절차1.데이터 수집2.정제(Cleansing)3.라벨링(Labeling)4.표준화(Standardization)5.벡터화/구조화6. AI 학습·추론 활용⚙️ 분야별 예시생성형 AI: OpenAI GPT 학습 데이..
![]()
배터리 백업 유닛(BBU, Battery Backup Unit)전원 장애 시에도 시스템이 중단되지 않도록 임시로 전력을 공급하는 장치⚡ 필요성갑작스러운 정전 발생메모리에 있던 데이터 손실 위험시스템 장애 / 데이터 손상🔥 대표 사용처서버 / 데이터센터: RAID 컨트롤러 캐시 보호스토리지 시스템: 캐시 데이터 유실 방지네트워크 장비: 라우터/스위치 순간 다운 방지💾 동작 방식1.정상 전원 공급 상태2.정전 발생3.BBU 즉시 전력 공급4.시스템이 데이터를 디스크에 저장하거나 안전하게 종료5.데이터 손실 방지 완료
![]()
AI 워싱(AI Washing)실제로는 AI 기술이 거의 없거나 미미한데도, 마치 AI를 활용하는 것처럼 포장하는 행위⚙️ 발생 원인1.시장 요인생성형 AI 열풍투자자들의 'AI 기업 선호'2.기업 내부 요인기술 경쟁력 부족마케팅 부서 주도 브랜딩⚠️ 문제점✔ 투자 관점: 기업 가치 왜곡✔ 산업 관점: 기술 신뢰도 하락✔ 사용자 관점: 기대 대비 성능 미달🧠 진짜 AI vs AI 워싱 구분법1.진짜 AI 특징머신러닝 / 딥러닝 기반데이터 기반 학습 및 성능 개선모델 재학습 가능 (continuous learning)예측/판단 기능 존재AI 워싱 특징IF-ELSE 규칙 기반단순 통계/룰 엔진“AI”라는 단어만 강조기술 설명이 모호함📊 실제 사례 유형고객센터 챗봇 → 사실상 FAQ 자동응답추천 시스템 →..
![]()
문샷(K-Moonshot) 프로젝트정부(과기정통부)가 추진하는 AI로 국가 난제를 해결하는 초대형 국가 R&D 프로젝트🚀 추진 배경글로벌 기술패권 경쟁 (AI, 반도체, 바이오 등)기존 R&D 방식으로는 속도 한계AI 활용하면 연구 생산성 폭발 가능👉 AI 중심 R&D로 패러다임 전환🌟 핵심 목표2030년까지 연구 생산성 2배2030년 논문 영향력 세계 5위2035년까지 8대 분야 12대 국가 미션 해결💡 대표 해결 분야신약 개발 (AI 신약)차세대 반도체청정에너지 / SMR우주·양자기술휴머노이드 / 피지컬 AI👉 산업 판도를 바꾸는 문제 위주🇰🇷 추진 구조① AI 자원 총집결국가 AI 플랫폼 구축② 미션 중심 R&D기존: 과제 중심변경: 미션 중심③ PD 책임제각 미션마다 책임자가 전권 관..
![]()
SaaS(Software as a Service)의 위기서비스형 소프트웨어 기업들이 자율형 AI 에이전트로 인해 발생하는비즈니스 모델의 근본적인 붕괴 현상👉 사스포칼립스(SaaS+Apocalypse) SaaS의 종말 이라고도 함📉 배경26년 1월, 앤트로픽이 자율형 AI 에이전트 '클로드 코워크' 공개글로벌 SW기업들의 시가총액 단기간 1조 달러 증발🌊 주요 원인성장 둔화(시장 포화)과거 SaaS는 '구독 모델 + 클라우드 전환' 성장대부분 기업이 이미 SaaS 도입AI 에이전트의 파괴적 혁신과거: 기능 중심 SaaS (마케팅툴)현재: AI가 기능 대체재무적 기준의 변화'성장'보다 '수익성' 요구🚀 극복 방안AI-Native로 변신: AI를 '기능'이 아니라 '코어'로 설계Agentic SaaS:..
![]()
테스트 하네스(Test Harness)소프트웨어나 하드웨어를 자동으로 테스트하기 위한 환경과 도구🎯 필요성✔ 자동화: 반복 테스트를 사람 없이 수행✔ 독립성: 외부 시스템 없이도 테스트 가능✔ 재현성: 동일 조건에서 항상 같은 테스트 수행✅ 핵심 구성 요소테스트 실행기 (Test Driver)테스트를 시작하고 제어하는 역할예: 함수 호출, API 요청 실행테스트 스텁/목(Mock & Stub)외부 시스템을 대신하는 가짜 객체실제 DB나 서버 없이도 테스트 가능테스트 데이터 & 결과 검증입력 데이터 준비예상 결과와 실제 결과 비교 (Assertion)🧠 자동차 테스트를 예시자동차 = 테스트 대상운전자 = 테스트 실행기가짜 도로 환경 = Mock/Stubs측정 장비 = 결과 검증💻 대표 도구Java: ..
![]()
하네스 엔지니어링(Harness Engineering)AI 모델이 아니라, AI가 일하는 ‘환경(하네스)’을 설계하는 엔지니어링🔹 쉬운 비유AI = 말(강력한 엔진)하네스 = 고삐(환경 제어 장치)🔹 등장 배경기존 방식: 프롬프트 잘 쓰기 (Prompt Engineering)문제점: a. 결과가 매번 달라짐 b. 대규모 개발에는 불안정그래서, 프롬프트 → 시스템 설계(하네스)로 진화👉 잘 설계된 환경이 있어야 제대로 성능 발휘🔹 핵심 구조Agent = Model + HarnessModel → AI 지능Harness → 실행 환경🔹 프로세스컨텍스트 설계AI가 참고할 문서/데이터 구조화제약 조건(Guardrails)아키텍처 규칙, 코딩 규칙 강제도구 연결Git, DB, API, 테스트 도구 등검증 ..
