토픽

AI 신뢰성은 AI 시스템이 설명가능성·공정성·견고성·투명성·책임성 등을 갖추어 사람이 믿고 사용할 수 있는 상태를 의미하며, EU AI Act와 한국 AI 기본법은 위험 수준에 따라 차등 의무를 부과하는 위험 기반 규제를 채택함.

머신러닝 모델의 개발(ML)과 운영(Ops)을 통합하여 데이터 준비·학습·배포·모니터링·재학습 전 과정을 자동화하고 지속적으로 관리하는 방법론 및 체계임.

사용자 질의와 관련된 외부 지식을 검색(Retrieval)하여 프롬프트에 결합(Augmentation)한 뒤 LLM이 답변을 생성(Generation)하게 함으로써, 환각을 줄이고 최신·도메인 지식을 반영하는 기법임.

데이터를 중앙 서버로 모으지 않고 각 클라이언트(기기·기관)가 로컬 데이터로 모델을 학습한 뒤 모델 파라미터(가중치·기울기)만 서버에 전송·집계하여 전역 모델을 만드는 분산 기계학습 기법임.

순환(RNN)·합성곱 구조 없이 셀프 어텐션(Self-Attention)만으로 입력 시퀀스 내 토큰 간 관계를 병렬로 학습하는 인코더-디코더 기반 신경망 아키텍처로, 현대 대규모 언어모델(LLM)의 기반 구조임.