AI 용어사전

뉴스·계약서·제품 문서에 등장하는 AI 용어를 정확하게 정의합니다.

#

검색 증강 생성 (RAG): 검색 증강 생성은 질문과 관련된 대목을 문서 모음에서 찾아 모델의 프롬프트에 넣고, 그것으로 답하게 하는 방식이다. 모델의 가중치는 그대로이고 지식은 요청 시점에 컨텍스트로 도착한다. 그래서 문서를 고치면 다음 답이 곧바로 바뀐다.
대규모 언어모델 (LLM): 대규모 언어모델은 수십억 개의 파라미터를 가진 신경망으로, 대량의 텍스트에서 다음 토큰을 예측하도록 학습된다. 그 단일 목표만으로 충분한 규모에 이르면 질의응답·코드 작성·번역·요약 능력이 나타난다. 어느 것도 직접 학습시킨 것이 아니다.
멀티모달 모델: 멀티모달 모델은 같은 요청에서 둘 이상의 입력 종류를 처리한다. 가장 흔한 것은 텍스트와 이미지이며 오디오·영상도 늘고 있다. 텍스트가 아닌 입력도 토큰과 같은 내부 표현으로 변환되므로, 이미지 한 장이 컨텍스트 윈도우의 상당 부분을 먹을 수 있다.
벤치마크: 벤치마크는 정답이 알려진 고정된 과제 묶음으로, 모델의 점수를 매겨 비교하는 데 쓴다. 공개 벤치마크는 대략의 능력 순위를 주지만, 최적화의 표적이 되고, 학습 데이터 오염에 취약하며, 실무보다 짧고 명확한 문제 모양을 하고 있다.
양자화 (Quantisation): 양자화는 모델 가중치의 수치 정밀도를 낮추는 것이다. 예를 들어 16비트 부동소수점을 8비트나 4비트 정수로 바꾼다. 모델이 차지하는 메모리가 줄고 실행이 빨라진다. 품질 손실은 8비트에서 작고, 4비트에서는 감지되지만 대개 감수할 만한 수준이다.
오픈 웨이트: 오픈 웨이트는 학습된 파라미터 파일이 공개돼 자체 하드웨어에서 실행·검사·파인튜닝할 수 있다는 뜻이다. 법적으로 무엇을 할 수 있는지는 붙어 있는 라이선스가 정하며, 많은 오픈 웨이트 모델이 오픈소스 정의를 충족하지 않는 자체 라이선스로 배포된다.
임베딩: 임베딩은 텍스트·이미지·오디오를 나타내기 위해 모델이 만들어내는 고정 길이 숫자 벡터다. 의미가 비슷한 항목이 그 벡터 공간에서 가까이 놓이며, 이 성질이 의미 기반 검색·군집화·추천을 가능하게 한다.
전문가 혼합 (MoE): 전문가 혼합은 신경망 일부를 여러 개의 병렬 하위 신경망으로 나누고, 라우터가 토큰마다 그중 몇 개만 거치게 하는 구조다. 전체 파라미터 수는 크게 유지하면서 토큰당 연산량은 작게 유지한다. 여러 초대형 모델이 크기에 비해 싸게 서빙되는 이유다.
정렬 (Alignment): 정렬은 학습된 모델의 행동을 다듬어 지시를 따르고, 아는 한 사실대로 말하고, 해로운 요청을 거절하게 만드는 과정이다. 사전학습 이후에 이뤄지며, 주로 시연 데이터 지도 파인튜닝과 인간·AI 피드백 기반 강화학습으로 한다.
증류 (Distillation): 증류는 큰 «교사» 모델의 출력으로 작은 «학생» 모델을 학습시켜, 훨씬 낮은 비용으로 교사의 행동 상당 부분을 재현하게 하는 방법이다. 소형 모델이 빠르게 좋아진 주된 이유이며, 많은 상용 API 약관이 이를 제한하거나 금지한다.
추론 (Inference): 추론은 학습된 모델에 새 입력을 넣어 출력을 만드는 행위이며, 모델 자체를 만들어내는 학습과 대비된다. 학습은 한 번의 비용이고 추론은 요청마다 반복된다. 널리 쓰이는 모델의 생애로 보면 추론이 지출과 에너지 모두를 지배한다.
컨텍스트 윈도우: 컨텍스트 윈도우는 모델이 한 번의 요청에서 처리할 수 있는 최대 토큰 수다. 시스템 프롬프트, 도구 정의, 대화 이력, 첨부 문서, 그리고 생성되는 출력이 모두 그 안에 들어간다. 윈도우 밖의 것은 모델에게 존재하지 않는다.
토큰: 토큰은 언어모델이 처리하는 최소 단위로, 토크나이저가 만들어내는 흔한 단어 조각이다. 영어에서 토큰 하나는 평균 네 글자, 약 0.75단어다. 컨텍스트 한도와 API 가격은 모두 단어가 아니라 토큰으로 센다.
파인튜닝: 파인튜닝은 사전학습된 모델을 더 작은 과제별 데이터로 이어 학습시켜, 특정 형식·말투·좁은 기술을 안정적으로 내놓게 만드는 일이다. 사실을 가르치는 데는 나쁜 방법이다. 사실은 바뀌고, 요청 시점에 검색으로 공급하는 편이 낫다.
프롬프트 인젝션: 프롬프트 인젝션은 모델이 처리하는 콘텐츠 — 웹페이지, 메일, 문서, 코드 주석 — 안에 지시를 심어, 모델이 그것을 운영자의 지시처럼 따르게 만드는 공격이다. 모델에게는 신뢰할 지시와 읽으라고 준 텍스트를 구분할 확실한 방법이 없다.
환각 (Hallucination): 환각은 유창하고 확신에 차 있지만 사실이 아니거나 근거가 없는 출력이다. 없는 인용, 존재하지 않는 함수, 출처 없는 그럴듯한 숫자 같은 것들이다. 모델이 통계적으로 그럴듯한 이어짐을 생성하기 때문이며, 그럴듯한 주장이 곧 참인 주장은 아니다.

A

AI 에이전트: AI 에이전트는 호출 가능한 도구에 연결되고 단일 질문이 아니라 목표를 받은 언어모델로, 도구를 부르고 결과를 읽고 다음 단계를 정하는 루프를 목표 달성이나 한도 도달까지 반복한다. 챗봇과 구분되는 것은 그 루프다.

M

Model Context Protocol (MCP): Model Context Protocol 은 AI 애플리케이션이 외부 도구·리소스·프롬프트를 발견하고 호출하는 방식을 정의한 개방 표준이다. 서버가 한 번 구현하면 호환되는 어떤 클라이언트든 쓸 수 있어, 제품마다 만들던 맞춤 커넥터를 대체한다.