모델 선택
모델 선택 전에 품질, 지연 시간, 비용 요구를 정합니다. 단일 벤치마크보다 자신의 예시로 후보를 비교합니다.
채팅과 도구 사용
채팅 앱은 메시지를 관리하고 외부 도구를 호출할 수 있습니다. 앱 코드에서 도구 인수를 검증하고 실패를 명확히 처리합니다.
RAG와 평가
RAG는 검색한 근거를 요청에 추가합니다. 검색 품질과 답변 품질을 따로 평가하며, 모델은 받지 못한 문서를 인용할 수 없다는 점을 확인합니다.
실습 과제
작은 문서 질의응답 시제품을 만들고 근거가 있는 질문, 없는 질문, 모호한 질문을 테스트합니다.
완료 체크리스트
- 세 가지 주제를 자신의 말로 설명합니다.
- 과제를 완료하고 결과물이나 설계 노트를 저장합니다.
- 경계 사례를 테스트하고 한 가지 한계를 기록합니다.