본문 바로가기

전체 글121

Redis, Kafka Deserialize with FQCN Redis 나 Kafka 의 de/serialized 할 때, 객체의 패키지명(Fully Qualified Class Name) 이 직렬화 데이터(본문 혹은 Kafka 헤더)에 포함되는 경우가 있다. 역직렬화할 때, 그 대상 클래스를 알아야하기 때문에 객체의 FQCN 을 메세지에 포함하는 방식이다. Kafka 의 경우 DefaultKafkaHeaderMapper 사용 시 헤더에 __TypeId__키로 클래스명을 저장한다. Redis 의 경우에는 GenericJackson2JsonRedisSerializer 사용 시 @class 를 속성으로 포함한다. FQCN 기반으로 클래스 로딩을 시도하며, 해당 클래스가 없으면 오류가 발생한다. 나는 이 방식은 위험하다고 생각했다. 패키지명이 변경되면 역직렬화시 오류가.. 2025. 5. 25.
Agent 실험 2 - 졌잘싸 with Agent Test 프롬프트Agent 를 어떻게 발전시킬 수 있을까?Agent의 품질을 확보하려면, 현재 Agent 품질이 어느정도 보장되는지 먼저 확인해야한다고 생각했다. LangStudio 의 DataSet을 이용하면, Agent 를 쉽게 평가할 수 있다. LangStudio 의 DataSet?DataSet 의 구성은 입력과 출력으로 이루어져있다. 각각 TDD 의 given 과 then 이라고 생각하면 된다. LangStudio 에 DataSet 을 등록해놓은 후, Prompt 버전이 변경될 때마다 테스트를 돌리면 된다. 테스트 결과를 수집하고, 품질 메트릭으로 평가를 자동화할 수도 있고, 이전 실행이나 버전과 비교할 수 있다. 내가 이전 포스팅해서 진행했던 프롬프트 수정 → 평가 → 수정 → 평가의 과정이 덜 수고.. 2025. 5. 15.
Agent 실험 1. 프롬프트 설계 백문이 불여일견. agent를 알려면 직접 구현해봐야겠다고 생각했다. 작은 에이전트지만, 구현하면서 느꼈던 점을 정리해보려고한다. agent의 똑똑함은 프롬프트와 직결된다. 에이전트 구현은 코드 구현과 달랐다. 단순히 명령어를 나열하는 방식의 '이걸 해줘' 가 아니라, 모델이 어떤 관점으로 생각을 시작하고 어떤 기준으로 판단할 것인지, 어떤 방식으로 답을 완성해나가야하는지에 대한 룰을 설계해야했다. 말 그대로 design 에 가까웠다. 왜 이런 생각을 하게 되었을까. 입력한 키워드를 통한 책 추천 에이전트를 작게 만들어보았다. 프롬프트는 다음과 같이 작성해두었다. 간단히 에이전트의 역할, 규칙을 가이드했다. Before 프롬프트 더보기prompt = f"""너는 상황에 맞춰 글의 톤과 스타일을 조정하는 .. 2025. 4. 27.
Prompt With Engineering AI 서비스를 만들 때, 개발자는 어디까지 개입할 수 있을까? AI 는 어느 부분에서 부족할까? 소설을 추천하여 매일 메일링을 해주는 서비스가 있다고 치자. 사용자 연령에 따라 소설 추천이 달라져야 할 수도, 번역판이 존재하지 않는다면 원작을 추천해야 할 수도 있다. AI 가 적재적소의 답변을 하도록 가이드를 줘야한다. 그게 프롬프트 Prompt 다.프롬프트는 LLM 을 사용할 때 입력으로 주어지는 명령이나 질문을 뜻한다. 프롬프트는 어떻게 가져가냐에 따라 응답 품질이 아예 달라지기 때문에 매우 매우 중요하다. 지금까지 살펴본 DL 의 주요 개념과 프롬프트는 어떻게 연결되는지 궁리해보았다. 연결이 조금 더 복잡해졌지만, 연두색만 집중해서 살펴보면된다. LLM 은 DL 의 Transformer 아키텍.. 2025. 3. 21.
ChainOfThought "AI" ChainOfThought 는 LLM 프롬프트 기법 중 하나며, ‘생각의 사슬' 또는 '일련의 생각' 으로 번역할 수 있다. AI 생태계를 양파로 표현해보았다. AI 는 모든 개념을 아우를 수 있는 상위 개념이다. 인간의 지능을 인공적으로 만들겠다는 것. 이를 구현하는 방법 중 하나로 ML(머신러닝)이 있으며, ML 의 확장된 형태가 DL(딥러닝)이다. ML 은 데이터에서 일련의 패턴을 학습한다. DL 은 여기서 한 단계 더 나아간다. 이미지나 영상같은 비정형 데이터까지 학습한다. 이건 더 복잡해진 케이스를 커버한다는 것을 넘어선다. DL은 인간의 신경망에서 아이디어를 얻어 설계된 Deep Neural Network(DNN)를 기반으로 한다. 덕분에 원본 데이터에서 중요 특징(feature)을 자동으.. 2025. 3. 20.
<AI, 네가 뭔데 날 울려> 소개 본격 AI 시대 도래에 앞서 많은 개발자들이 일자리를 위협받고 있습니다.본 시리즈는 그들을 위해 바칩니다. 우리는 어떻게 될까요? 시리즈 목차 0. ChainOfThought "AI"1. Prompt With Engineering2. Agent 실험 1 - 프롬포트 설계3. Agent 실험 2 - 졌잘싸 with Agent Test 2025. 3. 17.