이번 포스트에서는 Model의 multimodality에 대해 살펴보자. Multimodality API Multimodality란?인간이 무언가를 인식하는 방법은 단순히 텍스트 뿐만은 아니라 시각, 청각, 텍스트 등 다양하다. 우리가 학습하는 방식과 경험을 multimodal이라고 한다.초창기의 모델은 단일 modality를 처리하도록 제작되었으나 최근의 모델들은 인간처럼 multi modal을 지원하기 시작했다. 예를 들어 OpenAI의 GPT-4o, Google의 Vertex AI Gemini 1.5, Anthropic의 Claude3, 오픈 소스 제품인 Llama3.2, LLaVA 및 BakLLaVA는 텍스트 이미지, 오디오 및 비디오를 포함한 여러 입력을 수용하고 이러한 입력을 통합하여 텍스트 ..

이번 포스트에서는 효율적인 Prompting 기법에 대해 살펴보자. 주 내용은 다음을 참조한다.https://docs.spring.io/spring-ai/reference/api/chat/prompt-engineering-patterns.html Prompt Engineering Patterns :: Spring AI ReferenceSpring AI provides an elegant Java API for implementing all major prompt engineering techniques. By combining these techniques with Spring’s powerful entity mapping and fluent API, developers can build sophisti..

이번 포스트에서는 ChatClient를 이용해 모델과 소통해보자. ChatClient 설정 ChatClient 기본 설정ChatClient는 ChatModel을 통해서 구성하는데 다음의 3단계로 설정이 진행될 수 있다.application.properties에 설정된 내용 활용(spring.ai.ollama.chat.options.temperature) 등ChatClient 빈 생성 시 defaultXXX 메서드를 이용한 기본 설정서비스에서 ChatClient의 prompt()를 통한 얻은 ChatClientRequestSpec를 통한 설정 수정설정은 1>2>3으로 재정의된다. 1번 방식은 하나의 ChatModel을 이용할 때 간단히 사용할 수 있고 일반적으로 2번 방식을 활용 할 일이 많다. 특별한 ..

이번 포스트에서는 ChatClient에 대해 알아보자. ChatClient API 소개이전 시간에는 ChatModel을 이용해서 모델과 통신했는데 이는 저 수준의 도구로 제대로 사용하려면 많은 커스터마이징이 필요하다. 실제로 모델과 소통하기 위해서는 ChatClient를 사용하는데 이는 ChatModel 위에 편의성과 확장성을 추가한 객체이다. 일반적으로 ChatClient를 사용한다.https://docs.spring.io/spring-ai/reference/api/chatclient.html Chat Client API :: Spring AI ReferenceCreating a ChatClient with a default system text in an @Configuration class simp..