환경설정 및 LangChain과 Chroma를 활용한 검증 및 RAG 구성해보기.
·
RAG 을 활용하여 LLM 만들어보기
이제 LangChain 을 활용하여 어떻게 openAI를 사용할 수 있는지, 간단하게 만들어보려고 한다. 개인적으로 macos 에서도 함께 활용하고는 있지만 해당 포스팅은 windows 기준으로 진행한다. 먼저 pyenv가 설치되있다는 가정 하에 powershell 에서 작업 폴더에 3.10.0 을 기본 버전으로 지정 후`python -m venv llm-application` 로 가상환경을 생성한 뒤 가상환경을 활성화 한다. 이후 `python -m venv .venv` 로 가상환경 이름을 .venv 로 설정하면 나중에 자동으로 인식된다. 이후 터미널에서 아래와 같이 필요한 라이브러리 설치한다. 참고로 나는 gemini api 를 기준으로 진행했다. 이후 아래와 같이 코드를 실행하면 결과값을 받아볼 ..
생성형 AI 비서, 정량적 품질 측정과 성능테스트 전략
·
QA성장하기/제4회 QA conference
해당 강연을 선택한 이유최근 AI에 대한 관심도가 높아지며 회사에서 자체적인 AI 를 생성하는 경우가 많다.이와 관련하여 AI를 활용하는것 뿐 아니라 어떻게 검증을 하는 것이 좋은지에 대한 관심을 가지고 있었다.개인적으로 회사 내에서 활용할 수 있는 AI를 만들어보고 싶은데, 이때 어떤 점들을 고려하면 좋을지 궁금했다.결론적으로 실 서비스에서 AI QA 를 할 때 많은 부분을 활용할 수 있을것 같았고, 개인 프로젝트에서도 활용할 수 있는 많은 부분을 도움받을 수 있어서 도움이 되었다.주요 주제AI 서비스의 품질 검증AI 악용 케이스와 예외 케이스 대응 방법성능확인을 위한 API 부하테스트와 AI 자동화에 대한 대책과 방법AI QA 프로세스와 실 서비스에서의 팁Generative AIGetnerative ..
LLM에 관심을 가지게 된 계기와 필요 배경 지식
·
RAG 을 활용하여 LLM 만들어보기
처음 이직을 하고 느꼈던 점은, 스프린트마다 50개가 넘는 유저스토리가 생기고,이거에 대해서 나는 다 파악해야 하고, 예외케이스도 커버해야 하는데 언제 다하지? 였다. 물론 이에 대해서 각 담당자가 유저스토리를 파악하고, 서로 공유하기는 했지만 아무래도기존에 있었던 user story 까지 파악하면서 새로운 유저스토리를 파악하는 것도,그리고 수정되는 user story 를 실시간으로 파악하는 것도 리소스적 한계에 부딪히곤 했다. 그래서 예전부터 userstory 를 모아서 AI 를 만들자! 라는 막연한 생각을 갖고 있었는데,이번에 QA conference 를 다녀오며 AI를 활용하여 QA를 진행하시는 분들이 많다는 것을 깨닫고이를 계기로 조금 local AI 를 만들 수 있는 방법을 찾아보려고 시작하게 ..
UI 테스트 자동화 CI/CD파이프라인 구축 가이드
·
QA성장하기/제4회 QA conference
지난 포스팅에 이어 QA 컨퍼런스에서 들었던 강연에 대해 기억나는 부분과 정리한 부분을 포스팅해보려고 한다.미처 가보지 못하신 분이나 혹시라도 관심이 있었는데, 다른 강연을 들었던 분들에게 도움이 되길 바란다.참고로 해당 내용은 기억과 필기를 기반으로 작성한 내용이라 강사님의 이야기와 조금 다를수도 있다는 점을 꼭 유의해주시길... 해당 강연을 선택한 이유최근 CI/CD 에 대한 관심을 가지고 있었는데 마침 QA conference 에서 관련 강연을 진행했다.CI/CD 파이프라인에 테스트 자동화를 어떻게 넣을 수 있는지, 이 과정에서 어떤것들을 고려하면 좋을지에 대해서 알아볼 수 있는 유익한 시간이었다.주요 주제UI 테스트 자동화를 통한 비용과 투자UI 테스트 자동화 파이프라인 구축 종류별 장단점 및 특..
제4회 QA conference 를 다녀오고
·
QA성장하기/제4회 QA conference
저번주 토요일, 강남역 모나코스페이스에서 제 4회 QA conference 를 다녀왔다. 정말 더운 날씨인데도 많은 분들이 참여해주셨고, 사실 처음 오프라인으로 진행되다 보니개인적으로 걱정되는 부분도 많았고, 기대되는 부분도 많았는데 결과적으로는정말 잘 다녀왔다는 생각이 들 정도로 만족스러웠고, 다음 컨퍼런스 참여 의사도 있다. 요즘 트렌드가 AI인 만큼 AI를 활용한 다양한 프로그램도 볼 수 있었고,여전히 테스트 자동화와 프로세스적인 접근 등에 대해 많은 강의를 볼 수 있었다. 그곳에서 작년말, Off-QA 에서 만났던 분도 뵙고, 많은 연사자분들의 발표를 보며내가 그동안 궁금했던 부분, 막막했던 부분에 대해서 시행착오들을 간접적으로 들을 수 있었고프로세스적으로, 기술적으로 많은 것들을 보고 느낄 수..
개인 프로젝트에서 주로 사용되는 CI/CD 구축 방법
·
Server&load/CI CD
개인 프로젝트 (Github Actions)전체적인 흐름장점대부분의 CI/CD 방식은 전체 프로젝트를 통째로 전달하는 방식을 사용함.Git pull을 활용하여 변경된 부분의 프로젝트 코드에 대해서만 업데이트하기 때문에 CI/CD 속도가 빠름.CI/CD 툴로 Github Actions 만 사용하기 때문에 인프라 구조가 간단.단점빌드 작업을 EC2에서 직접 진행하여, 운영하는 서버의 성능에 영향을 미칠 수 있음.Github 계정 정보가 해당 EC2에 저장되어 보안적으로 문제가 있음.주로 사용되는 프로젝트개인 프로젝트에서 CI/CD 를 심플하고 빠르게 적용시키고 싶을 때 활용한다.일반 프로젝트 (Github Actions, SCP)전체적인 흐름장점빌드, 테스트 작업을 Github Actions 에서 진행 후 ..
Github Actions 기본 문법 및 사용 방법 정리
·
Server&load/CI CD
Github Actions 사용 방법폴더/.github/workflows 경로에 yml 파일 생성.name : Github Actions 실행시켜보기on: push: branches: - mainjobs: My-Deploy-Job: runs-on: ubuntu-latest steps: - name: Hello World run: echo "Hello World" # 여러 문장을 출력하기 위해서는 | 사용 - name : 여러 명령어 문장 작성하기 run: | echo "Good" echo "Morning" - name: Github Actions 중 현재 commit 에..
CI/CD 를 배우는 이유
·
Server&load/CI CD
CI/CD 란?CI/CD 란지속적 통합, 지속적 배포라는 의미를 가짐.배포(Deployment) 란?다른 사용자가 인터넷을 통해 사용할 수 있도록 만드는 것을 의미함.CI/CD 를 배우는 이유서비스 운영 중 새 기능을 추가할 때 새 기능에 대한 코드 작성 후 Commit 을 진행.이후 Merge 후 배포를 하는데, 배포할 때 직접 컴퓨터 서버에 접속하여 코드를 다운받아 실행시켜야 함.이와 같은 반복적인 작업을 자동화하기 위한 것이 CI/CDCI/CD 과정개발자가 특정 기능 개발 완료 후 commitbuild 진행Test code 진행 (생략 가능)테스트 통과 시, 실제 서버 컴퓨터에 최신 코드 배포CI/CD 구축 시 사용하는 Github actionsCI/CD 구축 사용 도구Github ActionsJe..