프리미의 공간

요즘 구직활동을 하면서, 어떤 회사에 가고싶은지 진지하게 고민하고 있다. 내가 가장 중요하게 여기는 조건은 이것이다.내가 진정으로 몰입할 수 있는 환경인가? 내가 진심으로 회사의 일을 즐기며, 시간가는 줄 모르고 즐겁게 일할 수 있는 회사에 가려고 한다.그럼, 어떤 환경이 몰입할 수 있는 환경일까?1. 좋은 문제를 다룬다.회사에서 내가 좋은 문제를 다룬다면, 즐겁게 몰입할 수 있다.내가 풀려고 하는 문제가 가치있고, 누군가를 기쁘게 하거나 만족감을 주며, 풀렸을 때 임팩트가 큰 문제이고 싶다.2. 긍정적인 영향을 주고받는 동료가 있다.함께하는 동료가 긍정적이고, 인사이트를 공유하고, 농담을 하더라도 즐거운 동료가 있으면 좋겠다.염세적이기보단 긍정적이고, 마치 스포츠팀처럼 서로를 믿는 팀플레이를 이루고 싶..

관리자 페이지에서 임베딩 모델과의 연결이 실패하는 문제를 겪었다.백엔드 서버와 임베딩 서버가 모두 kubernetes 상에서 동작 중이고, 임베딩 서버의 /health 엔드포인트도 정상적으로 응답하는 상황에서 발생한 문제였다. 문제 해결 과정을 정리하였다. 증상관리자 페이지에서 임베딩 서비스의 URL로 요청을 보낼 때, Conection refused로 요처이 실패함.임베딩 서버는 k8s 상에서 정상 동작중, Pod log도 uvicorn runing on 0.0.0.0:8000 으로 로그 확인. 접근 1. kubernetes 리소스가 잘 동작중인가?우선 리소스 구성이 정상인지 확인했다. namespace 오타 여부, pod 실행 상태, service 존재 여부, Service가 실제 Pod와 연결되었는..

LLM의 출력을 얼마나 신뢰할 수 있는지, confidence를 측정하는 여러 방법이 발표되었지만, 오늘은 P(True) Calibration 방법론에 대해 소개한다.Input: [게시글 본문] Classifier: 위 글은 '정치' 카테고리로 분류되었습니다.Question: 당신의 분류가 정확합니까? (Yes/No로만 답하세요)'Yes' 토큰의 로짓과 'No' 토큰의 로짓을 각각 추출한 뒤, Softmax를 적용해 정규화된 confidence score를 계산한다. 특히 모델에게 답변의 이유(Chain-of-Thought)를 먼저 말하게 한 뒤 이 질문을 던질 때 정확도가 상승한다고 한다. ReferenceLanguage Models (Mostly) Know What They Know, Kadavat..

https://journalclub.io/episodes/performance-evaluation-of-microservices-communication-with-rest-graphql-and-grpc Performance evaluation of microservices communication with REST, GraphQL, and gRPCNow, if you’re like me: alarm bells are already ringing. These shootouts happen all the time, and in many cases the experimental design is seriously flawed. In my opinion, this paper is no exception. So ..

0. 준비물 인터넷이 없는 서버 (ubuntu 20.04, python 3.8.10) 인터넷이 있는 로컬 (ubuntu 22.04, python 3.10.12) 1. 로컬에서 파이썬 버전 맞추기 pyenv global 3.8.10 # 모든 쉘 세션에 대해 적용 python3 --version # 3.8.10 pyenv global system # 원래 파이썬 버전으로 돌아감 pyenv local 3.8.10 # 현재 디렉토리 이하에만 적용 python3 --version cat .python-version # 3.8.10 rm .python-version # 파일 삭제하면 원래대로 돌아감 2. 필요한 패키지 다운로드 pip --version # python 3.8 인지 확인 pip install --up..

각종 블로그를 찾아봤지만 문제를 해결하지 못했는데, 과거 학부 교수님께서 올려주신 영상을 참고하여 문제를 해결했다. 환경: CUDA version: 12.0 1. Nvidia GPU 드라이버와 CUDA Toolkit을 설치해준다. 2. 아나콘다 환경에서 다음과 같이 입력한다. 꼭! 3.7 버전이어야 한다. conda create -n tfgpu python=3.7 conda activate 3. 다음을 입력한다. 여기서도 꼭! 2.1 버전이어야 한다. conda install tensorflow-gpu=2.1 설치 후, 각 패키지가 아래와 동일한 버전인지 확인한다. 버전이 조금이라도 다르면 GPU 인식이 안된다. python 3.7.13 cudatoolkit 10.1.243 cudnn 7.6.5 tens..

서론 엔씨소프트 부사장이자 인공지능 전문가인 윤송이님의 책 '가장 인간적인 미래'를 읽고 느낀 점을 정리한다. 나는 컴퓨터공학 전공자이자 경북대학교라는 작은 울타리 속에서 여러 가지 리더 경험을 했다. 이러한 내가 바라보고 느낀 미래의 인공지능의 모습에 대해 고민해 보았다. 책을 읽고 난 후 떠오른 생각을 나의 방식대로 정리한 것이기에, 책과 입장이 다르거나 디테일한 부분에서 차이가 있을 수 있다는 점을 밝힌다. 이 책은 현재까지 있어온 AI 관련 이슈를 짚어보고, 앞으로 인류를 위해 AI가 가져야 할 모습과 그 과정에 대해 고민하고 있다. 인공지능, 철학, 윤리학, 정치학, 정보보안 등 각계각층의 전문가와 인터뷰한 내용을 글로 퍼낸 것이며, 전문가들이 인공지능에 대해 치열하게 고민한 과정과 그 속에서 ..

만남이 있다면 헤어짐도 있는 법. 언젠가는 조직을 떠날 날이 온다. 떠날 때의 모습이 기억속에 자리잡는 만큼, 아름다운 마무리를 위한 인수인계는 중요하다. 조직의 대성과 지속 발전을 위해 인수인계를 했던 경험을 공유한다. 나는 2022년도, 경북대학교 컴퓨터학부의 13대 학생회장으로서 임기를 완료하고 후임 학생회장을 위해 인수인계 자료를 제작한 경험이 있다. 그때의 경험과 노하우를 살려 글을 적는다. 인수인계 자료에 담아야할 내용 후임자가 최대한 나와 비슷한 퍼포먼스를 내기 위해서는 내가 했던 업무 이상의 비롯한 구체적이고 상세한 내용을 담는 것이 중요하다. 나는 인수인계 자료의 필수 요소로 아래 4가지를 꼽았다. 1. 업무 리스트: 특정 업무를 수행하기 위해 알아야 할 지식, 진행 과정, 힘들었던 점 ..