아는만큼 보인다

재직중인 회사에서는 팀별로 다른 문서툴을 사용하고 있습니다.Confluence, Notion, Google Drive (Docs, Spreadsheet, ...)그래서 본인이 속해있는 조직이 아닌 문서를 확인해야될때 어디에 있는지, 어떻게 확인해야할지 잘 모르는 경우가 많습니다.기간에 따라 다른 팀이 맡으면 같은 프로젝트인데도 다른 위치에 존재하게 됩니다. (초기에는 Confluence에 작성하다가 지금은 Notion에 작성) 인수인계가 제대로 되지 않은채 남겨진 문서도 많고, 상황이 이러하다보니 가이드 문서를 작성하기도 쉽지 않습니다.실제로 문서 파편화로 인해 여러번 내부 논의가 있었지만, 별다른 개선은 이루어지지 않고 있는 상태입니다. 그래서 문서 전부 긁어다가 VectorDB에 넣고, 그걸 RAG로..

2026년이 왔습니다. 개발자가 된지 3년이 조금 지났지만, 3년동안 느낀것과 시니어 개발자분들께 커피챗을 요청하여 나눈 대화들, 링크드인을 비롯한 각종 개발 커뮤니티와 소식들을 보면 2025년부터 너무 혼란스럽다고 느껴집니다. 가장 큰 이유는 AI 라고 생각하는데요, 커피챗에서 시니어 개발자분께서 여태껏 봐온 개발 패러다임중에 가장 크다고 말씀하셨을 정도로 강력한거같습니다. 제가 봐온 여러가지 의견을 모아보자면..- AI로 개발하되 검수를 꼼꼼히 해야한다.- 스펙 주도 개발이 중심이 되어야 한다.- 스펙 주도 개발은 말이 안된다.- AI가 발전하니 개발자가 필요없다.- AI가 발전하니 프론트엔드 개발자, 백엔드 개발자와 같은 세부 직무가 제품 개발자처럼 한 사람이 다하는 직무로 변할것이다. - 위에 ..

모든 문제를 해결하기 위한 머신 러닝 방법1. 모델 클래스를 정의해라모델은 입력 x를 받아 출력 y를 예측하는 함수이다.모델 클래스는 가능한 함수들의 집합이다.즉, 프로그램을 어떻게 표현할 것인가? 2. 손실함수를 정의해라모델의 출력값이 실제 정답 y와 얼마나 다른지 측정한다.손실이 작을수록 좋은 모델이다.여러 모델 중 어느 것이 더 좋은지 평가하는 기준이 loss function 3. 최적화 알고리즘을 선택해라손실(loss)을 줄이기 위해 모델 파라미터를 어떻게 바꿀것인가 4. 큰 gpu에서 실행해라 Marr's levels of analysishttps://youtu.be/zY2QgvPfSm8?si=kdcvYbdQGg7AApFB&t=350 머신러닝은 데이터를 어떻게 생성하는지 확인한다.p(x, y)..

Part 1 머신러닝의 학습 종류에는 여러가지가 있는데 대표적인게 아래 3가지이다.1. 지도학습 (superised learning)정답이 있는 데이터로 학습시켜서 x에 대해 y를 예측학습데이터: (x, y) 처럼 x와 y(정답)이 한쌍으로 이루어져 있다.함수에 대한 세타, 즉 파라미터를 구하는데 최대한 실제 y와 가까워 지도록 자동으로 설정함2. 비지도학습 (unsupervised learning)정답이 없는 데이터로 학습시켜서 표현을 학습예를들어 generative modeling (이미지 생성 등), self-supervised representation leraning 등이 있다.최근 핫한 llm으로 이미지 생성하는것들이 이거에 속한다. 이미지를 생성하면 그 이미지는 실제 존재하는 사람, 사물이 ..

무엇이 딥러닝을 작동하게 하는가1. 많은 층을 가진 큰 모델2. 다량의 데이터셋3. 이것들을 전부 처리할 수 있는 컴퓨터 일반적으로 layer가 많을수록 모델의 성능이 좋다.layer가 많다는것은 추상화를 더 많이 한다는것이고 그렇다면 결과가 좋기 때문이다.이 결과는 ResNet의 과거 벤치마킹자료로 알 수 있는데, shallow model의 성능이 가장 안좋고 152개의 layer를 가진 model의 성능이 가장 좋다. 딥러닝에 대해 크게 두가지 관점이 있다고 한다. (21년도 강의 기준)1. 별로다. 너무 큰 모델, 큰 데이터, 큰 컴퓨팅이 필요하다2. 좋다. 우리가 데이터, layer, 컴퓨팅을 추가할수록 모델은 더더욱 좋아질 것이다. 많은 데이터와 고용량 모델을 사용한다면 feature 혹은 r..

일반적인 프로그래밍은 함수의 input과 output에 대한 규칙을 직접 정하는 것이다.이 방식은 예외가 많아질수록 굉장히 복잡해지고 많아진다. 머신러닝은 if else와 같은 조건문을 함수 수식으로 나타낼 수 있는데, 가장 간단하게는 아래처럼 나타낼 수 있다.x는 Input, θ는 학습된 파라미터, y는 output (label) 이다. 위 함수는 x와 θ를 표현할 수 있다.즉, x로부터 features 를 추출하여 함수를 만드는것이다.그러면 프로그램의 규칙을 직접 정의하는게 아니라 features를 정의할 수 있다. shallow learning model은 단지 함수 1개만으로 object label을 반환하는데,deep learning model은 학습된 파라미터를 사용하여 그냥 features가..

이전에 구글 developers에서 제공하는 ML Crash Course를 정독한적이 있고, 현재는 LLM 교육을 수강하고 있지만 실제로 개발을 하지 않아서 그런가 AI 지식이 날이갈수록 잊혀져 가고 있습니다.저는 LLM도 결국 AI에 포함되는, 지나가는 하나의 패러다임이라고 생각하기 때문에, 그 다음 AI 패러다임을 대비하기 위해 AI 자체의 지식이 어느정도는 필요하다고 판단했습니다. langchain, langraph 등 활용하는 방법 말구요. 그러던 와중에 LLM 교육에서 알게된 데이터 사이언티스트 한 분이, 제가 MLOps와 AI 근본적인 지식에 관심이 있다고 말씀드리자 CS182 강의를 추천해주셨습니다. 추천해주신 이유는 적당한 깊이로 넓은 범위의 지식을 얻을 수 있기 때문이라고 받아들였습니다...

8월 26일이 첫 수강일이였는데, 벌써 시간이 이렇게 흘렀네요. 총 12주 과정이여서 아직 40%정도만 진행한거지만, 추석때문에 흐름이 끊겨서 짧게 중간 후기를 남겨봅니다. 지금까지 배운 내용입니다.1. LangChain + LCEL2. Tokenization, Embedding (BoW, TF-IDF, Word2Vec)3. RAG + Vector Store (Chroma, PineCone)4. Prompt Engineering - Zero/Few Shot, Chain of Thought5. 키워드 검색, 하이브리드 검색6. 쿼리 확장7. Re rank, Contextural Compression8. 다양한 평가 - 기억나는건 LLM as Judge뿐.. 평가가 가장 어렵고 흥미도 잘 안생겼습니다.다만 ..

기존에는 Node.js 백엔드 개발을 했는데, 이직을 한 후로는 MLOps 업무를 해야되서 공부를 계속 하고 있습니다.파이썬도 몰랐는데 점점 눈에 익어가고 있구요. 그래서 LLM은 아니지만 머신러닝과 관련된 ops를 해야되는 상황이였는데, 마침 모두의 연구소로부터 연락이 왔습니다.올해 4월쯤 llm 과정 2기에 신청했었는데 그때는 떨어지고 이번 4기에 합격을 한 것입니다.합격하는데에 역량이 필요하진 않은거같고 그냥 신청자가 많은거같습니다. 퇴근 후 2시간으로 완성하는 AI/LLM 서비스 개발 과정https://camp.modulabs.co.kr/llm 모두의연구소 - 직장인 AI/LLM 서비스 개발 과정내일배움카드로 무료 수강! 직장인을 위한 무료 부트캠프! 실무 AI/LLM 서비스 개발 과정 - Lan..

미니pc에 microk8s를 설치했습니다.eks로 공부하고 싶었지만 너무 비싸서 미니pc를 산것이기때문에 eks와 가장 유사한 경험을 할 수 있는것을 찾았고, 그게 microk8s라고 판단했습니다. 처음에는 미니pc에 ssh로 접속해서 yaml을 작성했는데, 이것저것 너무 불편해서 context를 연결해서 맥북에서 제어하기로 결정했습니다.ssh 포트포워딩 방식으로 접속합니다. 1. 리눅스에서 microk8s의 설정을 추출$ microk8s config > ~/microk8s.kubeconfig 이후로는 전부 맥북에서 진행 2. scp 명령어로 config 파일 가져오기$ scp -P 포트 username@ip(dns):~/microk8s.kubeconfig ~/Desktop/homeserver 3. 기존..