모두의 연구소 llm 재직자 교육에 참여하고 있습니다.

기존에는 Node.js 백엔드 개발을 했는데, 이직을 한 후로는 MLOps 업무를 해야되서 공부를 계속 하고 있습니다.

파이썬도 몰랐는데 점점 눈에 익어가고 있구요.

 

그래서 LLM은 아니지만 머신러닝과 관련된 ops를 해야되는 상황이였는데, 마침 모두의 연구소로부터 연락이 왔습니다.

올해 4월쯤 llm 과정 2기에 신청했었는데 그때는 떨어지고 이번 4기에 합격을 한 것입니다.

합격하는데에 역량이 필요하진 않은거같고 그냥 신청자가 많은거같습니다.

 

퇴근 후 2시간으로 완성하는 AI/LLM 서비스 개발 과정

https://camp.modulabs.co.kr/llm

모두의연구소 - 직장인 AI/LLM 서비스 개발 과정

 

올해 계속 AI에 대한 얘기가 많은데, 다양한 의견은 차치하고 개인적으로 LLM을 만들어보고 싶었습니다.

전 회사에서는 상품명 자동 번역 LLM을 만들려고 했으나 이직을 하게되어 그만뒀고, 지금 회사에서는 사내 문서를 전부다 저장하여 RAG로 사용하여 별도의 가이드문서가 필요없는 환경을 만들고 싶었습니다.

 

하지만 MLOps 라는 해보지 않은 것을 공부해야되고, 회사에 아직 MLOps 파이프라인이 구축되어있지 않기 때문에 인프라 자체를 제가 전부 설계해야되는 상황이라 LLM을 지속적으로 공부하기는 여유가 없었습니다. 인프런에서 강병진님의 강의를 두개정도 들어보면서 전체적으로는 이해는 했지만 그걸 체화시킬 여유는 없었던거죠.

 

그런데 마침 저 교육을 시작하게 되어 좋은 기회라고 생각했습니다.

가만히 있어도 떠먹여주는 기회이고, 저는 그것만 잘 먹으면 되기때문입니다.

이미 인프런 강의를 들어본게 예습을 한 셈이 되어 좀더 수월할거같았습니다.

 

이제 2주가 지났는데, 지금은 만족을 하고 있습니다.

평일에는 강사님이 작성해두신 코드를 같이 보면서 이론 수업이 진행되고, 마지막에 실습을 간단하게 해봅니다.

토요일에는 오전에 이론 수업을 하고 오후에는 실습만 진행하고 팀별로 발표 간단하게 한 다음 약간 보충 느낌의 수업을 조금더 진행합니다.

 

4기의 경우, llm 을 이미 개발해봤거나 개발자인사람이 40%정도 된다고 합니다.

수업 중간에 질문을 많이들 하시는데, 흥미로운게 많습니다.

수업 내용도 괜찮다고 느껴지고, 강사님께서 본인의 경험을 많이 얘기해주셔서 재미있습니다.

이 교육을 듣는 목표 자체가 제가 따로 공부하지 않으려는것이기때문에 떠먹여주는걸 잘 먹고 있습니다.

 

다만 수업 시간이 화~금 19:30 ~ 22:00, 토 10:00 ~ 18:00 이다보니 굉장히 피곤합니다.

3개월만 고생하자는 마인드로 참여중입니다.

 

교육이 끝나면 가지고 있는 미니피씨에 gpt oss 20b 올려볼까 합니다.

디시인사이드 미니pc 갤러리에 어떤분이 램 96gb로 맞추고 gpt oss 120b, 20b 돌린 후기를 올렸는데, 20b정도면 잘 돌아가는거같습니다.

 

결론은, 요즘에 MLOps와 LLM을 공부하며 시간을 보내고 있습니다.

흥미로운것들 투성이네요.