knowledge-based content
어제 회의실에서 나온 말이 있다. “트럼프가 또 관세를 올린대. 우리 회사는 괜찮을까?” 그 말을 듣고 한숨이 나왔다. 지난 몇 주간 우리 팀은 트럼프 관세 뉴스를 쫓기 바빴다. 1월 27일 트럼프가 발표한 “25% 관세 재인상”이 얼마나 심각한지, 정부의 대미투자특별법이 정말 도움이 될지. 계속 고민하고 있다. 솔직히 말해서, 처음엔 “이게 우리와 무슨 상관이 있나?” 싶었다. 하지만 조사해보니까 … Read more
어제 뉴스를 봤을 때 정말 충격을 받았다. 스페이스X가 작년에 11.6조 원의 수익을 냈다고? 그것도 이익이 5조 원대라고? 솔직히 처음엔 신문을 잘못 읽은 줄 알았다. 로켓 회사가? 이 정도 돈을 버낸다고? 하지만 기사를 여러 번 읽어보니 맞다. 로이터 통신이 보도한 내용인데, 스페이스X는 작년에 매출 150~160억 달러(21.8~23.2조 원), 이익 80억 달러(11.6조 원)를 기록했다고 한다. 게다가 IPO를 통해 … Read more
작년 여름, 스타트업에서 “고객 지원 챗봇을 만들어야 하는데, 비용이 적게 들어야 한다”는 요청을 받았다. 당시 우리 팀의 상황은 이러했다. 개발자는 3명, 월 예산은 총 500만 원대, 24시간 운영이 필수였다. 기존 방식대로 EC2 인스턴스를 띄우고 OpenAI API를 쓰면? 월 비용이 족히 200만 원은 넘을 거였다. 회사가 감당할 수 없는 금액이었다. 그때 생각한 게 Azure Functions다. 서버리스 … Read more
어제 점심시간, 다니던 김밥천국에 들어갔다. 주문했던 김밥 한 줄이 7500원이라고 했다. 작년에는 6천 원대였던 것 같은데. “어? 언제 또 올랐어?”라고 물었더니 점주가 말했다. “그게 말이지, 재료가 자꾸 올라서 어쩔 수가 없어. 라면도 같이 드리지만 그래도 힘들어”라고. 그 말을 들으면서 정말 한숨이 나왔다. 요즘 서울의 김밥 평균 가격은 3624원이라고 한다. 1년 전에는 3400원대였으니까 거의 6% 정도 … Read more
어제 지인들과 술을 마시다가 나온 얘기가 있다. “코스피 5300이라니, 정말 오를 대로 올랐네. 이제 뭘 사야 수익을 낼까?” 모두가 고민하는 건 비슷했다. 무조건 오르는 마켓에서 어떻게 하면 더 많이 벌까? 그런데 정부가 딱 좋은 상품을 내놨다고 한다. 삼성전자 같은 우량주가 오르면 수익을 2배로 벌 수 있는 레버리지 ETF를 허용한다는 거다. 처음 들었을 땐 “와, 이런 … Read more
Azure AI Search와 Blob Storage 연동하기, RAG 시스템 구축을 위한 실전 아키텍처 지난 3개월간 RAG(Retrieval-Augmented Generation) 시스템을 구축하면서 깨닫게 된 게 있다. LLM의 가장 큰 문제는 “모르는 것도 마치 아는 것처럼 답변한다”는 거다. 이를 hallucination이라고 부르는데, 정말 위험하다. 금융 상담을 한다고 했는데 완전히 잘못된 정보를 제시하면? 의료 조언을 한다고 했는데 엉뚱한 약을 추천하면? 재앙이다. 하지만 … Read more
3년 전부터 달리기를 시작했다. 처음엔 주 3회, 5km 정도였다. 1년이 지나니까 주 4~5회, 10km까지 늘었다. 지금은 마라톤도 완주했고, 자존감도 많이 올라갔다. 근데 정말 신기한 게, 주변 사람들이 자주 하는 말이 “넌 왜 계속 달리기만 해? 헬스장도 가고, 요가도 해보고, 수영도 해봐”라는 거였다. 처음엔 무시했다. “달리기면 충분하지, 뭘 더 필요해?”라고 생각했거든. 근데 최근에 발표된 대규모 연구 … Read more
지난주 금요일, 보안팀에서 한 통의 전화가 왔다. “Azure OpenAI API 키가 GitHub에 커밋된 게 발견됐어요. 즉시 로테이션 해주세요.” 상황이 얼마나 심각한지는 말할 필요가 없다. 한 명의 개발자가 실수로 키를 노출시켰는데, 그 키로 누구나 당신의 AI 서비스를 이용할 수 있다. 월 청구액이 수천 달러에 이를 수도 있다. 이게 처음 겪는 일이 아니다. 여러 프로젝트를 하면서 API … Read more
최근 한국 증시가 소위 말하는 ‘활화산’ 상태라고 불릴 정도로 뜨거워지고 있습니다. 특히 지난 1주일 사이 코스닥지수가 19.2%나 급등하면서 투자자들 사이에서 이게 진짜 트렌드인지, 아니면 일시적 현상인지에 대한 논쟁이 뜨겁습니다. 이런 와중에 SK하이닉스가 사상 최대 실적을 기록했다는 뉴스가 나왔는데, 이 두 가지 소식이 결국 같은 맥락에서 이해돼야 한다는 점을 아는 투자자는 많지 않습니다. 단순히 “주가가 올랐다”라고 … Read more
AI 모델을 만들었다. 이제 이걸 API로 서빙해야 한다. 그런데 Azure에서 뭘 써야 할까? 이 질문으로 밤을 샌 개발자가 얼마나 될까. Stack Overflow나 GitHub 이슈를 찾아봐도 대부분 일반적인 답변만 있다. “Container Apps는 마이크로서비스용이고, App Service는 전통적인 웹앱용이다”라는 식으로. 하지만 이건 AI API 서빙에는 정확한 답이 아니다. 지난 6개월간 실제로 AI 모델을 여러 환경에서 서빙해봤다. 처음엔 App … Read more