[테헤란로트렌드클럽] 스타트업부터 대기업까지, LLM활용 실전편 요약본

요즘 제일 핫한 키워드는 어딜 가나 AI입니다. 특히 스타트업 생태계에서는 창업, 취업, 투자부터 정책까지 전영역에서 다음 AI 트렌드는 무엇이고, 넥스트 오픈AI, 넥스트 SORA는 어디일지 주목하고 있는데요. 스타트업 업계가 꼭 알아야 할 AI 트렌드는 무엇인지 알려드리기 위해, 테헤란로트렌드클럽이 AI 특집을 준비했습니다. 많은 주제 중에서도 특히 생성형AI의 기반이 되는 LLM, 즉 대규모언어모델(Large Language Model)에 대해 알아보고 있는데요. 8월 두 번째 트렌드클럽에서는 LLM을 실제로 비즈니스에 활용하고 있는 기업들을 만나봤습니다. 이날도 많은 분들이 &Space를 꽉꽉 채워주셨습니다. 두 번째 트렌드클럽 요약, 시작합니다!

스타트업부터 대기업까지, LLM 활용 실전편(8.20.)

브런치 글 이미지 1

8월 20일, AI 특집 두 번째 트렌드클럽에서는 GPT를 기반으로 타로카드, B2B SaaS까지 다양한 서비스를 운영하는 원지랩스의 곽근봉 대표님, 대규모 중고거래를 효율적으로 관리하기 위해 AI를 도입한 당근 ML인프라팀 유경윤 리더님, 생성형 AI로 빅테이터 접근성, 활용성을 해결해 실제 개발과 업무에 적용하고 있는 LG전자 우정훈 상무님까지, LLM을 실전에 활용하고 있는 다양한 기업 사례를 한 자리에서 들어봤습니다.

브런치 글 이미지 2

1. 고객 1명에 집중해 좁은 문제를 해결하는 스타트업, 원지랩스

브런치 글 이미지 3

첫 번째 발표자는 원지랩스(1ZLABS)의 곽근봉 대표님이었는데요. 곽 대표님은 먼저, LLM을 기반으로 운영하고 있는 원지랩스의 네 가지 서비스를 소개했습니다. 첫 번째는 AI 점술 서비스, 마이타로입니다. 마이타로는 GPT를 활용해 실제 점술가와 대화하는 것처럼 타로카드 서비스를 이용할 수 있습니다. 두 번째 서비스는 AI로 보도자료를 생성하고 배포해주는 서비스, AIPR입니다. 생성형 AI가 1차로 작성해준 보도자료를 직접 검토하고 수정할 수 있고, 이 기사를 내보낼 것으로 생각되는 기자를 매칭해 배포할 수도 있다고 하네요. 세 번째 서비스는 크리에이티브AI라는 솔루션인데요. 기존의 상품 이미지를 활용한 제품의 배너 이미지를 자동으로 생성해주거나, 텍스트를 기반으로 원하는 이미지를 검색할 수 있는 엔진입니다. 실제로 디자이너들의 리소스를 굉장히 줄여줄 수 있다고 합니다. 마지막은 AiKen, 증권사의 레거시 코드를 현대화해주는 솔루션입니다.

원지랩스는 이외에도 여러 프로젝트를 준비하고 있다고 하는데요, 원지랩스가 제공하는 서비스들의 공통점, 혹시 눈치채셨나요? 곽 대표님은 원지랩스의 강점이 이미 시장이 존재하는 영역의, 좁은 문제에 포커스를 맞추는 것이라고 합니다(Hyper Vertical). 또한 모두를 만족시킬 수 있는 범용 제품을 만들기보다는 고객 1명에게 집중해 문제를 풀어보는 경우가 많고(Fully Customize), 사람을 대체하는 영역보다는 사람을 강화하는(Co Pilot) 기능에 집중한다고 합니다. "LLM을 효율적으로 사용하는 데 중요한 것은 AI를 쓰느냐 안쓰느냐가 아니라 생산성을 높이기 위해서는 어떻게 시스템을 설계하느냐입니다." 또한 초반부터 너무 많은 테스트를 하기보다는, 서비스를 빠르게 배포하고 지속적으로 튜닝하는 피드백 사이클을 만드는 것이 중요하다고 하네요!

2. 머신러닝에서 이제는 LLM으로, 당근

브런치 글 이미지 4

두 번째 발표자는 당근 유경윤 ML인프라팀 리더님입니다. 우리 모두가 아는 당은 중고거래부터 커뮤니티까지, 동네를 기반으로 다양한 서비스를 하고 있는데요. 당근은 사실 원래부터 머신러닝을 잘 활용해 왔다고 합니다. 개인화 추천 서비스, 광고 타겟팅, 카테고리 자동완성, 그리고 부적절한 콘텐츠를 걸러내고 제재하는 역할까지, 앱 사용성을 개선하기 위한 다양한 영역에 머신러닝이 적용되어온 당근이, 지금은 LLM에 큰 관심을 갖고 있다는데요. 그 이유는 바로 서비스의 다양한 문제를 더 쉽게 해결할 수 있기 때문입니다.

유 리더님은 당근의 세 가지 LLM 적용 사례를 소개했습니다. 먼저 첫 번째로, 동일한 카테고리와 브랜드의 제품을 추천하는 기능입니다. 중고거래에 올라온 특정 브랜드 신발이 있다면, 그 이미지와 게시글을 바탕으로 LLM이 브랜드와 카테고리를 판단하도록 하고, 그 다음부터는 같은 브랜드, 같은 카테고리의 매물이 올라왔을 때 사용자에게 보여주는 것입니다. 두 번째는 커뮤니티 기능의 사용성 개선을 위한 적용인데요, 커뮤니티에 특정 식당에 대한 게시글이 올라오면 그 식당 이름을 추출해 지도에서 검색한 결과를 자동으로 띄워주는 기능입니다. 사용자가 신경쓰지 않아도 지도뷰까지 붙어있는 게시글을 쓸 수 있는 것이죠. 마지막으로 세 번째는 사진 한 장으로 매물 정보를 자동 완성해주는 부동산 판매글 작성 기능입니다.