AI 신규 서비스 아이디에이션이 어려운 이유

또 “우리도 뭔가 해보자”의 시간이 왔다

GPT 이후 회사마다 AI 서비스 아이디에이션 업무가 많아졌다.

어느 회사는 기존 서비스에 AI를 붙여 보라고 하고, 어느 회사는 아예 신규 AI 서비스를 찾아보라고 한다. 조금 더 직접적으로는 “우리도 늦으면 안 된다”, “신사업 기획안을 만들어 보자” 같은 말로 내려온다.

이 장면이 아주 낯설지는 않다.

예전에 UC, 그러니까 Unified Communications가 유행했을 때도 비슷했다. 메신저, 전화, 화상회의, 협업 도구를 하나로 묶으면 기업 커뮤니케이션 시장이 크게 바뀔 것처럼 보였다.

빅데이터가 유행했을 때도 그랬다. 데이터를 많이 모으면 새로운 사업이 나올 것 같았다. 데이터 레이크를 만들고, 분석 플랫폼을 깔고, 전사 데이터 활용 과제를 만들었다.

신경망 모형이 다시 주목받던 시기에도 비슷했다. 딥러닝으로 이미지 인식, 음성 인식, 추천, 예측을 다 바꿀 수 있을 것처럼 보였다.

항상 패턴은 비슷하다.

기술이 있다. 성공한 사례가 있다. 시장에서 떠들썩하다. 그러면 내부에서는 자연스럽게 이런 말이 나온다.

우리도 늦지 않게 뛰어들자.

AI로 할 수 있는 신사업 기획해봐.

말은 간단하다. 어려운 건 그다음이다.

AI 기획 업무는 크게 두 갈래로 나뉜다

요즘 회사 안에서 나오는 AI 관련 기획 업무는 보통 두 갈래로 나뉜다.

첫 번째는 비교적 접근하기 쉽다. 이미 고객이 있고, 업무 흐름이 있고, 문제가 있다. AI는 그중 일부를 더 빠르게 하거나, 덜 귀찮게 하거나, 자동화하는 방식으로 들어간다.

예를 들면 고객 문의 요약, 상담원 답변 초안, 문서 검색, 회의록 정리, 리뷰 분류 같은 일이다. 완전히 새 사업은 아니어도 내부 효율화나 기존 서비스 개선으로 설명하기 쉽다.

두 번째는 훨씬 어렵다.

AI를 활용한 신규 서비스는 “AI가 들어갔다”만으로는 부족하다. 고객이 돈을 낼 이유가 있어야 하고, 계속 쓸 이유가 있어야 하고, 모델 사용료와 운영비를 빼고도 남는 구조가 있어야 한다.

여기서 많은 아이디어가 막힌다.

ChatGPT와 Claude 이후의 성공 사례가 생각보다 적다

AI가 별것 아니라는 뜻은 아니다.

오히려 반대다. ChatGPT, Claude, Gemini 같은 도구를 직접 써보면 분명히 유용하다. 글을 줄이고, 초안을 만들고, 회의록을 정리하고, 자료를 요약하는 일에서는 이미 실무 도구로 자리 잡았다.

헷갈리기 쉬운 지점은 여기에 있다. 유용한 도구와 투자할 만한 신규 서비스는 다르다.

ChatGPT와 Claude처럼 범용 챗봇 자체로 성공한 사례는 있다. 고객지원, 문서 작성, 사내 검색처럼 특정 업무에 붙은 유료 도구들도 늘고 있다. 하지만 그 밖의 영역에서 “이 정도면 새로운 AI 서비스 사업으로 확실히 성공했다”고 널리 인정받는 사례는 아직 많지 않다.

시장 자료를 봐도 같은 고민이 보인다.

McKinsey의 2025년 AI 설문 (영어 주의)은 AI 사용이 넓어졌지만, 파일럿에서 실제 규모 있는 성과로 넘어가는 일은 여전히 어렵다고 본다. 이 조사에서 AI 고성과 조직은 응답자의 일부에 그쳤고, 많은 조직은 아직 손익 영향이 작거나 제한적이다.

Forbes Research의 2025년 AI ROI 조사 (영어 주의)도 비슷한 경고를 한다. 조사 대상 C레벨 중 의미 있는 ROI를 봤다고 답한 비율은 매우 낮게 나타났다.

또 MIT NANDA의 GenAI Divide 보고서 (영어 주의)는 기업 생성형 AI 투자가 많아졌지만, 실제 업무 전환과 수익 개선으로 이어지는 비율은 제한적이라고 분석한다.

보고서마다 조사 대상과 정의는 다르다. 숫자 하나만 들고 와서 “AI는 안 된다”고 말하기는 어렵다.

그래도 방향은 보인다. AI 도입은 빠르게 늘고 있지만, 투자 대비 성과가 명확한 서비스 모델은 아직 충분히 많지 않다.

왜 투자금 대비 할 만한 사업이 잘 안 보일까

LLM을 쓰면 업무 효율화는 가능하다.

자동화도 가능하다. 사람이 하던 초안 작성, 요약, 분류, 검색 보조, 상담 지원을 어느 정도 줄일 수 있다.

그런데 신규 서비스로 만들려면 계산이 달라진다.

첫째, 모델 비용이 계속 붙는다.

서비스가 커질수록 사용량이 늘고, 긴 문서나 복잡한 상담을 다루면 건당 원가도 올라간다. 좋은 모델을 쓰면 품질은 올라가지만 비용도 같이 올라간다. 싼 모델을 쓰면 비용은 내려가지만, 사람이 다시 검수해야 하는 일이 늘 수 있다.

둘째, 정확도 요구가 생각보다 높다.

개인 사용자는 답이 조금 어색해도 다시 물어보면 된다. 하지만 유료 서비스에서는 다르다. 고객은 돈을 냈고, 결과가 틀리면 서비스 품질 문제로 본다.

셋째, 기존 SaaS 기능과 차별화가 어렵다.

많은 AI 서비스 아이디어는 막상 정리해 보면 “문서 요약”, “챗봇 상담”, “자료 검색”, “자동 분류” 주변에 모인다. 필요한 기능은 맞지만, 경쟁사도 비슷하게 붙일 수 있다.

넷째, 운영 책임은 사라지지 않는다.

AI가 답을 만들더라도, 고객 데이터 보안, 이용 권한, 품질 관리, 고객 불만 대응, 법무 검토는 남는다. 오히려 모델이 예측 불가능하게 답하기 때문에 서비스 정책과 운영 기준을 더 촘촘하게 잡아야 할 때도 있다.

이 지점에서 많은 아이디어가 갈린다. 내부 효율화로는 괜찮은데, 외부에 팔 신규 서비스로는 애매해지는 것이다.

아이디에이션을 할 때 먼저 버려야 할 질문

AI 신규 서비스 기획을 할 때 가장 위험한 질문은 이거다.

AI로 만들 수 있는 게 뭐지?

이 질문으로 시작하면 대부분 기능 나열이 된다.

• 요약
• 추천
• 검색
• 챗봇
• 자동 생성
• 자동 분류

그 자체로 틀린 것은 아니다. 하지만 기능은 사업이 아니다.

질문을 바꾸면 기획안도 달라진다.

지금 고객이 돈을 내고도 해결하지 못하는 반복 문제가 뭐지?

그 문제에서 사람이 계속 붙어야 하는 이유는 뭐지?

AI가 들어가면 비용 구조가 실제로 달라지나?

틀렸을 때 손해가 작고, 맞았을 때 이득이 큰 영역인가?

고객이 매일 또는 매주 다시 쓸 이유가 있나?

이 질문에 답이 없으면, AI 기능은 있어도 AI 사업은 잘 안 된다.

그래도 아이디어를 찾는다면 어디부터 볼까

지금은 완전 자동화보다 “사람이 하던 일을 줄여주는 반자동화”가 더 현실적이다.

처음부터 사람을 완전히 대체하는 그림으로 가면 계산이 자주 틀어진다. 사람이 하던 일을 더 빨리 끝내게 하는 그림에서 출발하는 편이 낫다.

이게 덜 화려해 보여도 사업성은 더 나을 수 있다.

지금이 변곡점일까?

앞으로 토큰 비용은 내려가고, LLM 성능은 더 좋아질 가능성이 높다. 그러면 지금 애매해 보이는 아이디어도 언젠가는 충분히 사업성이 생길 수 있다.

지금 당장은 마땅치 않은 아이디어가 많다. AI로 업무 효율화는 된다. 기존 서비스 개선도 된다. 그런데 대규모 투자를 정당화할 만큼 분명한 신규 서비스 아이디어는 쉽지 않다.

지금이 변곡점인지, 아니면 또 다른 AI의 겨울로 가는 길목인지는 아직 단정하기 어렵다.

그래도 신규 서비스 아이디에이션을 한다면 하나는 분명하다. AI를 넣는 아이디어보다, AI를 넣어도 비용과 품질이 버티는 아이디어를 찾아야 한다.