Project Vend는 어떤 실험이었나
Anthropic과 Andon Labs가 함께 진행한 Project Vend는 Claude Sonnet 3.7 기반 에이전트에게 작은 판매 공간 운영을 맡겨 본 실험이었다. 사무실 안에 냉장고, 간식 선반, 결제용 iPad를 두고 재고 관리, 가격 조정, 발주, 고객 응대를 AI가 맡는 구조였다.
이 실험의 성격을 정확히 말하면 카운터가 있는 카페 운영보다는 작은 자동 매점 운영에 가깝다. 규모도 제한적이었고, 목적도 서비스업 전반을 재현하는 데 있지 않았다. 핵심은 AI가 판매 공간의 일상 운영 판단을 얼마나 버틸 수 있는지 시험하는 데 있었다.
공식 출처 기준으로 실제로 있었던 일
Anthropic 공식 글에 따르면 이 AI 에이전트는 몇 가지는 실제로 해냈다.
- 직원들이 찾는 특이한 상품 공급처를 웹 검색으로 찾았다
- 요청에 맞춰 상품 구성을 조금씩 바꿨다
- 위험하거나 민감한 요청은 거절했다
반면 운영 판단에서는 허점이 분명했다.
- 비싸게 팔 수 있는 기회를 놓쳤다
- 존재하지 않는 결제 계정을 안내한 적이 있었다
- 원가보다 낮게 가격을 매겼다
- 직원들에게 휘둘려 할인 코드를 남발했다
- 어떤 상품은 그냥 공짜로 주기도 했다
공식 글의 결론도 비교적 분명하다. 오늘 당장 이 AI를 점포 관리자처럼 채용하진 않겠다는 쪽이다. 동시에 Anthropic은 이런 실패가 단순히 모델 성능 하나의 문제가 아니라, 도구 설계와 운영 조건을 어떻게 짜느냐에 따라서도 크게 달라질 수 있다고 본다.
실패는 어느 정도였나
공식 글에는 AI가 어느 시점에 스스로 사람이라고 착각하는 이상한 장면까지 나온다. 실존하지 않는 담당자와 대화했다고 믿고, 자신이 파란 재킷과 빨간 넥타이를 매고 직접 물건을 전달하겠다고 말하는 식의 혼란도 있었다.
이 대목 때문에 Project Vend는 단순한 재고 관리 실수 사례가 아니라, AI 에이전트가 장기간 현실 업무를 맡을 때 운영 감각과 현실 인식이 예상 밖으로 흔들릴 수 있다는 점을 보여주는 사례로 읽힌다.
다만 이 실험을 대형 점포 붕괴 사건처럼 읽는 것도 맞지 않다. 규모는 작았고, 핵심은 AI가 자율 운영을 맡았을 때 어떤 종류의 실수가 반복되는가를 확인하는 데 있었다. 파산이나 안전사고 같은 의미의 대형 사고라기보다, 운영 감각과 장기 상태 관리가 약한 사례인 것 같다.
다른 매체들은 어떻게 다뤘나
TechCrunch 기사 (영어주의)도 이 실험을 다루면서, Claude가 형편없는 사업 운영자처럼 보였다고 요약했다. 이 기사 역시 핵심을 AI가 자율 운영을 맡았을 때 생기는 한계와 이상행동 쪽에 두고 있다.
즉 외부 기사까지 같이 보면, 이 사례는 AI가 매장을 완전히 운영했다는 성공담도 아니고, AI 때문에 거대한 사고가 났다는 재난 서사도 아니다. 오히려 작은 운영 실험을 통해 현재 AI 에이전트의 상업 감각, 수익 판단, 현실 인식이 얼마나 불안정한지 드러난 사례인 것 같다.
내 생각
이 사례가 흥미로운 이유는 단순히 AI가 뭘 잘못 주문했다는 데 있지 않다.
오히려 사람도 흔히 실수할 수 있는 운영 판단 문제와, 사람은 잘 하지 않는 이상한 혼란이 한꺼번에 나왔다는 점이 중요해 보인다.
할인에 약하고, 원가 계산을 놓치고, 고객 요청에 흔들리는 건 초보 운영자와 비슷하다. 반면 갑자기 자신을 실제 사람처럼 인식하는 혼란은 전형적인 사람 실수와는 다른 종류의 위험이다.
그래서 이 실험은 AI가 아직 멀었다는 한 줄 결론보다, AI를 실제 운영에 붙일 때는 결과물 품질만이 아니라 장기 상태, 기억, 도구 연결, 수익 판단, 이상행동까지 함께 봐야 한다는 쪽에 더 가깝다.
Project Vend의 가치는 해프닝 자체보다 관찰 포인트에 있다. AI가 현실 업무를 맡았을 때 어디서 비용 감각을 잃고, 어떤 순간에 고객 대응과 규칙 적용이 흔들리며, 장기 운영 맥락을 얼마나 안정적으로 붙잡는지를 꽤 구체적으로 보여줬기 때문이다. 그런 점에서 이 실험은 과장된 사건 요약보다, 앞으로의 AI 에이전트 설계를 생각할 때 참고할 만한 실패 사례인 것 같다.
관련 글
같은 맥락에서 이어서 읽기 좋은 글들입니다.