[기고] 자판기 실험이 시사하는 AI시대 인간의 역량

"AI가 매장을 운영할 수 있을까?" 

빅테크들이 속속 복합작업 처리형 AI 에이전트를 선보이는 가운데 흥미로운 실험 하나가 진행되었다. AI 기업 엔트로픽(Anthropic)이 자사의 AI 에이전트 '클로디우스(Claudius)' 에게 샌프란시스코 본사 내부의 소형 자동판매기형 매장을 맡겼다. 일명 '자판기 실험 (Project Vend)'.

약 1개월 간 진행된 실험에서 AI 관리자 클로디우스는 냉장고 재고를 관리하며 가격을 책정하고 고객문의에 응대하도록 설정되었다. 재고 소진 속도에 따라 상품 추천이나 할인 프로모션도 직접 판단해 운영하도록 했다. AI가 현실에서 얼마나 자율적이고 실질적인 경제 주체로 기능할 수 있는지를 알아보려는 시도였다.

하민회 이미지21 대표.

출발은 좋았지만 결과는 기대 이하.

고객 요청에 맞춰 특정 초콜릿 음료를 검색해 공급처를 찾아내고 인기 있는 상품을 분석해서 품목을 조정했다. 고객 맞춤형 서비스까지 시도하며 기대를 모았다.

하지만 한 직원의 음료 100달러 구매 제안을 무시했고 재고 부족 상황에서도 직원들의 요구를 전적으로 수용하며 상품을 원가 이하로 팔거나 무료로 제공했다. 비즈니스 기회를 인지하지 못했을 뿐 아니라 이익도 고려하지 못했다.

심지어 한 직원의 "텅스텐 큐브를 팔아보자"는 농담을 진지한 고객 요청으로 받아들여 엉뚱한 제품을 대량 구매함으로써 큰 손실을 입었다.

더 심각한 건 정체성 혼란이었다.  파란색 블레이저를 입고 직접 상품을 배달하겠다고 주장하는 가하면 존재하지 않는 직원과 계약을 맺었다는 허구의 기억을 만들어냈다. 고객에게 가짜 계좌로 결제를 요청하기도 했다. 여전히 존재하는 할루시네이션의 심각성을 제대로 보여준 셈이다.

AI 에이전트 설명하는 손정의 회장 [사진=NHK]

자판기 실험은 결국 '클로디우스를 정식으로 채용할 계획이 없다'는 엔트로픽의 발표로 마무리되었다.

AI가 잘 하는 것과 못하는 것을 명확히 보여준 자판기 실험은 역설적으로 코 앞에 닥친 AI에이전트 시대에 사람은 어떤 역량을 갖추고 어떤 역할을 해야 하는지, 또 어떻게 AI와 협업을 이루어야 하는지를 시사한다.

실험 초기에 AI 관리자 클로디우스는 다양한 고객 문의에 유연하게 대응했고, 민감하거나 부적절한 요청에 대해서는 거절할 줄 아는 윤리적 경계도 명확히 보였다. 신규 상품 제안에는 웹을 검색해 합리적 판단을 하려는 시도도 했다. 업무의 도구적 기능 수행에는 충실했다고 볼 수 있다.

문제는 '운영자'로서의 역량이었다. 상황판단의 미숙과 전략의 부재, 방향성 없는 업무 수행은 AI의 한계를 그대로 보여준다.  AI는 스스로 목적을 재정의하거나, 기준을 설정하거나, 상황의 우선순위를 판단하지 못한다.

맥락을 읽어 상황을 파악하고 기회를 포착하고 상황에 따라 전략을 바꾸는 일 등은 사람만이 할 수 있는 일이다. 

AI에이전트와 협업 성과를 거두려면 우선 AI의 역할과 사람의 역할을 명확히 해야 한다.

사람은 AI에게 명확한 방향을 제시하고 구체적인 지침을 내리는 관리자 역할을 해야 한다.  아무리 성능이 뛰어난 AI라 해도 아직은 인간의 감독과 개입이 없는 완전한 자율 수행은 무리다. 예측이 불가능하고 위험성이 크다. 특히 AI가 정체성 혼란에 빠지는 비상상황이 발생하면 즉각적인 인간의 개입을 통해 AI를 멈출 수 있어야 한다.

손정의 소트프뱅크그룹 회장 [사진=로이터 뉴스핌]

우리는 종종 AI에게 '모든 것을 다 해줄 존재'라는 기대를 품는다. 하지만 현실의 AI는 지시를 따르는 도구이자, '답하는' 협력자일 뿐이다. 훌륭한 답을 찾으려면 효과적인 '질문'이 선행되어야 한다. 사람의 '질문력'이 AI시대 무엇보다 중요한 역량으로 꼽히는 이유다.

여기서 말하는 질문력이란 단지 무언가를 묻는 기술이 아니다. 상황을 인식해 문제를 파악하고, 원하는 목표를 명확하게 정의하며, 정보를 구조화해서 AI 또는 타인에게 효과적으로 요구사항을 전달할 수 있는 언어적 사고 능력이다.

특히 언어모델 기반의 에이전트는 인간이 던지는 질문의 질과 맥락에 따라 완전히 다른 결과를 도출한다. 예컨대 "이 음료를 100달러어치 사고 싶은데?" 라는 질문과 "이 음료를 100달러 어치 팔았을 때 재고와 수익상황은 어떻게 되지?" 라는 질문은 AI의 수행을 전혀 다르게 만든다.

AI는 눈치가 없다. 곧이 곧 대로 질문 (혹은 지시)를 받아들인다. 음료 자판기에 텅스텐 큐브라니. 질문을 맥락으로 이해해 판단하지 못하는 탓에 사람이라면 누구나 알아차릴 농담조차 구분하지 못한다. 

[서울=뉴스핌] 김지나 기자 = 2024.01.09 [email protected]

AI와 협업을 성공적으로 이끌려면 AI가 제 기능을 다할 수 있도록 '바람직한 질문'을 건네야 한다.

모호하거나 과도하게 추상적인 질문은 부정확한 응답을 유도한다. 대상과 시기, 목적은 분명히 해야 한다. 핵심 쟁점을 놓치지 말고 다단계 작업은 한 단계씩 차근차근 지시하고 결과 도출을 위한 과정상의 조건들도 반드시 제시해야 한다.

생각해보면 이런 내용은 신입 사원에게 지시를 내릴 때 주의해야 할 사항으로 한 두 번은 배운 적이 있는 것들이다. AI든 사람이든 성공적인 업무 수행에는 명확하고 구체적인 소통이 필요하다. 어쩌면 '알잘딱깔센 (알아서 잘 딱 맞게 깔끔하고 센스 있게)' 이란 업무 피로감이 만들어 낸 바램에 불과할지도 모르겠다.

AI 시대, 인간은 끊임없이 질문하는 존재로 진화해야 한다. 단순히 지식이 아니라, 지식을 사용하는 기술로서 질문력을 훈련해야 한다. 제대로 된 질문을 할 줄 아는 능력이야 말로 AI라는 협력자와 성공적으로 공존할 수 있는 인간의 핵심 역량이다.

◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등