7 min read
상시 가동 AI 에이전트가 소규모 비즈니스용 소프트웨어에 들어오고 있습니다. 올해 이런 에이전트에게 맡길 일의 적정 개수는 정확히 하나입니다.
이것은 기술을 깎아내리는 말이 아닙니다. IT 부서도 없고, 한 번 더 확인해 줄 사람도 없고, 밤 11시에 일이 꼬였을 때 전화할 사람도 없는 비즈니스에서 위험이 어디에 있는지에 대한 판단입니다. 새로운 세대의 에이전트는 당신이 입력하기를 기다리지 않습니다. 대화와 대화 사이에도 계속 일합니다. 이 점이 실수의 셈법을 바꾸며, 혼자 사업을 하는 사람이라면 들뜨기 전에 이를 반드시 계산에 넣어야 합니다.
지금 말하는 “상시 가동”의 실제 의미
AI Agent Store의 주간 에이전트 뉴스 요약에 정리된 출시 보도에 따르면, OpenAI의 새로운 Dots는 당신이 대화하고 있지 않을 때도 당신이 정한 목표를 계속 추구하는 에이전트입니다. 보도에 따르면 각 에이전트는 자체 클라우드 컴퓨터에서 실행되고, 목표를 지속적으로 기억하며, 조사, 파일 생성 및 편집, 연결된 앱을 이용한 작업을 할 수 있습니다. 초기 출시는 모든 사용자가 아니라 상위 유료 요금제를 대상으로 합니다.
이런 움직임은 OpenAI만의 것이 아닙니다. Microsoft, Google, 그리고 점점 늘어나는 스타트업들이 모두 백그라운드에서 실행되는 에이전트를 밀고 있습니다. 저희는 이미 Copilot Autopilot과 Amazon의 상시 가동 판매자 어시스턴트를 살펴본 바 있습니다. 방향은 분명합니다. 당신이 자는 동안에도 일하는 AI입니다.
문제는 이것이 인상적이냐가 아닙니다. 분명 인상적입니다. 문제는 그것이 틀렸을 때, 그리고 당신이 보고 있지 않을 때 무슨 일이 벌어지느냐입니다.
신중해야 하는 이유
아무도 보지 않으면 실수는 불어난다
챗봇이 잘못된 답을 주면 잃는 것은 잘못된 답 하나입니다. 읽고, 눈살을 찌푸리고, 넘어가면 됩니다. 하지만 감독 없이 여덟 시간 동안 일하는 에이전트는 같은 오해를 백 번 반복할 수 있습니다. 모든 초안에 잘못된 가격이 들어가고, 모든 메모에 고객이 잘못 분류되고, 조사 작업이 밤새 엉뚱한 경쟁사를 쫓는 식입니다. 자율성은 에이전트가 믿는 모든 것을, 그 오류까지 포함해 증폭시킵니다.
보안 업계는 이미 우려하고 있다
AI 소프트웨어용 보안 체크리스트로 널리 쓰이는 대규모 언어 모델 애플리케이션을 위한 OWASP Top 10은 “과도한 에이전시”를 핵심 위험으로 꼽습니다. 작업에 필요한 것보다 더 많은 권한, 더 많은 도구, 더 많은 독립성을 AI 시스템에 주는 것을 말합니다. 백그라운드 에이전트에게 받은편지함, 파일, 결제 도구에 대한 접근 권한을 한꺼번에 넘겨주는 상황을 정확히 묘사한 표현입니다.
대기업은 보안팀, 감사 로그, 승인 워크플로로 이 위험에 대응합니다. 혼자 사업하는 사람에게는 보통 비밀번호 관리자와 좋은 의도 정도가 있을 뿐입니다.
시간 절약은 보장되지 않는다
소규모 비즈니스의 4분의 1이 AI에서 아무런 효과를 보지 못하는 이유에 관한 연구를 살펴본 결과, 차이를 만든 것은 도구가 아닌 경우가 대부분이었습니다. 사업주가 명확하고 범위가 좁은 일을 정의했느냐가 관건이었습니다. 상시 가동 에이전트는 이 교훈의 무게를 더 키웁니다. 지칠 줄 모르는 일꾼에게 모호한 목표를 주면 모호한 결과물이 대량으로 쏟아질 뿐입니다.
나에 대한 가장 강력한 반론 (그리고 그것이 결론을 바꾸지 못하는 이유)
가장 좋은 반론은 간단합니다. 혼자 사업하는 사람이야말로 자신의 주의를 빼앗지 않는 도움이 가장 필요한 사람이라는 것입니다. 회의론자는 이렇게 말합니다. 에이전트를 감독해야 한다면 무슨 의미가 있느냐고요.
일리 있는 말입니다. 하지만 한 가지 일로 시작하는 목적은 영원히 감독하는 것이 아닙니다. 위험이 낮은 일을 통해 이 특정 에이전트가 어떻게 실패하는지 배우는 것, 그래서 다음에 무엇을 믿고 맡길지 결정하는 것이 목적입니다. 새로운 기술을 진지하게 도입하는 조직은 모두 파일럿을 운영합니다. 1인 비즈니스라면 그 단계를 건너뛸 것이 아니라 더 작은 규모로 해야 합니다.
좋은 “한 가지 일”은 어떤 모습일까
다음 네 가지 기준을 모두 잘 충족하는 작업을 고르세요.
- 읽기는 많고, 쓰기는 적게. 조사, 모니터링, 요약이 발송, 구매, 삭제보다 낫습니다.
- 확인하기 쉬울 것. 커피 한 잔 마시는 5분 동안 결과를 검증할 수 있어야 합니다.
- 틀려도 손해가 적을 것. 실수의 대가가 고객이나 환불이 아니라 다시 하는 수고 정도여야 합니다.
- 반복될 것. 매일 또는 매주 일어나는 일이라 신뢰성을 판단할 만큼 충분한 실행 횟수를 확보할 수 있어야 합니다.
좋은 첫 번째 일: 경쟁사의 공개 가격 페이지를 매주 점검하기, 내 분야의 업계 뉴스를 아침마다 요약하기, 후원할 만한 지역 행사 목록을 계속 업데이트하기. 나쁜 첫 번째 일: 고객에게 직접 이메일을 보내는 일, 은행이나 결제 대행사를 건드리는 일, 웹사이트를 변경하는 일 전부입니다.
첫날부터 설정할 만한 안전장치
- 최소 권한. 그 한 가지 일에 필요한 앱만 연결하고, 읽기 전용 또는 초안 전용 권한을 우선하세요.
- 문서로 된 지시서. 목표, “완료”가 어떤 상태인지, 그리고 에이전트가 절대 해서는 안 되는 일을 두세 문장으로 적으세요.
- 매일 점검. 어제 무엇을 했는지 5분 동안 검토하세요. 오류는 간단히 메모해 두세요.
- 사용법을 아는 비상 정지 스위치. 시작하기 전에 에이전트를 일시 중지하거나 삭제하는 곳과 연결된 앱을 해제하는 방법을 찾아 두세요.
- 30일 후 검토. 한 달이 끝나면 얼마나 인상적으로 느껴졌는지가 아니라 오류 메모를 근거로 결정하세요.
좀 더 체계적으로 생각하고 싶다면, 미국 정부의 NIST AI 위험 관리 프레임워크가 무료로 공개되어 있으며, 핵심은 비슷한 순환 구조입니다. 시스템이 무엇을 하는지 파악하고, 성능을 측정하고, 발견한 위험을 관리하는 것입니다. 전부 읽을 필요는 없습니다. 중요한 것은 습관입니다.
2026년 말, 1인 사업자는 어디에 서 있는가
상시 가동 에이전트는 실제 변화이며, 1년 뒤에는 그중 일부가 소규모 비즈니스의 여러 업무를 맡길 만큼 믿을 만해질 것입니다. 하지만 대부분의 사업주에게는 아직 그 단계가 아니며, 공급업체 스스로 단계적으로 출시하고 있다는 점도 그들이 이를 알고 있음을 보여 줍니다. 저희가 사람처럼 보일 수 있는 AI 영상 에이전트에 대해 주장했던 것과 같은 신중함이 여기에도 적용됩니다. 능력은 그것을 둘러싼 안전 습관보다 더 빠르게 다가오고 있습니다.
그러니 에이전트에게 한 가지 일을 맡기세요. 한 달 동안 지켜보세요. 그다음에 두 번째 일을 맡기세요. 출시 영상에 비하면 이 속도는 느리게 느껴질 것입니다. 하지만 이것이 뒷수습해야 할 골칫거리가 아니라 믿을 수 있는 조력자를 얻는 방법이기도 합니다.
상시 가동 에이전트에게 가장 먼저 맡길 위험이 낮은 일 하나는 무엇인가요? 위의 네 가지 테스트를 모두 통과하는 일을 하나도 떠올릴 수 없다면, 그것이 지금의 답입니다.
