관리자 1,261명 조사, AI 동료화가 책임 회피 부추겨
AI 에이전트가 레코드 업데이트, 환불 처리, 커뮤니케이션 발송, 복수의 엔터프라이즈 시스템에 걸친 작업까지 수행하면서 일부 기술 리더는 이를 소프트웨어가 아닌 직원·동료·인턴으로 부르기 시작했다. 하버드 비즈니스 리뷰 기사들은 역할·권한·정보 출처·감독 체계·감사 추적을 명확히 정의하고, 이름과 직무 설명을 부여해 온보딩과 성과 평가를 거친 뒤 능력이 검증되면 책임을 확대하자고 제안한다.
그러나 관리자 1,261명 대상 조사는 비유의 위험을 수치로 드러낸다. AI를 도구가 아닌 직원으로 규정하면 에이전트 협업 경험이 있는 관리자들이 결과에 대한 개인 책임을 덜 느끼고 AI에 책임을 더 돌렸으며, 문제는 상위에 더 많이 보고하면서 오류는 더 적게 포착했다. 응답자의 31%는 자사가 이미 AI를 동료 또는 직원으로 규정한다고, 23%는 에이전트가 기업도나 업무 차트에 등장한다고 답했다.
IDC 그룹 부사장 에이미 루미스는 '책임'에서 선을 긋는다. 인간은 기업과 서로에게 의무를 지니며, 에이전트가 언어적으로만 흉내 낼 수 있는 기업 문화와 가치에 대한 이해를 지녔다는 것이다. 그녀는 '책임에는 인간 고유의 특성이 수반된다'며, 동료라는 호칭이 대등한 관계를 암시해 요청 처리에는 능숙하지만 진짜 필요를 인식하지 못할 수 있는 시스템으로 판단을 양도하게 부추긴다고 지적했다. 데이터 접근 권한을 부여한 사람이 그 사용에 대한 책임을 진다.
대신 차용할 부분도 남아 있다. 추적 가능한 접근 권한, 엄격히 범위가 한정된 권한, 지속적 접근을 끊는 킬 스위치 마련은 타당하다. 루미스는 인간적 정체성 대신 시스템이 무엇을 하는지, 무엇에 접근할 수 있는지를 규정하는 운영 헌장을 부여하는 방식이 더 효과적이라고 본다.
萬安算交所 AIXX · 算力硬件实名会员制交易平台 · 进入货源大厅