프롤로그

결정은 점점 더 빠르고 정확해지고 있다. 그런데 이상하게도, 그 결정에 대해 설명해주는 사람은 줄어들고 있다. 대출이 거절되고, 광고가 보이지 않고, 상담이 끊기고, 환불이 되지 않는다. 그럴 때마다 돌아오는 말은 비슷하다. “시스템상 그렇게 처리됐다.” 이 문장이 반복될수록 한 가지 감각이 남는다. 누군가 결정했는데, 아무도 책임지지 않는 느낌이다.

표면에 떠오른 것들

최근 뉴스들을 찬찬히 들여다보면, 서로 다른 산업과 영역에서 같은 구조가 반복된다. AI가 신용을 평가한다. 점수는 나쁘지 않은데 대출은 거절된다. 은행 직원은 고개를 젓는다. “AI 심사 결과라 이유를 알 수 없다.” AI가 고객 응대를 맡는다. 문제는 발생했지만 상담은 ‘조회 불가’로 끝난다. 사람에게 연결되기 전, 책임은 이미 사라진다. AI가 여행 일정을 짜준다. 완벽해 보였던 계획은 현실에서 어긋난다. 플랫폼은 말한다. “추천일 뿐, 책임은 없다.” AI가 광고를 배치한다. 그 결과 특정 집단은 보이지 않게 배제된다. 차별은 발생했지만, 가해자는 특정할 수 없다. 의료 AI가 진단을 보조한다. 오류 가능성은 인지되지만, 사고가 나면 책임 주체는 불분명하다. 이 모든 사례의 공통점은 단순하다. 결정은 자동화되었지만, 책임은 분산되었고, 결국 증발했다.

다르게 읽기

⛔️ 책임은 사라지는가? 이 현상은 기술의 문제가 아니라, 오래전부터 논의되어 온 책임 구조의 변화와 맞닿아 있다. 사회학자 막스 베버는 관료제를 설명하며 “규칙이 늘어날수록 개인의 책임은 줄어든다”고 말했다. 책임은 개인의 얼굴을 떠나 절차 속으로 이동한다. 한나 아렌트는 ‘악의 평범성’을 말하며 “가장 위험한 것은 판단하지 않는 행위”라고 경고했다. 명령과 시스템에 기대 판단을 외주화할 때, 사람은 스스로를 책임에서 떼어낸다. 기술사회학에서는 이를 '책임의 비대칭'이라 부른다. 결정의 영향은 개인에게 돌아오지만, 결정 과정의 주체는 조직·알고리즘·시스템으로 흩어진다. AI는 이 구조를 한 단계 더 밀어붙인다. 판단은 더 정교해졌지만, 판단의 이유는 ‘블랙박스’ 안으로 들어간다. 이때 책임은 사라진 것이 아니라, 보이지 않게 이동했을 뿐이다. ⛔️ 제도는 무엇을 시도하고 있는가 이 흐름을 인지한 사회는 뒤늦게 제도적 대응을 시작했다. 유럽연합은 세계 최초로 AI 기본법을 전면 시행했다. 핵심은 단순하다. “AI가 결정을 내릴수록, 인간의 책임은 더 명확해야 한다.” 한국에서도 금융권을 중심으로 “AI가 심사하되, 사람은 책임진다”는 원칙이 논의된다. 설명 의무, 개입 가능성, 책임 귀속을 법으로 묶으려는 시도다. 최근에는 ‘AI가 사람을 대신해 행동할 경우, 책임과 효력을 사전에 정의해야 한다’는 권리 선언 성격의 특허까지 등장했다. 이는 기술 낙관도, 기술 공포도 아니다. 책임이 사라지는 속도를 제도가 따라잡으려는 몸부림에 가깝다.

남겨진 생각

문제는 AI가 아니다. 문제는 우리가 편리함과 함께 책임까지 넘기고 있는지다. 결정이 자동화될수록 설명받고 따져 묻고 책임을 요구하는 권리는 더 적극적으로 지켜내지 않으면 사라진다. 그리고 이 모든 고민은, 최근 기사 한 줄에서 다시 떠오른다. “AI가 당신을 평가한다… 신용점수 700점인데 대출이 거절된 이유.” 결정은 있었지만, 책임은 증발한 순간이다. "기술은 결정을 대신할 수 있지만, 책임까지 대신 가져가지는 않는다."

-------------------

패밀리 lll 특허는 "AI가 사람 대신 행동하면, 책임·효력 정의한 권리 선언" (Data&AI 2026.01.27) 세계 첫 전면 시행' 인공지능기본법은 무엇이고, 내게 미칠 영향은? (BBC 코리아 • 2026.01.22) “AI가 당신을 평가한다…신용점수 700점인데 대출 거절된 이유” ( 테크42. 2026.01.20) AI가 심사하고 사람이 책임진다…대출심사 변화 예고 (뉴스웍스 2026.01.26) 1월부터 ‘AI 기본법’ 시행…금융권, 책임과 통제 시대 맞이 대출부터 이상거래 감시까지…AI 법제화 속 금융 현장 변화와 도전 (스트레이트뉴스 2025.12.16 ) AI 콜센터 '뺑뺑이 상담' 끝낼 수 있을까?...인간과 AI 공존법 AI와 인간의 협업, 고객 경험을 바꾸는 가장 현실적인 해법 (아웃소싱타임스 2025.10.28 ) 페이스북, ‘구인광고 성차별’ 드러났다…AI 알고리즘이 만든 디지털 불평등 (EBN산업경제 2025.11.11) 'AI 대출심사' 시대 … '알고리즘 금융'의 책임은 누구 몫인가 (뉴데일리경제 2025.07.08) "결제 했는데 '미결제 신고'라니"… 카카오 택시, 시스템 오류 책임 고객에 떠넘기기 결제 완료 알림 떴는데 택시기사 단말기엔 '미반영' 카카오T 고객센터 "조회 불가… 기사와 직접 해결하라" 상담 종료 자동결제·오인탑승·콜차단 등 반복되는 책임 회피 논란 (조선비즈 2025.11.19) 이중 결제됐는데 닥치고 '환불불가'...아고다, 엉터리 결제 시스템 운영하며 AS 귀닫아 고객센터 연결도 불통 (소비자가 만드는 신문2025.03.19) AI가 짜준 '완벽한' 여행…"현실은 완전 엉망" (뉴시스 2025.10.15) 보내지 말라’ 했는데 문자 오발송…구글 제미나이 오류 직접 확인해보니 안드로이드 제미나이 사용자, 통제 불안 확대 오발송 방지법은 ‘연결된 앱’ 해제로 권한 제한 “AI 기술, 아직 미완성...사전 공지 의무 필요” (투데이신문 2026.01.30) “환불은 숙소 탓, 오류는 시스템 탓”...숙박앱, 책임 회피 구조 여전 (핀포인트뉴스 2025.10.28) 전문가들, 의료 AI 진단 오류시 책임 소재 문제 대비해야 (의학신문 2025.12.04) AI 자동화의 위험성, 인간 중심 의사결정 구조가 해법이다 (GTT코리아 2026.01.08)